Roda Local

Modelos / Gemma 4

Gemma 4 31B

O maior Gemma 4 denso. Excelente em português; cabe em 24 GB com contexto moderado.

Parâmetros
31.3B
Contexto máximo
256K
Placa mínima
24 GB de VRAM
Mac mínimo
32 GB

Google · licença apache-2.0 · mínimos com Q4_K_M e 8K de contexto

Rodar no Ollama

  • Q4_K_M
    ollama run gemma4:31b
  • Q8_0
    ollama run gemma4:31b-it-q8_0
  • FP16
    ollama run gemma4:31b-it-bf16

Quanta memória precisa

Total com pesos, KV cache, visão e runtime, por quantização e contexto.

Quantização4K8K32K128K
Q4_K_M21,4 GB21,8 GB24,4 GB34,4 GB
Q5_K_M24,5 GB25 GB27,5 GB37,6 GB
Q8_035,3 GB35,7 GB38,2 GB48,3 GB
FP1664 GB64,5 GB67 GB77,1 GB

Placas que rodam

Macs

  • M5a partir de 32 GB · ≈ 5,7 tok/s
  • M5 Proa partir de 48 GB · ≈ 12 tok/s
  • M5 Maxa partir de 36 GB · ≈ 14 tok/s
  • M4a partir de 32 GB · ≈ 4,5 tok/s
  • M4 Proa partir de 48 GB · ≈ 10 tok/s
  • M4 Maxa partir de 36 GB · ≈ 12 tok/s

Arquitetura

  • 60 camadas, 16 cabeças de KV de 256 dimensões.
  • 50 camadas olham só os últimos 1.024 tokens; 10 guardam o contexto inteiro.
  • As camadas globais usam 4 cabeças de 512 dimensões.

Fontes: config.json · arquivo de pesos · atualizado em 16/10/2026

Mesma família

Gemma 4 E4B · Gemma 4 12B · Gemma 4 26B-A4B