Roda Local

Modelos / Gemma 3

Gemma 3 Gaia PT-BR 4B

Gemma 3 4B treinado a mais em português do Brasil pelo CEIA da UFG.

Parâmetros
4.3B
Contexto máximo
128K
Placa mínima
6 GB de VRAM
Mac mínimo
8 GB

CEIA-UFG · licença gemma · mínimos com Q4_K_M e 8K de contexto

Rodar no Ollama

  • Q4_K_M
    ollama run hf.co/mradermacher/Gemma-3-Gaia-PT-BR-4b-it-GGUF:Q4_K_M
  • Q5_K_M
    ollama run hf.co/mradermacher/Gemma-3-Gaia-PT-BR-4b-it-GGUF:Q5_K_M
  • Q8_0
    ollama run hf.co/mradermacher/Gemma-3-Gaia-PT-BR-4b-it-GGUF:Q8_0
  • FP16
    ollama run hf.co/mradermacher/Gemma-3-Gaia-PT-BR-4b-it-GGUF:F16

Quanta memória precisa

Total com pesos, KV cache e runtime, por quantização e contexto.

Quantização4K8K32K128K
Q4_K_M3 GB3,2 GB4,2 GB8,1 GB
Q5_K_M3,5 GB3,6 GB4,6 GB8,5 GB
Q8_04,9 GB5 GB6 GB9,9 GB
FP168,7 GB8,9 GB9,9 GB13,8 GB

Placas que rodam

Macs

  • M5a partir de 16 GB · ≈ 43 tok/s
  • M5 Proa partir de 24 GB · ≈ 86 tok/s
  • M5 Maxa partir de 36 GB · ≈ 102 tok/s
  • M4a partir de 16 GB · ≈ 34 tok/s
  • M4 Proa partir de 24 GB · ≈ 77 tok/s
  • M4 Maxa partir de 36 GB · ≈ 91 tok/s

Arquitetura

  • 34 camadas, 4 cabeças de KV de 256 dimensões.
  • 29 camadas olham só os últimos 1.024 tokens; 5 guardam o contexto inteiro.

Fontes: config.json · arquivo de pesos · atualizado em 16/10/2026

Mesma família

Gemma 3 4B · Gemma 3 12B · Gemma 3 27B