Modelos / Gemma 3
Gemma 3 12B
Bom português e visão. Escolha segura para placas de 12 GB.
- Parâmetros
- 12.2B
- Contexto máximo
- 128K
- Placa mínima
- 11 GB de VRAM
- Mac mínimo
- 16 GB
Google · licença gemma · mínimos com Q4_K_M e 8K de contexto
Rodar no Ollama
- Q4_K_M
ollama run gemma3:12b - Q8_0
ollama run gemma3:12b-it-q8_0 - FP16
ollama run gemma3:12b-it-fp16
Quanta memória precisa
Total com pesos, KV cache, visão e runtime, por quantização e contexto.
| Quantização | 4K | 8K | 32K | 128K |
|---|---|---|---|---|
| Q4_K_M | 9,1 GB | 9,4 GB | 11,6 GB | 20 GB |
| Q5_K_M | 10,3 GB | 10,7 GB | 12,8 GB | 21,2 GB |
| Q8_0 | 14,5 GB | 14,9 GB | 17 GB | 25,4 GB |
| FP16 | 25,8 GB | 26,1 GB | 28,2 GB | 36,7 GB |
Placas que rodam
- RTX 5070 12 GBRoda bem≈ 63 tok/s
- RTX 4070 Super 12 GBRoda bem≈ 47 tok/s
- RTX 4070 12 GBRoda bem≈ 47 tok/s
- RTX 3060 12 GB 12 GBRoda bem≈ 33 tok/s
- Radeon RX 7700 XT 12 GBRoda bem≈ 33 tok/s
- Arc B580 12 GBRoda bem≈ 31 tok/s
- RTX 5080 16 GBRoda bem≈ 89 tok/s
- RTX 5070 Ti 16 GBRoda bem≈ 83 tok/s
- RTX 4080 Super 16 GBRoda bem≈ 68 tok/s
- RTX 4070 Ti Super 16 GBRoda bem≈ 63 tok/s
- Radeon RX 9070 XT 16 GBRoda bem≈ 48 tok/s
- Radeon RX 9070 16 GBRoda bem≈ 48 tok/s
- Radeon RX 7800 XT 16 GBRoda bem≈ 47 tok/s
- RTX 5060 Ti 16 GB 16 GBRoda bem≈ 42 tok/s
- RTX 4060 Ti 16 GB 16 GBRoda bem≈ 27 tok/s
- Radeon RX 9060 XT 16 GB 16 GBRoda bem≈ 24 tok/s
- Radeon RX 7600 XT 16 GBRoda bem≈ 22 tok/s
- Radeon RX 7900 XT 20 GBRoda bem≈ 60 tok/s
- RTX 4090 24 GBRoda bem≈ 94 tok/s
- RTX 3090 24 GBRoda bem≈ 87 tok/s
- Radeon RX 7900 XTX 24 GBRoda bem≈ 72 tok/s
- RTX 5090 32 GBRoda bem≈ 167 tok/s
Macs
- M5a partir de 16 GB · ≈ 15 tok/s
- M5 Proa partir de 24 GB · ≈ 29 tok/s
- M5 Maxa partir de 36 GB · ≈ 35 tok/s
- M4a partir de 16 GB · ≈ 11 tok/s
- M4 Proa partir de 24 GB · ≈ 26 tok/s
- M4 Maxa partir de 36 GB · ≈ 31 tok/s
Arquitetura
- 48 camadas, 8 cabeças de KV de 256 dimensões.
- 40 camadas olham só os últimos 1.024 tokens; 8 guardam o contexto inteiro.
Fontes: config.json · arquivo de pesos · atualizado em 16/10/2026