Modelos / Llama
Llama 3.3 70B
Modelo grande e denso da Meta. Precisa de Mac com muita memória ou de duas placas.
- Parâmetros
- 70.6B
- Contexto máximo
- 128K
- Placa mínima
- 48 GB de VRAM
- Mac mínimo
- 64 GB
Meta · licença llama3.3 · mínimos com Q4_K_M e 8K de contexto
Rodar no Ollama
- Q4_K_M
ollama run llama3.3:70b - Q5_K_M
ollama run llama3.3:70b-instruct-q5_K_M - Q8_0
ollama run llama3.3:70b-instruct-q8_0 - FP16
ollama run llama3.3:70b-instruct-fp16
Quanta memória precisa
Total com pesos, KV cache e runtime, por quantização e contexto.
| Quantização | 4K | 8K | 32K | 128K |
|---|---|---|---|---|
| Q4_K_M | 44,5 GB | 45,9 GB | 54,6 GB | 89,5 GB |
| Q5_K_M | 51,5 GB | 53 GB | 61,7 GB | 96,5 GB |
| Q8_0 | 76 GB | 77,4 GB | 86,1 GB | 121 GB |
| FP16 | 141,5 GB | 143 GB | 151,7 GB | 186,5 GB |
Placas que rodam
Nenhuma placa do catálogo roda este modelo sozinha. Veja os Macs abaixo.
Macs
- M5não cabe nem com 32 GB
- M5 Proa partir de 64 GB · ≈ 5,1 tok/s
- M5 Maxa partir de 64 GB · ≈ 7,9 tok/s
- M4não cabe nem com 32 GB
- M4 Proa partir de 64 GB · ≈ 4,5 tok/s
- M4 Maxa partir de 64 GB · ≈ 7,1 tok/s
Arquitetura
- 80 camadas, 8 cabeças de KV de 128 dimensões.
- Cada token de contexto ocupa cerca de 320 KB de KV cache em F16.
Fontes: config.json · arquivo de pesos · atualizado em 16/10/2026