LLM no Mac
No Mac com Apple Silicon, CPU e GPU dividem a mesma memória. O macOS libera cerca de 75% dela para a GPU, então um Mac de 32 GB tem perto de 24 GB para o modelo, o mesmo que uma RTX 4090.
Contas com Q4_K_M e 8K de contexto. Use a calculadora para escolher o chip e mudar contexto e quantização.
O que roda em cada memória
- 8 GB6 GB úteis · 8 modelosQwen 3.5 4B, Gemma 3 4B, Gemma 3 Gaia PT-BR 4B
- 16 GB12 GB úteis · 23 modelosGemma 3 12B, Mistral Nemo 12B, Gemma 4 12B
- 18 GB13,5 GB úteis · 24 modelosQwen 2.5 14B, Qwen 2.5 Coder 14B, Qwen 3 14B
- 24 GB18 GB úteis · 28 modelosMagistral Small 24B, gpt-oss 20B, Qwen 2.5 14B
- 32 GB24 GB úteis · 41 modelosGLM-4.7 Flash, Qwen 3 30B-A3B, Qwen 3 Coder 30B-A3B
- 36 GB27 GB úteis · 41 modelosQwen 3.5 35B-A3B, Qwen 3.6 35B-A3B, Qwen 3 32B
- 48 GB36 GB úteis · 41 modelosQwen 3.5 35B-A3B, Qwen 3.6 35B-A3B, Qwen 3 32B
- 64 GB48 GB úteis · 42 modelosQwen 3.5 35B-A3B, Qwen 3.6 35B-A3B, Qwen 3 32B
- 96 GB72 GB úteis · 44 modelosLlama 3.3 70B, Qwen 3.5 35B-A3B, Qwen 3.6 35B-A3B
- 128 GB96 GB úteis · 44 modelosgpt-oss 120B, Llama 4 Scout, Llama 3.3 70B
- 192 GB144 GB úteis · 44 modelosgpt-oss 120B, Llama 4 Scout, Llama 3.3 70B
- 256 GB192 GB úteis · 44 modelosgpt-oss 120B, Llama 4 Scout, Llama 3.3 70B
- 512 GB384 GB úteis · 44 modelosgpt-oss 120B, Llama 4 Scout, Llama 3.3 70B
Velocidade por chip
A velocidade depende da banda de memória do chip. Estimativa com o Qwen 3 8B em Q4_K_M.
- M5 Max2026 · 36, 48, 64, 128 GB · até 614 GB/s≈ 65 tok/s
- M5 Pro2026 · 24, 48, 64 GB · até 307 GB/s≈ 41 tok/s
- M5 Ultra2026 · 96, 256 GB · até 1.200 GB/s≈ 96 tok/s
- M62026 · 16, 24, 32 GB · até 170 GB/s≈ 23 tok/s
- M3 Ultra2025 · 96, 256, 512 GB · até 819 GB/s≈ 66 tok/s
- M52025 · 16, 24, 32 GB · até 153 GB/s≈ 20 tok/s
- M42024 · 16, 24, 32 GB · até 120 GB/s≈ 16 tok/s
- M4 Max2024 · 36, 48, 64, 128 GB · até 546 GB/s≈ 57 tok/s
- M4 Pro2024 · 24, 48, 64 GB · até 273 GB/s≈ 37 tok/s
- M2 Max2023 · 32, 64, 96 GB · até 400 GB/s≈ 42 tok/s
- M2 Pro2023 · 16, 32 GB · até 200 GB/s≈ 27 tok/s
- M2 Ultra2023 · 64, 128, 192 GB · até 800 GB/s≈ 64 tok/s
- M32023 · 8, 16, 24 GB · até 100 GB/s≈ 13 tok/s
- M3 Max2023 · 36, 48, 64, 96, 128 GB · até 400 GB/s≈ 42 tok/s
- M3 Pro2023 · 18, 36 GB · até 150 GB/s≈ 20 tok/s
- M1 Ultra2022 · 64, 128 GB · até 800 GB/s≈ 64 tok/s
- M22022 · 8, 16, 24 GB · até 100 GB/s≈ 13 tok/s
- M1 Max2021 · 32, 64 GB · até 400 GB/s≈ 42 tok/s
- M1 Pro2021 · 16, 32 GB · até 200 GB/s≈ 27 tok/s
- M12020 · 8, 16 GB · até 68 GB/s≈ 9,1 tok/s