VRAM / 24 GB
Quais LLMs rodam com 24 GB de VRAM
Numa placa de 24 GB, 40 dos 44 modelos do catálogo cabem em Q4_K_M com 8K de contexto. Os maiores que rodam com folga: GLM-4.7 Flash, Qwen 3 30B-A3B e Qwen 3 Coder 30B-A3B.
A conta já desconta cerca de 1 GB para o sistema e o monitor. "Contexto máx." é o maior contexto que ainda cabe na placa.
Modelos que cabem
ModeloCom 8KMemóriaContexto máx.
- GLM-4.7 FlashRoda bem20 GB32K de contexto
ollama run glm-4.7-flash - Qwen 3 30B-A3BRoda bem19,9 GB32K de contexto
ollama run qwen3:30b - Qwen 3 Coder 30B-A3BRoda bem19,9 GB32K de contexto
ollama run qwen3-coder:30b - Qwen 3.5 27BRoda bem18,6 GB32K de contexto
ollama run qwen3.5:27b - Qwen 3.6 27BRoda bem18,9 GB32K de contexto
ollama run qwen3.6:27b - Qwen 3.8 27BRoda bem18,9 GB32K de contexto
ollama run qwen3.8:27b - Gemma 3 27BRoda bem19 GB32K de contexto
ollama run gemma3:27b - Gemma 4 26B-A4BRoda bem19,1 GB64K de contexto
ollama run gemma4:26b - Mistral Small 3.2 24BRoda bem17 GB32K de contexto
ollama run mistral-small3.2:24b - Devstral Small 2 24BRoda bem17 GB32K de contexto
ollama run devstral-small-2:24b - Magistral Small 24BRoda bem16,2 GB40K de contexto
ollama run magistral:24b - gpt-oss 20BRoda bem14,5 GB128K de contexto
ollama run gpt-oss:20b - Qwen 2.5 14BRoda bem11,1 GB32K de contexto
ollama run qwen2.5:14b - Qwen 2.5 Coder 14BRoda bem11,1 GB32K de contexto
ollama run qwen2.5-coder:14b - Qwen 3 14BRoda bem11,1 GB40K de contexto
ollama run qwen3:14b - DeepSeek R1 14BRoda bem11,1 GB32K de contexto
ollama run deepseek-r1:14b - Phi-4 14BRoda bem11,2 GB16K de contexto
ollama run phi4:14b - Phi-4 Reasoning 14BRoda bem13,3 GB32K de contexto
ollama run phi4-reasoning:14b - Ministral 3 14BRoda bem10,9 GB64K de contexto
ollama run ministral-3:14b - Gemma 3 12BRoda bem9,4 GB128K de contexto
ollama run gemma3:12b - Mistral Nemo 12BRoda bem9,5 GB64K de contexto
ollama run mistral-nemo:12b-instruct-2407-q4_K_M - Gemma 4 12BRoda bem8,5 GB256K de contexto
ollama run gemma4:12b - Qwen 3.5 9BRoda bem7,3 GB256K de contexto
ollama run qwen3.5:9b - Ministral 3 8BRoda bem7,6 GB64K de contexto
ollama run ministral-3:8b - Qwen 3 8BRoda bem6,9 GB40K de contexto
ollama run qwen3:8b - DeepSeek R1 8BRoda bem6,9 GB64K de contexto
ollama run deepseek-r1:8b - Llama 3.1 8BRoda bem6,5 GB64K de contexto
ollama run llama3.1:8b - Gemma 4 E4BRoda bem7 GB128K de contexto
ollama run gemma4:e4b - Qwen 2.5 7BRoda bem5,6 GB32K de contexto
ollama run qwen2.5:7b - Qwen 2.5 Coder 7BRoda bem5,6 GB32K de contexto
ollama run qwen2.5-coder:7b - Qwen 3.5 4BRoda bem4 GB256K de contexto
ollama run qwen3.5:4b - Gemma 3 4BRoda bem4 GB128K de contexto
ollama run gemma3:4b - Gemma 3 Gaia PT-BR 4BRoda bem3,2 GB128K de contexto
ollama run hf.co/mradermacher/Gemma-3-Gaia-PT-BR-4b-it-GGUF:Q4_K_M - Qwen 3 4BRoda bem4,2 GB64K de contexto
ollama run qwen3:4b - Phi-4 Mini 3.8BRoda bem4 GB128K de contexto
ollama run phi4-mini:3.8b - Llama 3.2 3BRoda bem3,4 GB128K de contexto
ollama run llama3.2:3b - Qwen 3.5 35B-A3BApertado22,8 GB8K de contexto
ollama run qwen3.5:35b-a3b - Qwen 3 32BApertado22,9 GB8K de contexto
ollama run qwen3:32b - DeepSeek R1 32BApertado22,6 GB8K de contexto
ollama run deepseek-r1:32b - Gemma 4 31BApertado21,8 GB16K de contexto
ollama run gemma4:31b
Placas com 24 GB
Mesma memória, velocidades diferentes. Estimativa com o Qwen 3 8B em Q4_K_M.
- RTX 40901.008 GB/s · ≈ 131 tok/s
- Radeon RX 7900 XTX960 GB/s · ≈ 101 tok/s
- RTX 3090936 GB/s · ≈ 122 tok/s
Não cabem em 24 GB
Qwen 3.6 35B-A3B, Llama 3.3 70B, gpt-oss 120B, Llama 4 Scout.
Num Mac, a mesma memória útil pede pelo menos 32 GB de memória unificada, porque o macOS libera cerca de 75% para a GPU. Veja os Macs ou use a calculadora para mudar contexto e quantização.