Modelos
44 modelos abertos populares no Ollama, com a menor placa de vídeo em que cada um cabe com Q4_K_M e 8K de contexto.
Llama
- Llama 3.2 3B128K · a partir de 6 GB
- Llama 3.1 8B128K · a partir de 8 GB
- Llama 3.3 70B128K · a partir de 48 GB
- Llama 4 Scout10240K · mais de 48 GB
Qwen 2.5
- Qwen 2.5 7B32K · a partir de 8 GB
- Qwen 2.5 14B32K · a partir de 16 GB
- Qwen 2.5 Coder 7B32K · a partir de 8 GB
- Qwen 2.5 Coder 14B32K · a partir de 16 GB
Qwen 3
- Qwen 3 4B256K · a partir de 6 GB
- Qwen 3 8B40K · a partir de 8 GB
- Qwen 3 14B40K · a partir de 16 GB
- Qwen 3 32B40K · a partir de 24 GB
- Qwen 3 30B-A3B256K · a partir de 24 GB
- Qwen 3 Coder 30B-A3B256K · a partir de 24 GB
Qwen 3.5
- Qwen 3.5 4B256K · a partir de 6 GB
- Qwen 3.5 9B256K · a partir de 10 GB
- Qwen 3.5 27B256K · a partir de 20 GB
- Qwen 3.5 35B-A3B256K · a partir de 24 GB
Qwen 3.6
- Qwen 3.6 27B256K · a partir de 20 GB
- Qwen 3.6 35B-A3B256K · a partir de 32 GB
Qwen 3.8
- Qwen 3.8 27B256K · a partir de 20 GB
Gemma 3
- Gemma 3 4B128K · a partir de 6 GB
- Gemma 3 12B128K · a partir de 11 GB
- Gemma 3 27B128K · a partir de 20 GB
- Gemma 3 Gaia PT-BR 4B128K · a partir de 6 GB
Gemma 4
- Gemma 4 E4B128K · a partir de 10 GB
- Gemma 4 12B256K · a partir de 10 GB
- Gemma 4 26B-A4B256K · a partir de 24 GB
- Gemma 4 31B256K · a partir de 24 GB
gpt-oss
- gpt-oss 20B128K · a partir de 16 GB
- gpt-oss 120B128K · mais de 48 GB
DeepSeek R1
- DeepSeek R1 8B128K · a partir de 8 GB
- DeepSeek R1 14B128K · a partir de 16 GB
- DeepSeek R1 32B128K · a partir de 24 GB
Mistral
- Mistral Nemo 12B128K · a partir de 11 GB
- Ministral 3 8B256K · a partir de 10 GB
- Ministral 3 14B256K · a partir de 12 GB
- Mistral Small 3.2 24B128K · a partir de 20 GB
- Magistral Small 24B40K · a partir de 20 GB
- Devstral Small 2 24B384K · a partir de 20 GB
Phi
- Phi-4 Mini 3.8B128K · a partir de 6 GB
- Phi-4 14B16K · a partir de 16 GB
- Phi-4 Reasoning 14B32K · a partir de 16 GB
GLM
- GLM-4.7 Flash198K · a partir de 24 GB