Roda Local

Placas / NVIDIA

RTX 4060 para IA local

VRAM
8 GB
Banda de memória
272 GB/s
Lançamento
2023

Roda 11 dos 44 modelos do catálogo em Q4_K_M com 8K de contexto. A banda de memória define a velocidade: quanto maior, mais tokens por segundo.

Preço hoje

Ainda sem preço coletado. O menor preço do KaBuM! e da Pichau, com histórico, aparece aqui assim que o leitor de preços começar a rodar.

Alguns links podem ser de afiliado. Saiba mais.

Modelos que rodam na RTX 4060

Desconta cerca de 1 GB para o sistema e o monitor. Velocidade estimada no começo da conversa.

  • Qwen 2.5 7B
    ollama run qwen2.5:7b
    Roda bem5,6 GB16K de contexto≈ 39 tok/s
  • Qwen 2.5 Coder 7B
    ollama run qwen2.5-coder:7b
    Roda bem5,6 GB16K de contexto≈ 39 tok/s
  • Qwen 3.5 4B
    ollama run qwen3.5:4b
    Roda bem4 GB32K de contexto≈ 70 tok/s
  • Gemma 3 4B
    ollama run gemma3:4b
    Roda bem4 GB64K de contexto≈ 74 tok/s
  • Gemma 3 Gaia PT-BR 4B
    ollama run hf.co/mradermacher/Gemma-3-Gaia-PT-BR-4b-it-GGUF:Q4_K_M
    Roda bem3,2 GB64K de contexto≈ 74 tok/s
  • Qwen 3 4B
    ollama run qwen3:4b
    Roda bem4,2 GB16K de contexto≈ 74 tok/s
  • Phi-4 Mini 3.8B
    ollama run phi4-mini:3.8b
    Roda bem4 GB16K de contexto≈ 74 tok/s
  • Llama 3.2 3B
    ollama run llama3.2:3b
    Roda bem3,4 GB32K de contexto≈ 92 tok/s
  • Qwen 3 8B
    ollama run qwen3:8b
    Apertado6,9 GB8K de contexto≈ 35 tok/s
  • DeepSeek R1 8B
    ollama run deepseek-r1:8b
    Apertado6,9 GB8K de contexto≈ 35 tok/s
  • Llama 3.1 8B
    ollama run llama3.1:8b
    Apertado6,5 GB8K de contexto≈ 38 tok/s

Outras placas com 8 GB: RTX 5060 Ti 8 GB · RTX 5060 · RTX 5050 · RTX 4060 Ti 8 GB · Radeon RX 7600

Todos os modelos que cabem em 8 GB