Roda Local

Modelos / Mistral

Ministral 3 14B

Versão maior do Ministral 3. Boa opção para 12 a 16 GB.

Parâmetros
13.9B
Contexto máximo
256K
Placa mínima
12 GB de VRAM
Mac mínimo
16 GB

Mistral AI · licença apache-2.0 · mínimos com Q4_K_M e 8K de contexto

Rodar no Ollama

  • Q4_K_M
    ollama run ministral-3:14b
  • Q8_0
    ollama run ministral-3:14b-instruct-2512-q8_0
  • FP16
    ollama run ministral-3:14b-instruct-2512-fp16

Quanta memória precisa

Total com pesos, KV cache e runtime, por quantização e contexto.

Quantização4K8K32K128K
Q4_K_M10,1 GB10,9 GB15,5 GB33,8 GB
Q5_K_M11,7 GB12,4 GB17 GB35,3 GB
Q8_016,9 GB17,6 GB22,2 GB40,6 GB
FP1630,9 GB31,6 GB36,2 GB54,6 GB

Placas que rodam

Macs

  • M5a partir de 16 GB · ≈ 12 tok/s
  • M5 Proa partir de 24 GB · ≈ 24 tok/s
  • M5 Maxa partir de 36 GB · ≈ 28 tok/s
  • M4a partir de 16 GB · ≈ 9,2 tok/s
  • M4 Proa partir de 24 GB · ≈ 21 tok/s
  • M4 Maxa partir de 36 GB · ≈ 25 tok/s

Arquitetura

  • 40 camadas, 8 cabeças de KV de 128 dimensões.
  • Cada token de contexto ocupa cerca de 160 KB de KV cache em F16.

Fontes: config.json · arquivo de pesos · atualizado em 16/10/2026

Mesma família

Mistral Nemo 12B · Ministral 3 8B · Mistral Small 3.2 24B · Magistral Small 24B · Devstral Small 2 24B