Roda Local

Modelos / Phi

Phi-4 Reasoning 14B

Phi-4 treinado para pensar passo a passo.

Parâmetros
14.7B
Contexto máximo
32K
Placa mínima
16 GB de VRAM
Mac mínimo
18 GB

Microsoft · licença mit · mínimos com Q4_K_M e 8K de contexto

Rodar no Ollama

  • Q4_K_M
    ollama run phi4-reasoning:14b
  • Q8_0
    ollama run phi4-reasoning:14b-q8_0
  • FP16
    ollama run phi4-reasoning:14b-fp16

Quanta memória precisa

Total com pesos, KV cache e runtime, por quantização e contexto.

Quantização4K8K32K
Q4_K_M12,4 GB13,3 GB18,9 GB
Q5_K_M14,2 GB15,2 GB20,8 GB
Q8_020,6 GB21,5 GB27,2 GB
FP1637,7 GB38,7 GB44,3 GB

Placas que rodam

Macs

  • M5a partir de 24 GB · ≈ 9,6 tok/s
  • M5 Proa partir de 24 GB · ≈ 19 tok/s
  • M5 Maxa partir de 36 GB · ≈ 23 tok/s
  • M4a partir de 24 GB · ≈ 7,6 tok/s
  • M4 Proa partir de 24 GB · ≈ 17 tok/s
  • M4 Maxa partir de 36 GB · ≈ 20 tok/s

Arquitetura

  • 40 camadas, 10 cabeças de KV de 128 dimensões.
  • Cada token de contexto ocupa cerca de 200 KB de KV cache em F16.

Fontes: config.json · arquivo de pesos · atualizado em 16/10/2026

Mesma família

Phi-4 Mini 3.8B · Phi-4 14B