Modelos / gpt-oss
gpt-oss 20B
Modelo aberto da OpenAI. Vem em MXFP4 e cabe em placas de 16 GB.
- Parâmetros
- 20.9B (3.6B ativos)
- Contexto máximo
- 128K
- Placa mínima
- 16 GB de VRAM
- Mac mínimo
- 24 GB
OpenAI · licença apache-2.0 · mínimos com Q4_K_M e 8K de contexto
Rodar no Ollama
- MXFP4
ollama run gpt-oss:20b
Quanta memória precisa
Total com pesos, KV cache e runtime, por quantização e contexto.
| Quantização | 4K | 8K | 32K | 128K |
|---|---|---|---|---|
| MXFP4 | 14,3 GB | 14,5 GB | 15,6 GB | 19,9 GB |
Placas que rodam
- RTX 5080 16 GBApertado≈ 165 tok/s
- RTX 5070 Ti 16 GBApertado≈ 154 tok/s
- RTX 4080 Super 16 GBApertado≈ 126 tok/s
- RTX 4070 Ti Super 16 GBApertado≈ 115 tok/s
- Radeon RX 9070 XT 16 GBApertado≈ 89 tok/s
- Radeon RX 9070 16 GBApertado≈ 89 tok/s
- Radeon RX 7800 XT 16 GBApertado≈ 87 tok/s
- RTX 5060 Ti 16 GB 16 GBApertado≈ 77 tok/s
- RTX 4060 Ti 16 GB 16 GBApertado≈ 49 tok/s
- Radeon RX 9060 XT 16 GB 16 GBApertado≈ 44 tok/s
- Radeon RX 7600 XT 16 GBApertado≈ 40 tok/s
- Radeon RX 7900 XT 20 GBRoda bem≈ 111 tok/s
- RTX 4090 24 GBRoda bem≈ 173 tok/s
- RTX 3090 24 GBRoda bem≈ 161 tok/s
- Radeon RX 7900 XTX 24 GBRoda bem≈ 133 tok/s
- RTX 5090 32 GBRoda bem≈ 308 tok/s
Macs
- M5a partir de 24 GB · ≈ 27 tok/s
- M5 Proa partir de 24 GB · ≈ 54 tok/s
- M5 Maxa partir de 36 GB · ≈ 64 tok/s
- M4a partir de 24 GB · ≈ 21 tok/s
- M4 Proa partir de 24 GB · ≈ 48 tok/s
- M4 Maxa partir de 36 GB · ≈ 57 tok/s
Arquitetura
- 24 camadas, 8 cabeças de KV de 64 dimensões.
- 12 camadas olham só os últimos 128 tokens; 12 guardam o contexto inteiro.
- MoE com 32 especialistas, 4 ativos por token.
Fontes: config.json · arquivo de pesos · atualizado em 16/10/2026