Modelos / Qwen 3.6
Qwen 3.6 35B-A3B
MoE popular de 2026. Bem rápido em Macs e placas de 24 GB.
- Parâmetros
- 36B (3B ativos)
- Contexto máximo
- 256K
- Placa mínima
- 32 GB de VRAM
- Mac mínimo
- 32 GB
Alibaba · licença apache-2.0 · mínimos com Q4_K_M e 8K de contexto
Rodar no Ollama
- Q4_K_M
ollama run qwen3.6:35b-a3b - Q8_0
ollama run qwen3.6:35b-a3b-q8_0 - FP16
ollama run qwen3.6:35b-a3b-bf16
Quanta memória precisa
Total com pesos, KV cache, visão e runtime, por quantização e contexto.
| Quantização | 4K | 8K | 32K | 128K |
|---|---|---|---|---|
| Q4_K_M | 23,2 GB | 23,3 GB | 24,3 GB | 28,2 GB |
| Q5_K_M | 26,8 GB | 26,9 GB | 27,9 GB | 31,8 GB |
| Q8_0 | 39,3 GB | 39,4 GB | 40,4 GB | 44,3 GB |
| FP16 | 72,7 GB | 72,9 GB | 73,9 GB | 77,8 GB |
Placas que rodam
- RTX 5090 32 GBRoda bem≈ 404 tok/s
Macs
- M5a partir de 32 GB · ≈ 36 tok/s
- M5 Proa partir de 48 GB · ≈ 71 tok/s
- M5 Maxa partir de 36 GB · ≈ 84 tok/s
- M4a partir de 32 GB · ≈ 28 tok/s
- M4 Proa partir de 48 GB · ≈ 63 tok/s
- M4 Maxa partir de 36 GB · ≈ 75 tok/s
Arquitetura
- 40 camadas, 2 cabeças de KV de 256 dimensões.
- 30 camadas usam atenção linear, com estado fixo; só 10 guardam KV.
- MoE com 256 especialistas, 8 ativos por token.
- Cada token de contexto ocupa cerca de 20 KB de KV cache em F16.
Fontes: config.json · arquivo de pesos · atualizado em 16/10/2026