Modelos / Qwen 3.5
Qwen 3.5 4B
Pequeno, multimodal e com contexto longo graças à atenção híbrida.
- Parâmetros
- 4.7B
- Contexto máximo
- 256K
- Placa mínima
- 6 GB de VRAM
- Mac mínimo
- 8 GB
Alibaba · licença apache-2.0 · mínimos com Q4_K_M e 8K de contexto
Rodar no Ollama
- Q4_K_M
ollama run qwen3.5:4b - Q8_0
ollama run qwen3.5:4b-q8_0 - FP16
ollama run qwen3.5:4b-bf16
Quanta memória precisa
Total com pesos, KV cache, visão e runtime, por quantização e contexto.
| Quantização | 4K | 8K | 32K | 128K |
|---|---|---|---|---|
| Q4_K_M | 3,8 GB | 4 GB | 5,3 GB | 10,4 GB |
| Q5_K_M | 4,3 GB | 4,5 GB | 5,7 GB | 10,9 GB |
| Q8_0 | 5,8 GB | 6 GB | 7,3 GB | 12,4 GB |
| FP16 | 9,9 GB | 10,1 GB | 11,4 GB | 16,5 GB |
Placas que rodam
- RTX 5060 Ti 8 GB 8 GBRoda bem≈ 115 tok/s
- RTX 5060 8 GBRoda bem≈ 115 tok/s
- RTX 5050 8 GBRoda bem≈ 82 tok/s
- RTX 4060 Ti 8 GB 8 GBRoda bem≈ 74 tok/s
- RTX 4060 8 GBRoda bem≈ 70 tok/s
- Radeon RX 7600 8 GBRoda bem≈ 60 tok/s
- RTX 5070 12 GBRoda bem≈ 173 tok/s
- RTX 4070 Super 12 GBRoda bem≈ 129 tok/s
- RTX 4070 12 GBRoda bem≈ 129 tok/s
- RTX 3060 12 GB 12 GBRoda bem≈ 92 tok/s
- Radeon RX 7700 XT 12 GBRoda bem≈ 90 tok/s
- Arc B580 12 GBRoda bem≈ 86 tok/s
- RTX 5080 16 GBRoda bem≈ 246 tok/s
- RTX 5070 Ti 16 GBRoda bem≈ 230 tok/s
- RTX 4080 Super 16 GBRoda bem≈ 189 tok/s
- RTX 4070 Ti Super 16 GBRoda bem≈ 173 tok/s
- Radeon RX 9070 XT 16 GBRoda bem≈ 133 tok/s
- Radeon RX 9070 16 GBRoda bem≈ 133 tok/s
- Radeon RX 7800 XT 16 GBRoda bem≈ 130 tok/s
- RTX 5060 Ti 16 GB 16 GBRoda bem≈ 115 tok/s
- RTX 4060 Ti 16 GB 16 GBRoda bem≈ 74 tok/s
- Radeon RX 9060 XT 16 GB 16 GBRoda bem≈ 66 tok/s
- Radeon RX 7600 XT 16 GBRoda bem≈ 60 tok/s
- Radeon RX 7900 XT 20 GBRoda bem≈ 166 tok/s
- RTX 4090 24 GBRoda bem≈ 259 tok/s
- RTX 3090 24 GBRoda bem≈ 240 tok/s
- Radeon RX 7900 XTX 24 GBRoda bem≈ 199 tok/s
- RTX 5090 32 GBRoda bem≈ 460 tok/s
Macs
- M5a partir de 16 GB · ≈ 40 tok/s
- M5 Proa partir de 24 GB · ≈ 81 tok/s
- M5 Maxa partir de 36 GB · ≈ 96 tok/s
- M4a partir de 16 GB · ≈ 32 tok/s
- M4 Proa partir de 24 GB · ≈ 72 tok/s
- M4 Maxa partir de 36 GB · ≈ 85 tok/s
Arquitetura
- 32 camadas, 4 cabeças de KV de 256 dimensões.
- 24 camadas usam atenção linear, com estado fixo; só 8 guardam KV.
- Cada token de contexto ocupa cerca de 32 KB de KV cache em F16.
Fontes: config.json · arquivo de pesos · atualizado em 16/10/2026