Qwen2.5 14B Instruct
Qwen
Code Multilingual Tool Calls
Qwen2.5 14B Instruct es un transformador denso de 14.770 millones de parámetros del equipo Qwen de Alibaba, ajustado para el seguimiento de instrucciones, la generación de código y la salida estructurada. Ocupa el espacio entre las clases de 7B y 72B, ofreciendo razonamiento sólido y generación de texto largo mientras sigue siendo desplegable en una sola GPU de consumo. El modelo soporta "tool calling" y cubre 14 idiomas, incluidos inglés, chino, japonés y árabe. Con una ventana de contexto de 32K y "flash attention", se cuantiza bien a GGUF para inferencia autoalojada a un coste de hardware moderado.
Configuración de hardware
Opcional — para recomendaciones de despliegue precisas
| Cuantización | Calidad | Tamaño | Ajuste |
|---|---|---|---|
| FP16 | Precisión completa | 27.51 GB | — |
| Q8_0 | Alta | 14.62 GB | — |
| Q6_K | Alta | 11.29 GB | — |
| Q5_K_M | Media | 9.78 GB | — |
| Q4_K_M | Media | 8.38 GB | — |
| Q4_0 | Media | 7.93 GB | — |
| Q3_K_M | Baja | 6.84 GB | — |
| Q2_K | Baja | 5.38 GB | — |
| Q5_0 | Baja | 9.56 GB | — |
Última actualización: 5 de marzo de 2026