Qwen2.5 72B Instruct
Qwen
Code Multilingual Tool Calls
Qwen2.5 72B Instruct es un transformador denso de 72.710 millones de parametros del equipo Qwen de Alibaba, ajustado para el seguimiento de instrucciones, la generacion de codigo y tareas multilingues. Compite con otros modelos instruct de 70B lideres y soporta 14 idiomas, incluidos ingles, chino, arabe y japones. El modelo ofrece "tool calling" nativo y capacidades de salida estructurada. Con una ventana de contexto de 32K y "grouped-query attention", se cuantiza eficientemente para inferencia autoalojada en configuraciones GPU de gama alta para consumidores o servidores.
Configuración de hardware
Opcional — para recomendaciones de despliegue precisas
| Cuantización | Calidad | Tamaño | Ajuste |
|---|---|---|---|
| FP16 | Precisión completa | 135.84 GB | — |
| Q8_0 | Alta | 72.27 GB | — |
| Q6_K | Alta | 55.76 GB | — |
| Q5_K_M | Media | 48.1 GB | — |
| Q4_K_M | Media | 40.97 GB | — |
| Q4_0 | Media | 38.51 GB | — |
| Q3_K_M | Baja | 33.02 GB | — |
| Q2_K | Baja | 25.45 GB | — |
| Q5_0 | Baja | 46.89 GB | — |
Última actualización: 5 de marzo de 2026