Mistral Small 3.1 24B Instruct 2503
Mistral AI
Code Multilingual Tool Calls Vision
Mistral Small 3.1 24B Instruct 2503 es un transformador denso de 24.000 millones de parámetros de Mistral AI, optimizado para el seguimiento de instrucciones, la generación de código, la comprensión de imágenes y la conversación multilingüe. Sucede al anterior Mistral Small 2501 con una ventana de contexto ampliada a 128K y un codificador de visión Pixtral nativo. El modelo soporta "tool calling" y 24 idiomas, incluidos inglés, francés, árabe e hindi. Con "flash attention" y cuantización eficiente, cabe en una sola GPU de consumo en Q4 para inferencia autoalojada.
Configuración de hardware
Opcional — para recomendaciones de despliegue precisas
| Cuantización | Calidad | Tamaño | Ajuste |
|---|---|---|---|
| Q8_0 | Alta | 23.33 GB | — |
| Q8_K_XL | Alta | 27 GB | — |
| Q6_K | Alta | 18.02 GB | — |
| Q6_K_XL | Alta | 19.36 GB | — |
| Q5_K_M | Media | 15.61 GB | — |
| Q5_K_S | Media | 15.18 GB | — |
| Q5_K_XL | Media | 15.61 GB | — |
| Q4_K_M | Media | 13.35 GB | — |
| Q4_K_S | Media | 12.62 GB | — |
| Q4_K_XL | Media | 13.51 GB | — |
| Q4_0 | Media | 12.57 GB | — |
| Q4_1 | Media | 13.85 GB | — |
| Q3_K_M | Baja | 10.69 GB | — |
| Q3_K_S | Baja | 9.69 GB | — |
| Q3_K_XL | Baja | 11.04 GB | — |
| Q2_K | Baja | 8.28 GB | — |
| Q2_K_L | Baja | 8.43 GB | — |
| Q2_K_XL | Baja | 8.65 GB | — |
Última actualización: 7 de marzo de 2026