Qwen2.5 14B Instruct
Qwen
Code Multilingual Tool Calls
Qwen2.5 14B Instruct è un trasformatore denso da 14,77 miliardi di parametri del team Qwen di Alibaba, perfezionato per il seguimento di istruzioni, la generazione di codice e l'output strutturato. Si colloca tra le classi 7B e 72B, offrendo un ragionamento solido e la generazione di testi lunghi pur rimanendo eseguibile su una singola GPU consumer. Il modello supporta "tool calling" e copre 14 lingue tra cui inglese, cinese, giapponese e arabo. Con una finestra di contesto da 32K e "flash attention", si quantizza bene in formato GGUF per inferenza self-hosted a costi hardware contenuti.
Configurazione hardware
Facoltativo — per raccomandazioni di distribuzione precise
| Quantizzazione | Qualità | Dimensione | Adeguatezza |
|---|---|---|---|
| FP16 | Piena precisione | 27.51 GB | — |
| Q8_0 | Alta | 14.62 GB | — |
| Q6_K | Alta | 11.29 GB | — |
| Q5_K_M | Media | 9.78 GB | — |
| Q4_K_M | Media | 8.38 GB | — |
| Q4_0 | Media | 7.93 GB | — |
| Q3_K_M | Bassa | 6.84 GB | — |
| Q2_K | Bassa | 5.38 GB | — |
| Q5_0 | Bassa | 9.56 GB | — |
Ultimo aggiornamento: 5 marzo 2026