Qwen2.5 7B Instruct
Qwen
Code Multilingual Tool Calls
Qwen2.5 7B Instruct e un trasformatore denso da 7,62 miliardi di parametri del team Qwen di Alibaba, perfezionato per il seguimento di istruzioni, la generazione di codice e la conversazione multilingue. Si posiziona tra i modelli instruct 7B piu performanti, con un'ampia copertura linguistica di 14 lingue tra cui inglese, cinese, giapponese e arabo. Il modello supporta "tool calling" e output strutturato in modo nativo. Con una finestra di contesto da 32K e "flash attention", funziona in modo efficiente su GPU consumer e si quantizza bene per deployment self-hosted leggeri.
Configurazione hardware
Facoltativo — per raccomandazioni di distribuzione precise
| Quantizzazione | Qualità | Dimensione | Adeguatezza |
|---|---|---|---|
| FP16 | Piena precisione | 14.19 GB | — |
| Q8_0 | Alta | 7.54 GB | — |
| Q6_K | Alta | 5.83 GB | — |
| Q5_K_M | Media | 5.08 GB | — |
| Q4_K_M | Media | 4.36 GB | — |
| Q4_0 | Media | 4.13 GB | — |
| Q3_K_M | Bassa | 3.55 GB | — |
| Q2_K | Bassa | 2.81 GB | — |
| Q5_0 | Bassa | 4.95 GB | — |
Ultimo aggiornamento: 29 aprile 2026