Zum Inhalt springen

Phi 3 mini 4k instruct

Microsoft
Code

Phi 3 Mini 4K Instruct ist ein dichter Transformer mit 3,82 Milliarden Parametern von Microsoft, trainiert auf 4,9 Billionen Tokens mit Fokus auf hochwertige synthetische Daten für Reasoning und Code. Er liefert Leistung, die mit deutlich größeren 7B-Modellen bei Mathematik- und Coding-Benchmarks konkurriert, bei minimalem Speicherbedarf. Das Modell unterstützt Englisch und Französisch mit Fähigkeiten in Codegenerierung und Instruktionsbefolgung. Ein 4K-Kontextfenster und Flash Attention machen es gut geeignet für Edge- und ressourcenbeschränkte Deployments und es lässt sich gut im GGUF-Format für lokale Inferenz quantisieren.

Hardwarekonfiguration

Optional — für präzise Bereitstellungsempfehlungen
Quantisierung Qualität Größe Eignung
FP16 Volle Präzision 7.12 GB
Q4 Niedrig 2.23 GB
Zuletzt aktualisiert: 5. März 2026