wiki/entities/phi-3-5.md

title, created, updated, type, tags, sources, confidence, contested

title	created	updated	type	tags	sources	confidence	contested
Phi-3.5	2026-06-06	2026-06-06	entity	model architecture	raw/articles/fiches-modeles-llm.md	high	false

🧠 Phi-3.5

Série de Small Language Models (SLM) développée par Microsoft, prouvant que la qualité des données d'entraînement prime sur la quantité de paramètres.

Variantes

• Phi-3.5 Mini : Modèle compact ultra-performant.
• Phi-3.5 MoE : Mixture of Experts avec ~6.6B de paramètres actifs. Excellent en maths et code.

Anatomie

• Contexte : Jusqu'à 128k tokens.
• Méthode d'entraînement : Focus sur des données synthétiques de haute qualité ("textbooks").
• Cas d'usage : On-device AI, tâches spécialisées, faible empreinte RAM.

Liens

• Créateur : microsoft
• Concept : quantification-llm
• transformer-architecture
• changements-modeles-open-weights
• fiches-modeles-llm