Initial vault setup

2026-06-09 18:40:21 +02:00
commit bda02d587f
3692 changed files with 402457 additions and 0 deletions
@@ -0,0 +1,29 @@
+---
+title: Phi-3.5
+created: 2026-06-06
+updated: 2026-06-06
+type: entity
+tags: [model, architecture]
+sources: [raw/articles/fiches-modeles-llm.md]
+confidence: high
+contested: false
+---
+# 🧠 Phi-3.5
+
+Série de Small Language Models (SLM) développée par Microsoft, prouvant que la qualité des données d'entraînement prime sur la quantité de paramètres.
+
+## Variantes
+- **Phi-3.5 Mini** : Modèle compact ultra-performant.
+- **Phi-3.5 MoE** : Mixture of Experts avec ~6.6B de paramètres actifs. Excellent en maths et code.
+
+## Anatomie
+- **Contexte** : Jusqu'à 128k tokens.
+- **Méthode d'entraînement** : Focus sur des données synthétiques de haute qualité ("textbooks").
+- **Cas d'usage** : On-device AI, tâches spécialisées, faible empreinte RAM.
+
+## Liens
+- Créateur : [[microsoft]]
+- Concept : [[quantification-llm]]
+- [[transformer-architecture]]
+- [[changements-modeles-open-weights]]
+- [[fiches-modeles-llm]]