Files
wiki/raw/articles/stack-docker-ia.md
T
2026-06-09 18:40:21 +02:00

1005 B

source_url, ingested, sha256
source_url ingested sha256
pasted_text 2026-06-06 b2c3d4e5 (simulé)

📘 La Stack Docker Ultime pour l'IA à la Maison

Combinaison d'outils pour un environnement LLM local et performant.

Architecture de la Stack

  • Ollama : Le moteur d'inférence. Supporte GPU Nvidia (via nvidia-container-toolkit) et AMD (via ROCm).
  • Open WebUI : Interface utilisateur complète (clone de ChatGPT) connectée à Ollama.
  • Outils de Scraping : Intégration de scripts ou d'outils de capture pour nourrir le LLM en données fraîches.

Exemple docker-compose.yml (Simplifié)

services:
  ollama:
    image: ollama/ollama
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: all
              capabilities: [gpu]

  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    environment:
      - OLLAMA_BASE_URL=http://ollama:11434

Liens