Ollama est un serveur local d’inférence de modèles de langage (LLM). Plus simplement, il permet de faire tourner un modèle d’IA en local et de l’exposer via une API sur le réseau.

A noter qu'il existe également une version conteneur pour docker officielle.

Debian 13

Prérequis

Un GPU est fortement recommandé, idéalement NVIDIA avec le plus de VRAM possible. Le modèle IA choisi doit tenir entièrement en VRAM, sinon les performances chutent fortement. Voir ce lien pour partagé un GPU dans un LXC
Les modèles peuvent fonctionner sur CPU, mais avec des performances très faibles (souvent inutilisables en pratique).
VRAM recommandée : environ la taille du modèle (en quantization type Q4) + 1 à 3 Go supplémentaires pour le KV cache et le contexte -> En pratique, prévoir 20 à 50% de marge est un bon compromis.
RAM recommandée : au minimum équivalente à la taille du modèle, idéalement 1,5 à 2 fois.
Espace disque à prévoir en fonction du ou des modèle que vous allez utiliser ou tester, Exemples :
- qwen2.5:7b (Q4) ≈ 4–5 Go
- qwen2.5:14b (Q4) ≈ 8–10 Go
- llama3:70b (Q4) ≈ 35–40 Go
Utiliser un SSD/NVMe améliore fortement les temps de chargement.
CPU / vCPU recommandés :
- Avec GPU : 2 à 4 vCPU suffisent généralement.
- Sans GPU : prévoir au minimum 8 vCPU (voire plus), les performances restant très limitées.
Note : Q4 correspond au niveau de "quantization", c’est-à-dire une réduction de la précision numérique du modèle afin de diminuer son utilisation en mémoire (VRAM). Les niveaux vont généralement de Q1 à Q8 : Q8 est le plus précis (proche du modèle original), mais aussi le plus gourmand en ressources. À l’inverse, Q1 est très léger mais fortement dégradé. En pratique, Q4 (voire Q5) est généralement considéré comme le meilleur compromis entre performances, consommation de VRAM et qualité de réponse.

Installation

# apt update && apt upgrade
# apt install curl zstd pciutils
# curl -fsSL https://ollama.com/install.sh | sh

Commandes

Télécharger ou mettre à jour un modèle :

# ollama pull qwen2.5:7b

Supprimer un modèle :

# ollama rm qwen2.5:7b

Lancer un modèle (test rapide) :

# ollama run qwen2.5:7b

Lister les modèles installés :

# ollama list

Infos sur un modèle :

# ollama show qwen2.5:7b