Découvrir Ollama
Ollama permet de télécharger, gérer et exécuter des modèles d’intelligence artificielle depuis son ordinateur. Découvrez son fonctionnement, ses commandes principales, son architecture locale et les possibilités qu’il offre pour créer un environnement d’IA personnel ou professionnel.
À la fin de ce cours, vous saurez :
- Expliquer ce qu’est Ollama et à quoi il sert.
- Distinguer Ollama d’un modèle d’intelligence artificielle.
- Comprendre le fonctionnement du moteur local.
- Identifier les principales commandes d’Ollama.
- Comprendre le téléchargement et la gestion des modèles.
- Découvrir le rôle de son API locale.
- Identifier ses avantages, ses limites et les précautions de sécurité.
- Déterminer dans quels cas Ollama constitue un choix pertinent.
Avoir étudié les notions de modèles locaux, de mémoire, de GPU, de quantification et de sélection d’un modèle. L’installation d’Ollama n’est pas nécessaire pour comprendre ce cours.
1. Qu’est-ce qu’Ollama ?
Ollama est un logiciel permettant d’exécuter et de gérer des modèles d’intelligence artificielle, notamment des modèles de langage, sur un ordinateur.
Il simplifie plusieurs opérations techniques :
- Télécharger un modèle compatible.
- Conserver des modèles sur l’ordinateur.
- Charger un modèle pour réaliser une inférence.
- Envoyer des instructions et recevoir des réponses.
- Gérer plusieurs modèles.
- Rendre les modèles accessibles à d’autres applications par une API.
Ollama est un environnement logiciel d’exécution et de gestion de modèles d’IA. Il ne constitue pas, à lui seul, un modèle d’intelligence artificielle.
2. Ne pas confondre Ollama et le modèle
Une confusion fréquente consiste à considérer Ollama comme l’intelligence artificielle elle-même.
En réalité, il faut distinguer trois éléments.
Le modèle
Il contient les paramètres appris pendant l’entraînement et réalise les prédictions nécessaires à la génération des réponses.
Ollama
Il fournit les mécanismes permettant de télécharger, charger, exécuter et administrer les modèles compatibles.
L’interface
Elle permet à l’utilisateur de saisir des instructions et de consulter les réponses : terminal, application ou interface web.
Le matériel
Le CPU, le GPU et la mémoire exécutent concrètement les calculs nécessaires au fonctionnement du modèle.
On peut comparer le modèle à un moteur spécialisé, Ollama au système qui permet de le faire fonctionner et l’interface au tableau de commande utilisé par la personne.
Cette analogie est simplifiée, mais elle aide à comprendre pourquoi installer Ollama ne signifie pas automatiquement disposer d’un modèle prêt à répondre.
3. Comment fonctionne Ollama ?
Ollama utilise un service logiciel qui reçoit les demandes et coordonne l’exécution des modèles.
Une demande suit généralement le chemin suivant :
3.1. Le rôle du service
Le service Ollama peut recevoir des demandes provenant du terminal ou d’applications qui utilisent son API.
Il gère notamment le chargement et l’utilisation des modèles compatibles.
3.2. Le rôle du modèle
Le modèle transforme les informations reçues en représentations numériques, réalise ses calculs et produit progressivement les éléments de sa réponse.
3.3. Le rôle du matériel
Les calculs sont effectués par les ressources disponibles. Selon la configuration, Ollama peut utiliser le CPU, un GPU compatible ou une combinaison des deux.
4. Sur quels systèmes fonctionne Ollama ?
Ollama propose des solutions pour les principaux systèmes d’exploitation de bureau :
- Windows.
- macOS.
- Linux.
La compatibilité exacte dépend de l’architecture de l’ordinateur, de la version du logiciel et des éventuels pilotes nécessaires.
4.1. Utilisation sans GPU dédié
Certains modèles peuvent fonctionner sur CPU uniquement.
Les performances dépendent alors fortement du processeur, de la mémoire et de la taille du modèle.
4.2. Utilisation avec GPU
Lorsqu’un GPU compatible est disponible, certaines opérations peuvent être accélérées.
Il faut toutefois vérifier les exigences propres au matériel et à la version d’Ollama utilisée.
Le fait qu’Ollama puisse être installé sur un système ne garantit pas que tous les modèles fonctionneront correctement sur ce système. Les ressources matérielles restent déterminantes.
5. Comprendre la bibliothèque de modèles
Ollama permet d’obtenir des modèles depuis une bibliothèque ou un registre compatible.
La bibliothèque officielle est accessible à l’adresse :
On peut y consulter les modèles disponibles et leurs différentes variantes.
5.1. Les informations à examiner
- Le nom du modèle.
- Sa famille et sa version.
- Sa taille.
- Ses capacités annoncées.
- Les variantes disponibles.
- Les informations techniques et les conditions d’utilisation.
5.2. Les noms et les tags
Un modèle peut être identifié par un nom et un tag.
Le tag peut permettre de sélectionner une variante particulière.
Sans tag explicite, certains appels utilisent une variante par défaut, généralement identifiée par le tag latest.
Pour obtenir un environnement reproductible, il est préférable d’identifier précisément la variante utilisée plutôt que de dépendre uniquement d’un nom générique.
6. Découvrir les principales commandes
Ollama peut être utilisé depuis un terminal grâce à des commandes simples.
Les exemples suivants supposent qu’Ollama est déjà installé et accessible depuis le terminal.
6.1. Afficher l’aide
Cette commande présente les commandes disponibles dans la version installée.
6.2. Télécharger un modèle
La commande pull récupère les fichiers nécessaires depuis un registre compatible.
Le nom indiqué ici est un emplacement à remplacer par un identifiant réel.
6.3. Exécuter un modèle
La commande run permet de démarrer une interaction avec un modèle.
Selon la situation, Ollama peut télécharger le modèle s’il n’est pas déjà présent localement.
6.4. Afficher les modèles disponibles
Cette commande affiche les modèles enregistrés localement.
6.5. Afficher les modèles chargés
Elle permet de consulter les modèles actuellement chargés par Ollama.
6.6. Consulter les informations d’un modèle
Cette commande fournit des informations sur le modèle concerné.
6.7. Supprimer un modèle local
Cette commande supprime la référence locale du modèle et permet de libérer du stockage lorsque les données correspondantes ne sont plus nécessaires à d’autres modèles.
La suppression d’un modèle est une opération de gestion du stockage. Vérifiez toujours le nom et le tag concernés avant de l’exécuter.
7. Tableau récapitulatif des commandes
| Commande | Fonction | Utilisation |
|---|---|---|
ollama --help | Afficher l’aide. | Découvrir les commandes. |
ollama pull | Télécharger un modèle. | Préparer une utilisation locale. |
ollama run | Exécuter un modèle. | Dialoguer avec une IA. |
ollama list | Lister les modèles locaux. | Gérer sa bibliothèque. |
ollama ps | Afficher les modèles chargés. | Observer les ressources utilisées. |
ollama show | Afficher les informations d’un modèle. | Vérifier ses caractéristiques. |
ollama rm | Supprimer un modèle. | Gérer le stockage. |
ollama serve | Démarrer le service Ollama. | Utilisation du service lorsque nécessaire. |
8. Comprendre le téléchargement d’un modèle
Lorsqu’un modèle est téléchargé, Ollama récupère les fichiers nécessaires à son exécution.
Ces fichiers peuvent représenter plusieurs gigaoctets.
8.1. La première utilisation
Le téléchargement initial nécessite généralement une connexion réseau lorsque les fichiers ne sont pas déjà présents sur l’ordinateur.
8.2. Les utilisations suivantes
Une fois le modèle téléchargé, les opérations d’inférence peuvent être réalisées localement sans connexion Internet, à condition que les composants nécessaires soient disponibles et qu’aucune fonction distante ne soit utilisée.
8.3. Le stockage
Les modèles téléchargés occupent de l’espace disque.
Il faut distinguer :
- L’espace de stockage nécessaire pour conserver le modèle.
- La mémoire nécessaire pour le charger.
- Les ressources nécessaires pendant la génération.
Un modèle dont les fichiers occupent environ 5 Go peut nécessiter davantage de mémoire pendant son exécution.
Cette différence provient notamment des caches et des autres allocations nécessaires au moteur.
9. Comprendre la différence entre téléchargement et exécution
Deux commandes remplissent des fonctions différentes.
ollama pull
Récupère les fichiers du modèle pour les rendre disponibles localement.
ollama run
Charge et utilise le modèle pour réaliser une interaction. Peut déclencher un téléchargement si nécessaire.
Le téléchargement est principalement une opération de transfert et de stockage.
L’exécution mobilise le moteur d’inférence et les ressources matérielles.
10. Découvrir l’utilisation en ligne de commande
La ligne de commande est une interface textuelle permettant d’envoyer des instructions au logiciel.
Une fois un modèle lancé, l’utilisateur peut saisir une demande.
Le modèle génère ensuite une réponse.
Cette méthode présente plusieurs intérêts :
- Elle évite de dépendre d’une interface graphique complexe.
- Elle permet de tester rapidement un modèle.
- Elle facilite certaines opérations d’administration.
- Elle peut être utilisée dans des scripts et des procédures techniques.
Le terminal est une manière d’interagir avec Ollama, mais ce n’est pas la seule. Des applications peuvent également communiquer avec le service local.
11. Découvrir l’API locale d’Ollama
Ollama expose une interface de programmation, appelée API, qui permet à d’autres logiciels de communiquer avec son service.
Par défaut, l’API locale utilise généralement l’adresse :
localhost désigne l’ordinateur sur lequel la requête est effectuée.
Le nombre 11434 correspond au port utilisé par défaut par le service.
11.1. À quoi sert cette API ?
Elle peut permettre à une application :
- D’envoyer une instruction à un modèle.
- De récupérer une réponse.
- De consulter les modèles disponibles.
- D’utiliser un modèle dans un programme.
- De construire une interface de conversation personnalisée.
11.2. Exemple conceptuel
Cette architecture permet de séparer l’interface utilisateur du moteur d’inférence.
11.3. Exemple de requête HTTP
Une application peut utiliser le point d’accès /api/generate pour demander une génération.
Le nom du modèle doit être remplacé par celui d’un modèle disponible.
Le paramètre stream défini sur false demande une réponse regroupée plutôt qu’un flux progressif.
Ce cours présente uniquement le principe de l’API. Son utilisation détaillée, les requêtes HTTP et l’intégration dans des applications seront approfondies dans le cours 11 du chapitre.
12. Comprendre le fonctionnement en arrière-plan
Ollama repose sur un service qui peut fonctionner indépendamment du terminal utilisé pour envoyer les demandes.
Selon le système et le mode d’installation, ce service peut être démarré automatiquement ou manuellement.
12.1. Le service Ollama
Le service reçoit les requêtes, prépare l’exécution des modèles et renvoie les résultats.
12.2. Les modèles chargés
Un modèle peut rester chargé pendant une certaine durée après une interaction afin de faciliter les requêtes suivantes.
Ce comportement peut être configuré selon les possibilités offertes par la version utilisée.
12.3. Les ressources mobilisées
Un modèle chargé peut continuer à occuper de la mémoire même lorsqu’aucune réponse n’est en cours de génération.
La commande ollama ps aide à observer les modèles présents en mémoire.
13. Découvrir les paramètres de génération
Le comportement d’un modèle peut être influencé par différents paramètres.
13.1. La température
La température agit sur la distribution des probabilités utilisée pour sélectionner les tokens.
Une température plus faible favorise généralement des choix plus concentrés sur les tokens les plus probables.
Une température plus élevée peut produire des réponses plus variées.
13.2. La longueur du contexte
Elle détermine la quantité d’informations que le moteur peut utiliser pendant une interaction, dans les limites du modèle et des ressources disponibles.
13.3. La longueur de génération
Certains paramètres permettent de limiter le nombre de tokens produits.
13.4. Le maintien en mémoire
Des options peuvent contrôler la durée pendant laquelle un modèle reste chargé après utilisation.
Modifier un paramètre ne garantit pas une amélioration. Les réglages doivent être adaptés au modèle et à l’usage, puis testés.
14. Comprendre les modèles personnalisés et les Modelfiles
Ollama permet de définir certaines configurations personnalisées à l’aide d’un fichier appelé Modelfile.
Un Modelfile peut notamment préciser :
- Le modèle de départ.
- Des paramètres de génération.
- Une instruction système.
- Certains éléments de configuration.
14.1. Exemple simplifié
Cet exemple illustre la structure d’un Modelfile. Il doit être adapté à un modèle réellement disponible.
14.2. Ce que cela ne fait pas
Définir une instruction système ne revient pas à réentraîner le modèle.
La personnalisation des consignes modifie le comportement demandé, mais ne garantit pas que le modèle respectera toujours ces consignes.
15. Les principaux avantages d’Ollama
Gestion simplifiée
Les commandes permettent de télécharger, consulter et supprimer des modèles sans gérer manuellement tous les détails du moteur.
Exécution locale
Les modèles compatibles peuvent être exécutés sur l’ordinateur, sous réserve des ressources disponibles.
API intégrée
Le service peut être utilisé par des applications locales et des outils de développement.
Plusieurs modèles
Il est possible de conserver différentes familles ou variantes de modèles pour des usages distincts.
Automatisation
Les commandes et l’API peuvent s’intégrer dans des scripts et des workflows techniques.
Personnalisation
Les Modelfiles permettent de préparer certaines configurations adaptées à un usage.
16. Les limites d’Ollama
Ollama facilite l’exécution locale, mais ne supprime pas les contraintes techniques.
16.1. Les ressources matérielles
Les modèles volumineux peuvent nécessiter une quantité importante de RAM ou de VRAM.
16.2. Les performances
Un modèle peut être lent sur CPU ou sur une machine dont la bande passante mémoire est limitée.
16.3. La qualité des réponses
Ollama ne corrige pas automatiquement les erreurs du modèle utilisé.
Les hallucinations, approximations et limites de connaissances restent possibles.
16.4. La compatibilité
Toutes les architectures et toutes les variantes de modèles ne sont pas nécessairement prises en charge.
16.5. Les besoins de configuration
Certains usages avancés nécessitent des connaissances sur les API, les paramètres ou la sécurité du système.
17. Sécurité et confidentialité
Une exécution locale peut contribuer à mieux contrôler la circulation des données.
Cependant, plusieurs précautions restent nécessaires.
17.1. Vérifier la provenance des modèles
Il est recommandé d’utiliser des sources identifiables et de vérifier les informations de licence.
17.2. Protéger l’API
Par défaut, l’API est généralement accessible sur l’interface locale de l’ordinateur.
Il ne faut pas exposer directement le service sur Internet sans protection adaptée.
Une exposition réseau non maîtrisée peut permettre à d’autres utilisateurs d’envoyer des requêtes ou de consommer des ressources.
17.3. Protéger les documents
Les données transmises à un modèle local restent soumises aux règles de sécurité de l’ordinateur et des applications utilisées.
17.4. Vérifier les fonctionnalités distantes
Il faut distinguer l’utilisation de modèles locaux des éventuelles fonctionnalités nécessitant une connexion à un service distant.
Pour une utilisation strictement locale, vérifiez la configuration du service, les connexions réseau et les applications qui communiquent avec Ollama.
18. Dans quels cas choisir Ollama ?
Ollama peut être particulièrement pertinent dans plusieurs situations.
| Situation | Intérêt d’Ollama | Point à vérifier |
|---|---|---|
| Découverte de l’IA locale | Commandes relativement simples. | Choisir un modèle adapté au matériel. |
| Assistant personnel | Utilisation de modèles sur l’ordinateur. | Qualité du modèle et confidentialité. |
| Développement logiciel | API locale exploitable par des applications. | Compatibilité et performances. |
| Automatisation | Intégration dans des scripts. | Gestion des erreurs et ressources. |
| Expérimentation | Possibilité de comparer plusieurs modèles. | Stockage et mémoire disponibles. |
19. Étude de cas : préparer un assistant local avec Ollama
Une petite entreprise souhaite utiliser une IA locale pour reformuler des courriels internes et résumer de courts documents.
Elle dispose d’un ordinateur avec 16 Go de RAM et aucun GPU dédié.
Elle envisage d’utiliser Ollama.
Questions
- Ollama suffit-il à lui seul pour produire des réponses ?
- Quel type de modèle devrait-elle rechercher ?
- Quelle commande permettrait de télécharger le modèle ?
- Quelle commande permettrait de consulter les modèles disponibles ?
- Pourquoi faudrait-il tester les performances sur CPU ?
- Quelles précautions prendre concernant les documents internes ?
Afficher la correction détaillée
1. Ollama suffit-il ?
Non. Ollama est un environnement d’exécution. Il faut également disposer d’un modèle compatible.
2. Type de modèle
L’entreprise peut commencer par présélectionner un modèle instruction compact, maîtrisant suffisamment le français et disposant d’une quantification adaptée à la mémoire disponible.
3. Télécharger le modèle
La commande est ollama pull nom-du-modele, en remplaçant le nom générique par un identifiant réel.
4. Consulter les modèles
La commande ollama list affiche les modèles enregistrés localement.
5. Tester le CPU
Sans GPU dédié, les performances dépendent notamment du CPU et de la bande passante mémoire. Il faut vérifier que la vitesse est suffisante pour les utilisateurs.
6. Sécurité
Il faut vérifier la provenance du modèle, les droits d’accès à l’ordinateur, la configuration réseau du service et l’absence de transfert distant non souhaité.
20. Les erreurs fréquentes
| Erreur | Conséquence | Bonne pratique |
|---|---|---|
| Confondre Ollama et le modèle. | Mauvaise compréhension du fonctionnement. | Distinguer moteur et modèle. |
| Télécharger un modèle trop volumineux. | Manque de mémoire ou lenteur. | Vérifier les ressources. |
| Confondre stockage et RAM. | Sous-estimation des besoins. | Examiner séparément les deux ressources. |
| Ignorer les tags. | Utilisation d’une variante inattendue. | Identifier précisément le modèle. |
| Exposer l’API sans protection. | Accès réseau non maîtrisé. | Limiter l’accès au service. |
| Supposer les réponses toujours exactes. | Erreurs dans les résultats. | Contrôler les informations importantes. |
| Ignorer la licence. | Utilisation potentiellement non conforme. | Lire les conditions applicables. |
21. Questions fréquentes
Ollama est-il un modèle d’intelligence artificielle ?
Non. C’est un logiciel permettant de gérer et d’exécuter des modèles compatibles.
Ollama est-il gratuit ?
Ollama propose une utilisation locale sans facturation à chaque requête. Certains services ou fonctionnalités complémentaires peuvent toutefois relever de conditions différentes. Les modèles possèdent également leurs propres licences.
Peut-on utiliser Ollama sans Internet ?
Oui, pour l’inférence locale avec un modèle déjà téléchargé, à condition de ne pas utiliser de fonctionnalité distante et de disposer des composants nécessaires.
Faut-il obligatoirement une carte graphique ?
Non. Certains modèles peuvent fonctionner uniquement sur CPU, avec des performances variables.
Peut-on installer plusieurs modèles ?
Oui. Ollama permet de conserver plusieurs modèles sur le même ordinateur, dans la limite du stockage disponible.
Peut-on utiliser Ollama avec une interface graphique ?
Oui. Selon l’environnement, Ollama peut être utilisé avec des interfaces graphiques ou des applications compatibles avec son API.
Ollama peut-il être utilisé par un programme Python ?
Oui. Un programme Python peut communiquer avec l’API d’Ollama, notamment au moyen de requêtes HTTP ou d’une bibliothèque cliente compatible.
Ollama garantit-il la confidentialité des données ?
Non. L’exécution locale peut limiter les transferts vers des services distants, mais la confidentialité dépend aussi de la configuration, des applications connectées et de la sécurité de l’ordinateur.
À retenir
- Ollama est un logiciel de gestion et d’exécution de modèles d’IA.
- Il ne faut pas confondre Ollama, le modèle, l’interface et le matériel.
- Ollama permet de télécharger, exécuter et administrer plusieurs modèles compatibles.
- Les commandes principales comprennent
pull,run,list,ps,showetrm. - Le téléchargement nécessite généralement Internet, mais l’inférence locale peut fonctionner hors connexion.
- Les besoins en RAM et en VRAM dépendent du modèle et de son utilisation.
- Ollama propose une API locale généralement accessible sur
localhost:11434. - Les Modelfiles permettent de préparer certaines configurations personnalisées.
- L’exécution locale ne garantit ni l’exactitude des réponses ni une sécurité automatique.
- Le choix d’Ollama doit correspondre aux besoins et aux compétences de l’utilisateur.
Question 1 : Quelle est la différence entre Ollama et un modèle d’IA ?
Voir la réponse
Question 2 : Quelle commande permet de consulter les modèles téléchargés ?
Voir la réponse
ollama list.Question 3 : À quoi sert la commande ollama ps ?
Voir la réponse
Question 4 : Pourquoi Ollama utilise-t-il une API locale ?
Voir la réponse
Question 5 : Quelle précaution faut-il prendre avant de rendre l’API accessible sur un réseau ?
Voir la réponse
Découvrez une autre solution d’exécution locale, davantage orientée vers l’utilisation d’une interface graphique, et apprenez à distinguer ses possibilités de celles d’Ollama.
