Intelligence artificielle · Chapitre 36 · Cours 07

Découvrir Ollama

Ollama permet de télécharger, gérer et exécuter des modèles d’intelligence artificielle depuis son ordinateur. Découvrez son fonctionnement, ses commandes principales, son architecture locale et les possibilités qu’il offre pour créer un environnement d’IA personnel ou professionnel.

À la fin de ce cours, vous saurez :

  • Expliquer ce qu’est Ollama et à quoi il sert.
  • Distinguer Ollama d’un modèle d’intelligence artificielle.
  • Comprendre le fonctionnement du moteur local.
  • Identifier les principales commandes d’Ollama.
  • Comprendre le téléchargement et la gestion des modèles.
  • Découvrir le rôle de son API locale.
  • Identifier ses avantages, ses limites et les précautions de sécurité.
  • Déterminer dans quels cas Ollama constitue un choix pertinent.
Prérequis

Avoir étudié les notions de modèles locaux, de mémoire, de GPU, de quantification et de sélection d’un modèle. L’installation d’Ollama n’est pas nécessaire pour comprendre ce cours.

1. Qu’est-ce qu’Ollama ?

Ollama est un logiciel permettant d’exécuter et de gérer des modèles d’intelligence artificielle, notamment des modèles de langage, sur un ordinateur.

Il simplifie plusieurs opérations techniques :

  • Télécharger un modèle compatible.
  • Conserver des modèles sur l’ordinateur.
  • Charger un modèle pour réaliser une inférence.
  • Envoyer des instructions et recevoir des réponses.
  • Gérer plusieurs modèles.
  • Rendre les modèles accessibles à d’autres applications par une API.
Définition essentielle

Ollama est un environnement logiciel d’exécution et de gestion de modèles d’IA. Il ne constitue pas, à lui seul, un modèle d’intelligence artificielle.

2. Ne pas confondre Ollama et le modèle

Une confusion fréquente consiste à considérer Ollama comme l’intelligence artificielle elle-même.

En réalité, il faut distinguer trois éléments.

Le modèle

Il contient les paramètres appris pendant l’entraînement et réalise les prédictions nécessaires à la génération des réponses.

Ollama

Il fournit les mécanismes permettant de télécharger, charger, exécuter et administrer les modèles compatibles.

L’interface

Elle permet à l’utilisateur de saisir des instructions et de consulter les réponses : terminal, application ou interface web.

Le matériel

Le CPU, le GPU et la mémoire exécutent concrètement les calculs nécessaires au fonctionnement du modèle.

Une comparaison simple

On peut comparer le modèle à un moteur spécialisé, Ollama au système qui permet de le faire fonctionner et l’interface au tableau de commande utilisé par la personne.

Cette analogie est simplifiée, mais elle aide à comprendre pourquoi installer Ollama ne signifie pas automatiquement disposer d’un modèle prêt à répondre.

3. Comment fonctionne Ollama ?

Ollama utilise un service logiciel qui reçoit les demandes et coordonne l’exécution des modèles.

Une demande suit généralement le chemin suivant :

Utilisateur | v Terminal ou application | v Service Ollama | v Modèle chargé en mémoire | v CPU / GPU | v Réponse générée | v Utilisateur

3.1. Le rôle du service

Le service Ollama peut recevoir des demandes provenant du terminal ou d’applications qui utilisent son API.

Il gère notamment le chargement et l’utilisation des modèles compatibles.

3.2. Le rôle du modèle

Le modèle transforme les informations reçues en représentations numériques, réalise ses calculs et produit progressivement les éléments de sa réponse.

3.3. Le rôle du matériel

Les calculs sont effectués par les ressources disponibles. Selon la configuration, Ollama peut utiliser le CPU, un GPU compatible ou une combinaison des deux.

4. Sur quels systèmes fonctionne Ollama ?

Ollama propose des solutions pour les principaux systèmes d’exploitation de bureau :

  • Windows.
  • macOS.
  • Linux.

La compatibilité exacte dépend de l’architecture de l’ordinateur, de la version du logiciel et des éventuels pilotes nécessaires.

4.1. Utilisation sans GPU dédié

Certains modèles peuvent fonctionner sur CPU uniquement.

Les performances dépendent alors fortement du processeur, de la mémoire et de la taille du modèle.

4.2. Utilisation avec GPU

Lorsqu’un GPU compatible est disponible, certaines opérations peuvent être accélérées.

Il faut toutefois vérifier les exigences propres au matériel et à la version d’Ollama utilisée.

Attention

Le fait qu’Ollama puisse être installé sur un système ne garantit pas que tous les modèles fonctionneront correctement sur ce système. Les ressources matérielles restent déterminantes.

5. Comprendre la bibliothèque de modèles

Ollama permet d’obtenir des modèles depuis une bibliothèque ou un registre compatible.

La bibliothèque officielle est accessible à l’adresse :

https://ollama.com/library

On peut y consulter les modèles disponibles et leurs différentes variantes.

5.1. Les informations à examiner

  • Le nom du modèle.
  • Sa famille et sa version.
  • Sa taille.
  • Ses capacités annoncées.
  • Les variantes disponibles.
  • Les informations techniques et les conditions d’utilisation.

5.2. Les noms et les tags

Un modèle peut être identifié par un nom et un tag.

nom-du-modele:tag

Le tag peut permettre de sélectionner une variante particulière.

Sans tag explicite, certains appels utilisent une variante par défaut, généralement identifiée par le tag latest.

Bonne pratique

Pour obtenir un environnement reproductible, il est préférable d’identifier précisément la variante utilisée plutôt que de dépendre uniquement d’un nom générique.

6. Découvrir les principales commandes

Ollama peut être utilisé depuis un terminal grâce à des commandes simples.

Les exemples suivants supposent qu’Ollama est déjà installé et accessible depuis le terminal.

6.1. Afficher l’aide

ollama –help

Cette commande présente les commandes disponibles dans la version installée.

6.2. Télécharger un modèle

ollama pull nom-du-modele

La commande pull récupère les fichiers nécessaires depuis un registre compatible.

Le nom indiqué ici est un emplacement à remplacer par un identifiant réel.

6.3. Exécuter un modèle

ollama run nom-du-modele

La commande run permet de démarrer une interaction avec un modèle.

Selon la situation, Ollama peut télécharger le modèle s’il n’est pas déjà présent localement.

6.4. Afficher les modèles disponibles

ollama list

Cette commande affiche les modèles enregistrés localement.

6.5. Afficher les modèles chargés

ollama ps

Elle permet de consulter les modèles actuellement chargés par Ollama.

6.6. Consulter les informations d’un modèle

ollama show nom-du-modele

Cette commande fournit des informations sur le modèle concerné.

6.7. Supprimer un modèle local

ollama rm nom-du-modele

Cette commande supprime la référence locale du modèle et permet de libérer du stockage lorsque les données correspondantes ne sont plus nécessaires à d’autres modèles.

Précaution

La suppression d’un modèle est une opération de gestion du stockage. Vérifiez toujours le nom et le tag concernés avant de l’exécuter.

7. Tableau récapitulatif des commandes

CommandeFonctionUtilisation
ollama --helpAfficher l’aide.Découvrir les commandes.
ollama pullTélécharger un modèle.Préparer une utilisation locale.
ollama runExécuter un modèle.Dialoguer avec une IA.
ollama listLister les modèles locaux.Gérer sa bibliothèque.
ollama psAfficher les modèles chargés.Observer les ressources utilisées.
ollama showAfficher les informations d’un modèle.Vérifier ses caractéristiques.
ollama rmSupprimer un modèle.Gérer le stockage.
ollama serveDémarrer le service Ollama.Utilisation du service lorsque nécessaire.

8. Comprendre le téléchargement d’un modèle

Lorsqu’un modèle est téléchargé, Ollama récupère les fichiers nécessaires à son exécution.

Ces fichiers peuvent représenter plusieurs gigaoctets.

8.1. La première utilisation

Le téléchargement initial nécessite généralement une connexion réseau lorsque les fichiers ne sont pas déjà présents sur l’ordinateur.

8.2. Les utilisations suivantes

Une fois le modèle téléchargé, les opérations d’inférence peuvent être réalisées localement sans connexion Internet, à condition que les composants nécessaires soient disponibles et qu’aucune fonction distante ne soit utilisée.

8.3. Le stockage

Les modèles téléchargés occupent de l’espace disque.

Il faut distinguer :

  • L’espace de stockage nécessaire pour conserver le modèle.
  • La mémoire nécessaire pour le charger.
  • Les ressources nécessaires pendant la génération.
Exemple

Un modèle dont les fichiers occupent environ 5 Go peut nécessiter davantage de mémoire pendant son exécution.

Cette différence provient notamment des caches et des autres allocations nécessaires au moteur.

9. Comprendre la différence entre téléchargement et exécution

Deux commandes remplissent des fonctions différentes.

ollama pull

Récupère les fichiers du modèle pour les rendre disponibles localement.

ollama run

Charge et utilise le modèle pour réaliser une interaction. Peut déclencher un téléchargement si nécessaire.

Le téléchargement est principalement une opération de transfert et de stockage.

L’exécution mobilise le moteur d’inférence et les ressources matérielles.

10. Découvrir l’utilisation en ligne de commande

La ligne de commande est une interface textuelle permettant d’envoyer des instructions au logiciel.

Une fois un modèle lancé, l’utilisateur peut saisir une demande.

Exemple de demande : Explique la différence entre la RAM et la VRAM en cinq phrases simples.

Le modèle génère ensuite une réponse.

Cette méthode présente plusieurs intérêts :

  • Elle évite de dépendre d’une interface graphique complexe.
  • Elle permet de tester rapidement un modèle.
  • Elle facilite certaines opérations d’administration.
  • Elle peut être utilisée dans des scripts et des procédures techniques.
À comprendre

Le terminal est une manière d’interagir avec Ollama, mais ce n’est pas la seule. Des applications peuvent également communiquer avec le service local.

11. Découvrir l’API locale d’Ollama

Ollama expose une interface de programmation, appelée API, qui permet à d’autres logiciels de communiquer avec son service.

Par défaut, l’API locale utilise généralement l’adresse :

http://localhost:11434

localhost désigne l’ordinateur sur lequel la requête est effectuée.

Le nombre 11434 correspond au port utilisé par défaut par le service.

11.1. À quoi sert cette API ?

Elle peut permettre à une application :

  • D’envoyer une instruction à un modèle.
  • De récupérer une réponse.
  • De consulter les modèles disponibles.
  • D’utiliser un modèle dans un programme.
  • De construire une interface de conversation personnalisée.

11.2. Exemple conceptuel

Application | | Requête HTTP v API Ollama | v Modèle local | | Réponse v Application

Cette architecture permet de séparer l’interface utilisateur du moteur d’inférence.

11.3. Exemple de requête HTTP

Une application peut utiliser le point d’accès /api/generate pour demander une génération.

POST http://localhost:11434/api/generate { « model »: « nom-du-modele », « prompt »: « Explique ce qu’est une IA locale. », « stream »: false }

Le nom du modèle doit être remplacé par celui d’un modèle disponible.

Le paramètre stream défini sur false demande une réponse regroupée plutôt qu’un flux progressif.

Progression pédagogique

Ce cours présente uniquement le principe de l’API. Son utilisation détaillée, les requêtes HTTP et l’intégration dans des applications seront approfondies dans le cours 11 du chapitre.

12. Comprendre le fonctionnement en arrière-plan

Ollama repose sur un service qui peut fonctionner indépendamment du terminal utilisé pour envoyer les demandes.

Selon le système et le mode d’installation, ce service peut être démarré automatiquement ou manuellement.

12.1. Le service Ollama

Le service reçoit les requêtes, prépare l’exécution des modèles et renvoie les résultats.

12.2. Les modèles chargés

Un modèle peut rester chargé pendant une certaine durée après une interaction afin de faciliter les requêtes suivantes.

Ce comportement peut être configuré selon les possibilités offertes par la version utilisée.

12.3. Les ressources mobilisées

Un modèle chargé peut continuer à occuper de la mémoire même lorsqu’aucune réponse n’est en cours de génération.

La commande ollama ps aide à observer les modèles présents en mémoire.

13. Découvrir les paramètres de génération

Le comportement d’un modèle peut être influencé par différents paramètres.

13.1. La température

La température agit sur la distribution des probabilités utilisée pour sélectionner les tokens.

Une température plus faible favorise généralement des choix plus concentrés sur les tokens les plus probables.

Une température plus élevée peut produire des réponses plus variées.

13.2. La longueur du contexte

Elle détermine la quantité d’informations que le moteur peut utiliser pendant une interaction, dans les limites du modèle et des ressources disponibles.

13.3. La longueur de génération

Certains paramètres permettent de limiter le nombre de tokens produits.

13.4. Le maintien en mémoire

Des options peuvent contrôler la durée pendant laquelle un modèle reste chargé après utilisation.

Attention

Modifier un paramètre ne garantit pas une amélioration. Les réglages doivent être adaptés au modèle et à l’usage, puis testés.

14. Comprendre les modèles personnalisés et les Modelfiles

Ollama permet de définir certaines configurations personnalisées à l’aide d’un fichier appelé Modelfile.

Un Modelfile peut notamment préciser :

  • Le modèle de départ.
  • Des paramètres de génération.
  • Une instruction système.
  • Certains éléments de configuration.

14.1. Exemple simplifié

FROM nom-du-modele PARAMETER temperature 0.3 SYSTEM «  » » Tu es un assistant pédagogique. Réponds en français avec des explications claires. «  » »

Cet exemple illustre la structure d’un Modelfile. Il doit être adapté à un modèle réellement disponible.

14.2. Ce que cela ne fait pas

Définir une instruction système ne revient pas à réentraîner le modèle.

La personnalisation des consignes modifie le comportement demandé, mais ne garantit pas que le modèle respectera toujours ces consignes.

15. Les principaux avantages d’Ollama

Gestion simplifiée

Les commandes permettent de télécharger, consulter et supprimer des modèles sans gérer manuellement tous les détails du moteur.

Exécution locale

Les modèles compatibles peuvent être exécutés sur l’ordinateur, sous réserve des ressources disponibles.

API intégrée

Le service peut être utilisé par des applications locales et des outils de développement.

Plusieurs modèles

Il est possible de conserver différentes familles ou variantes de modèles pour des usages distincts.

Automatisation

Les commandes et l’API peuvent s’intégrer dans des scripts et des workflows techniques.

Personnalisation

Les Modelfiles permettent de préparer certaines configurations adaptées à un usage.

16. Les limites d’Ollama

Ollama facilite l’exécution locale, mais ne supprime pas les contraintes techniques.

16.1. Les ressources matérielles

Les modèles volumineux peuvent nécessiter une quantité importante de RAM ou de VRAM.

16.2. Les performances

Un modèle peut être lent sur CPU ou sur une machine dont la bande passante mémoire est limitée.

16.3. La qualité des réponses

Ollama ne corrige pas automatiquement les erreurs du modèle utilisé.

Les hallucinations, approximations et limites de connaissances restent possibles.

16.4. La compatibilité

Toutes les architectures et toutes les variantes de modèles ne sont pas nécessairement prises en charge.

16.5. Les besoins de configuration

Certains usages avancés nécessitent des connaissances sur les API, les paramètres ou la sécurité du système.

17. Sécurité et confidentialité

Une exécution locale peut contribuer à mieux contrôler la circulation des données.

Cependant, plusieurs précautions restent nécessaires.

17.1. Vérifier la provenance des modèles

Il est recommandé d’utiliser des sources identifiables et de vérifier les informations de licence.

17.2. Protéger l’API

Par défaut, l’API est généralement accessible sur l’interface locale de l’ordinateur.

Il ne faut pas exposer directement le service sur Internet sans protection adaptée.

Une exposition réseau non maîtrisée peut permettre à d’autres utilisateurs d’envoyer des requêtes ou de consommer des ressources.

17.3. Protéger les documents

Les données transmises à un modèle local restent soumises aux règles de sécurité de l’ordinateur et des applications utilisées.

17.4. Vérifier les fonctionnalités distantes

Il faut distinguer l’utilisation de modèles locaux des éventuelles fonctionnalités nécessitant une connexion à un service distant.

Règle de sécurité

Pour une utilisation strictement locale, vérifiez la configuration du service, les connexions réseau et les applications qui communiquent avec Ollama.

18. Dans quels cas choisir Ollama ?

Ollama peut être particulièrement pertinent dans plusieurs situations.

SituationIntérêt d’OllamaPoint à vérifier
Découverte de l’IA locale Commandes relativement simples. Choisir un modèle adapté au matériel.
Assistant personnel Utilisation de modèles sur l’ordinateur. Qualité du modèle et confidentialité.
Développement logiciel API locale exploitable par des applications. Compatibilité et performances.
Automatisation Intégration dans des scripts. Gestion des erreurs et ressources.
Expérimentation Possibilité de comparer plusieurs modèles. Stockage et mémoire disponibles.

19. Étude de cas : préparer un assistant local avec Ollama

Une petite entreprise souhaite utiliser une IA locale pour reformuler des courriels internes et résumer de courts documents.

Elle dispose d’un ordinateur avec 16 Go de RAM et aucun GPU dédié.

Elle envisage d’utiliser Ollama.

Questions

  1. Ollama suffit-il à lui seul pour produire des réponses ?
  2. Quel type de modèle devrait-elle rechercher ?
  3. Quelle commande permettrait de télécharger le modèle ?
  4. Quelle commande permettrait de consulter les modèles disponibles ?
  5. Pourquoi faudrait-il tester les performances sur CPU ?
  6. Quelles précautions prendre concernant les documents internes ?
Afficher la correction détaillée

1. Ollama suffit-il ?

Non. Ollama est un environnement d’exécution. Il faut également disposer d’un modèle compatible.

2. Type de modèle

L’entreprise peut commencer par présélectionner un modèle instruction compact, maîtrisant suffisamment le français et disposant d’une quantification adaptée à la mémoire disponible.

3. Télécharger le modèle

La commande est ollama pull nom-du-modele, en remplaçant le nom générique par un identifiant réel.

4. Consulter les modèles

La commande ollama list affiche les modèles enregistrés localement.

5. Tester le CPU

Sans GPU dédié, les performances dépendent notamment du CPU et de la bande passante mémoire. Il faut vérifier que la vitesse est suffisante pour les utilisateurs.

6. Sécurité

Il faut vérifier la provenance du modèle, les droits d’accès à l’ordinateur, la configuration réseau du service et l’absence de transfert distant non souhaité.

20. Les erreurs fréquentes

ErreurConséquenceBonne pratique
Confondre Ollama et le modèle. Mauvaise compréhension du fonctionnement. Distinguer moteur et modèle.
Télécharger un modèle trop volumineux. Manque de mémoire ou lenteur. Vérifier les ressources.
Confondre stockage et RAM. Sous-estimation des besoins. Examiner séparément les deux ressources.
Ignorer les tags. Utilisation d’une variante inattendue. Identifier précisément le modèle.
Exposer l’API sans protection. Accès réseau non maîtrisé. Limiter l’accès au service.
Supposer les réponses toujours exactes. Erreurs dans les résultats. Contrôler les informations importantes.
Ignorer la licence. Utilisation potentiellement non conforme. Lire les conditions applicables.

21. Questions fréquentes

Ollama est-il un modèle d’intelligence artificielle ?

Non. C’est un logiciel permettant de gérer et d’exécuter des modèles compatibles.

Ollama est-il gratuit ?

Ollama propose une utilisation locale sans facturation à chaque requête. Certains services ou fonctionnalités complémentaires peuvent toutefois relever de conditions différentes. Les modèles possèdent également leurs propres licences.

Peut-on utiliser Ollama sans Internet ?

Oui, pour l’inférence locale avec un modèle déjà téléchargé, à condition de ne pas utiliser de fonctionnalité distante et de disposer des composants nécessaires.

Faut-il obligatoirement une carte graphique ?

Non. Certains modèles peuvent fonctionner uniquement sur CPU, avec des performances variables.

Peut-on installer plusieurs modèles ?

Oui. Ollama permet de conserver plusieurs modèles sur le même ordinateur, dans la limite du stockage disponible.

Peut-on utiliser Ollama avec une interface graphique ?

Oui. Selon l’environnement, Ollama peut être utilisé avec des interfaces graphiques ou des applications compatibles avec son API.

Ollama peut-il être utilisé par un programme Python ?

Oui. Un programme Python peut communiquer avec l’API d’Ollama, notamment au moyen de requêtes HTTP ou d’une bibliothèque cliente compatible.

Ollama garantit-il la confidentialité des données ?

Non. L’exécution locale peut limiter les transferts vers des services distants, mais la confidentialité dépend aussi de la configuration, des applications connectées et de la sécurité de l’ordinateur.

À retenir

  • Ollama est un logiciel de gestion et d’exécution de modèles d’IA.
  • Il ne faut pas confondre Ollama, le modèle, l’interface et le matériel.
  • Ollama permet de télécharger, exécuter et administrer plusieurs modèles compatibles.
  • Les commandes principales comprennent pull, run, list, ps, show et rm.
  • Le téléchargement nécessite généralement Internet, mais l’inférence locale peut fonctionner hors connexion.
  • Les besoins en RAM et en VRAM dépendent du modèle et de son utilisation.
  • Ollama propose une API locale généralement accessible sur localhost:11434.
  • Les Modelfiles permettent de préparer certaines configurations personnalisées.
  • L’exécution locale ne garantit ni l’exactitude des réponses ni une sécurité automatique.
  • Le choix d’Ollama doit correspondre aux besoins et aux compétences de l’utilisateur.
Vérifiez votre compréhension

Question 1 : Quelle est la différence entre Ollama et un modèle d’IA ?

Voir la réponse
Ollama est le logiciel qui gère et exécute les modèles. Le modèle contient les paramètres nécessaires à la génération des réponses.

Question 2 : Quelle commande permet de consulter les modèles téléchargés ?

Voir la réponse
ollama list.

Question 3 : À quoi sert la commande ollama ps ?

Voir la réponse
Elle permet de consulter les modèles actuellement chargés par Ollama.

Question 4 : Pourquoi Ollama utilise-t-il une API locale ?

Voir la réponse
Pour permettre à des applications et à des programmes de communiquer avec le service et les modèles disponibles.

Question 5 : Quelle précaution faut-il prendre avant de rendre l’API accessible sur un réseau ?

Voir la réponse
Il faut mettre en place des protections adaptées et contrôler les accès. Une exposition directe non sécurisée peut permettre des utilisations non autorisées du service.
À suivre — Cours 08 Découvrir LM Studio →

Découvrez une autre solution d’exécution locale, davantage orientée vers l’utilisation d’une interface graphique, et apprenez à distinguer ses possibilités de celles d’Ollama.