Intelligence artificielle · Chapitre 36 · Cours 09

Installer un modèle local

Apprenez à installer et à faire fonctionner votre premier modèle d’intelligence artificielle sur Windows, macOS ou Linux. Deux méthodes sont proposées : Ollama, avec des commandes simples, et LM Studio, avec une interface graphique. Chaque étape est expliquée, de la préparation du matériel jusqu’à la vérification du fonctionnement hors connexion.

À la fin de ce cours, vous saurez :

  • Préparer votre ordinateur pour une installation locale.
  • Choisir un modèle compatible avec votre matériel.
  • Installer Ollama sur un système pris en charge.
  • Télécharger et lancer un modèle avec Ollama.
  • Installer et utiliser LM Studio.
  • Vérifier qu’un modèle fonctionne correctement.
  • Tester son fonctionnement sans Internet.
  • Identifier et résoudre les problèmes d’installation courants.
  • Gérer les modèles téléchargés et l’espace disque.
Prérequis

Savoir identifier son système d’exploitation, disposer des droits nécessaires à l’installation de logiciels et comprendre les notions de RAM, de VRAM et de quantification. Les cours précédents du chapitre présentent ces notions ainsi qu’Ollama et LM Studio.

1. Que signifie installer un modèle local ?

Installer un modèle local consiste à préparer un ordinateur pour qu’il puisse exécuter un modèle d’intelligence artificielle sans devoir envoyer chaque demande à un service distant.

Cette opération comprend généralement trois actions différentes :

  1. Installer un logiciel d’exécution, comme Ollama ou LM Studio.
  2. Télécharger un modèle compatible, c’est-à-dire récupérer les fichiers contenant ses paramètres.
  3. Charger et exécuter le modèle, pour lui transmettre une instruction et obtenir une réponse.
ORDINATEUR | +– Logiciel d’exécution | | | +– Ollama | ou | +– LM Studio | +– Fichiers du modèle | | | +– Poids et métadonnées | +– Ressources matérielles | +– CPU +– RAM +– GPU / VRAM si disponibles
Point essentiel

Installer Ollama ou LM Studio ne signifie pas qu’un modèle est déjà téléchargé et prêt à répondre. Le logiciel et le modèle sont deux éléments distincts.

2. Vérifier son ordinateur avant l’installation

Avant de télécharger quoi que ce soit, il faut vérifier les caractéristiques de l’ordinateur.

Cette vérification permet d’éviter de choisir un modèle trop volumineux ou incompatible.

2.1. Les informations à relever

InformationPourquoi la vérifier ?
Système d’exploitation Choisir la version du logiciel compatible.
Architecture du processeur Vérifier la compatibilité du programme et du moteur.
RAM installée Estimer les modèles pouvant être chargés.
RAM disponible Connaître la mémoire réellement utilisable.
GPU et VRAM Déterminer les possibilités d’accélération.
Espace disque libre Prévoir le stockage des fichiers du modèle.

2.2. Vérification sous Windows

Pour consulter les caractéristiques générales :

  1. Ouvrir les Paramètres.
  2. Accéder à Système.
  3. Ouvrir Informations système ou À propos, selon la version.
  4. Relever le processeur, la RAM et le type de système.

Pour examiner l’utilisation de la mémoire et du GPU :

  1. Appuyer sur Ctrl + Maj + Échap.
  2. Ouvrir le Gestionnaire des tâches.
  3. Accéder à l’onglet Performances.
  4. Consulter les sections CPU, Mémoire et GPU lorsqu’elles sont disponibles.

2.3. Vérification sous macOS

Ouvrir le menu Apple, puis À propos de ce Mac.

Pour consulter l’utilisation de la mémoire, ouvrir le Moniteur d’activité.

Les informations matérielles détaillées peuvent également être consultées dans les informations système.

2.4. Vérification sous Linux

Dans un terminal, plusieurs commandes permettent de consulter les ressources :

# Mémoire free -h # Processeur lscpu # Espace disque df -h

La disponibilité de ces commandes dépend de la distribution et des utilitaires installés.

Pour un GPU NVIDIA disposant des outils appropriés, la commande suivante peut fournir des informations complémentaires :

nvidia-smi
Attention

La présence d’un GPU ne garantit pas son utilisation par le logiciel. Il faut également vérifier sa compatibilité, les pilotes et le moteur d’inférence.

3. Choisir un modèle pour sa première installation

Pour une première expérience, il est préférable de sélectionner un modèle relativement compact, conçu pour suivre des instructions.

Le modèle doit être compatible avec le logiciel choisi et suffisamment petit pour fonctionner avec la mémoire disponible.

3.1. Repères indicatifs

ConfigurationPoint de départ envisageablePrécaution
8 Go de RAM Petit modèle quantifié, par exemple dans la catégorie 1 à 3 milliards de paramètres. Fermer les applications gourmandes et vérifier la mémoire disponible.
16 Go de RAM Modèle compact quantifié, éventuellement autour de 3 à 8 milliards de paramètres. Le contexte et les autres applications peuvent augmenter fortement les besoins.
32 Go de RAM Choix plus large de modèles quantifiés. La vitesse peut rester limitée par le CPU ou la bande passante mémoire.
GPU avec VRAM Modèle adapté à la VRAM réellement disponible. Prévoir une marge pour les caches et les allocations d’exécution.

Ces repères ne sont pas des garanties de compatibilité. Les besoins réels dépendent du modèle, de sa quantification, de la fenêtre de contexte et du moteur.

3.2. Exemple de modèle utilisé dans ce cours

Pour illustrer les commandes Ollama, nous utiliserons :

gemma3:1b

Il s’agit d’une variante compacte de la famille Gemma 3. Elle constitue un exemple pratique pour découvrir l’exécution locale.

Son utilisation suppose que cette variante soit disponible dans la bibliothèque et compatible avec la version d’Ollama installée.

Un petit modèle est pratique pour débuter, mais ses capacités de raisonnement, de précision ou de compréhension peuvent être limitées.

Pourquoi commencer petit ?

Le premier objectif est de valider l’installation. Une fois cette étape réussie, il sera plus simple d’essayer des modèles plus volumineux et de comparer leurs performances.

4. Choisir entre Ollama et LM Studio

Les deux logiciels permettent d’exécuter des modèles localement, mais leur prise en main diffère.

Parcours A — Ollama

Convient pour apprendre à télécharger et lancer un modèle avec des commandes. Utile également pour les scripts et les intégrations.

Parcours B — LM Studio

Convient pour rechercher, télécharger et tester un modèle depuis une interface graphique.

Il n’est pas nécessaire d’installer les deux logiciels. Choisissez d’abord un parcours, puis réalisez les tests correspondants.

5. Parcours A — Installer Ollama sous Windows

Étape 1 — Télécharger Ollama

  1. Ouvrir un navigateur.
  2. Accéder au site officiel : ollama.com/download.
  3. Sélectionner la version Windows.
  4. Télécharger l’installateur proposé.
Sécurité

Téléchargez les logiciels depuis leur site officiel. Évitez les installateurs provenant de sites de téléchargement inconnus.

Étape 2 — Exécuter l’installateur

  1. Ouvrir le fichier téléchargé.
  2. Suivre les instructions affichées.
  3. Accepter les demandes d’autorisation uniquement si elles correspondent à l’installation attendue.
  4. Attendre la fin de l’installation.

Selon la version, Ollama peut démarrer en arrière-plan.

Étape 3 — Ouvrir PowerShell

Ouvrir le menu Démarrer, rechercher PowerShell, puis lancer le terminal.

Saisir :

ollama –version

Une installation correctement accessible depuis le terminal doit afficher une information de version.

Le numéro exact dépend de la version installée.

Étape 4 — Télécharger et lancer le modèle

Saisir :

ollama run gemma3:1b

Si le modèle n’est pas déjà disponible, Ollama peut commencer par télécharger ses fichiers.

Attendre la fin du téléchargement et du chargement.

Étape 5 — Envoyer une première instruction

Lorsque l’invite de conversation apparaît, saisir :

Bonjour. Présente-toi en trois phrases et explique ce qu’est une IA locale.

Si le modèle produit une réponse, l’installation de base fonctionne.

Étape 6 — Quitter la conversation

Dans l’interface interactive du terminal, la commande suivante permet généralement de quitter :

/bye

Le modèle peut rester temporairement chargé en mémoire selon la configuration du service.

Résultat attendu

Ollama est installé, le modèle est téléchargé et une première réponse a été générée depuis l’ordinateur.

6. Parcours A — Installer Ollama sous macOS

Étape 1 — Vérifier la compatibilité

Consulter les exigences officielles pour vérifier que la version de macOS et l’architecture du Mac sont prises en charge.

Étape 2 — Télécharger l’application

Accéder à ollama.com/download et choisir macOS.

Étape 3 — Installer Ollama

Ouvrir le fichier téléchargé et suivre la procédure proposée par l’installateur.

Selon la version, l’installation peut impliquer de déplacer l’application dans le dossier Applications ou d’effectuer une configuration initiale.

Étape 4 — Ouvrir Terminal

Ouvrir l’application Terminal, puis saisir :

ollama –version

Si le terminal ne reconnaît pas la commande, vérifier que l’installation et la configuration de l’outil en ligne de commande sont terminées.

Étape 5 — Lancer le modèle

ollama run gemma3:1b

Attendre le téléchargement éventuel, puis saisir une première demande.

Explique en français ce qu’est un modèle de langage local.

La génération d’une réponse confirme que le modèle fonctionne.

7. Parcours A — Installer Ollama sous Linux

Sous Linux, la procédure dépend de la distribution, de l’architecture et du mode d’installation retenu.

Étape 1 — Consulter la documentation officielle

Ouvrir :

Documentation Linux d’Ollama

Vérifier les prérequis et les commandes correspondant à la distribution.

Étape 2 — Installer le logiciel

La documentation officielle propose notamment une méthode utilisant un script d’installation.

curl -fsSL https://ollama.com/install.sh -o ollama-install.sh

Cette commande télécharge le script dans le dossier courant sans l’exécuter.

Avant toute exécution, il est recommandé de consulter son contenu et de vérifier sa provenance.

Après vérification, l’exécution peut être effectuée selon les instructions officielles :

sh ollama-install.sh

Les permissions nécessaires dépendent du système. Le script peut demander des droits élevés pour certaines opérations.

Précaution Linux

Un script d’installation peut modifier le système. Ne lancez pas une commande téléchargée depuis Internet sans vérifier sa source et comprendre les permissions demandées.

Étape 3 — Vérifier la version

ollama –version

Étape 4 — Vérifier le service

Sur une installation utilisant systemd, la commande suivante peut permettre de consulter l’état du service :

systemctl status ollama

Si le service n’est pas démarré, consulter la documentation de la méthode d’installation utilisée.

Dans une configuration manuelle, le serveur peut être lancé avec :

ollama serve

Cette commande n’est pas nécessaire si le service est déjà actif. Deux instances ne peuvent pas écouter simultanément sur le même port et la même adresse.

Étape 5 — Lancer un modèle

ollama run gemma3:1b

Attendre le chargement, puis saisir une instruction de test.

Explique simplement la différence entre la RAM et la VRAM.

Si une réponse est produite, l’installation de base est opérationnelle.

8. Vérifier les modèles installés avec Ollama

Après la première exécution, plusieurs commandes permettent de vérifier l’état de l’environnement.

8.1. Lister les modèles téléchargés

ollama list

La liste doit contenir le modèle téléchargé, sous réserve que son installation soit terminée.

8.2. Consulter les modèles chargés

ollama ps

Cette commande affiche les modèles actuellement chargés, lorsqu’il y en a.

8.3. Examiner les informations du modèle

ollama show gemma3:1b

Les informations retournées peuvent notamment renseigner sur l’architecture et certaines caractéristiques du modèle.

8.4. Télécharger sans lancer de conversation

ollama pull gemma3:1b

Cette commande permet de télécharger le modèle ou de vérifier la disponibilité de ses fichiers sans ouvrir directement une conversation interactive.

8.5. Arrêter un modèle chargé

ollama stop gemma3:1b

Cette commande demande l’arrêt du modèle chargé, s’il est actuellement actif.

9. Parcours B — Installer LM Studio

LM Studio permet d’effectuer les principales opérations depuis une interface graphique.

Cette méthode est particulièrement adaptée à une première découverte sans terminal.

Étape 1 — Télécharger LM Studio

  1. Ouvrir le site officiel : lmstudio.ai.
  2. Accéder au téléchargement.
  3. Choisir la version compatible avec Windows, macOS ou Linux.
  4. Vérifier les exigences système.
  5. Télécharger le programme.

Étape 2 — Installer l’application

La procédure varie selon le système et le format distribué.

SystèmeProcédure générale
Windows Ouvrir l’installateur téléchargé et suivre les étapes affichées.
macOS Ouvrir le fichier téléchargé et suivre les instructions d’installation.
Linux Utiliser le paquet ou le format proposé pour la distribution et suivre la documentation correspondante.

Ne pas supposer qu’un paquet prévu pour une distribution Linux fonctionne sur toutes les autres.

Étape 3 — Ouvrir LM Studio

Lancer l’application.

Selon la version, un écran d’accueil ou une configuration initiale peut apparaître.

Suivre les instructions nécessaires avant d’accéder aux fonctions de recherche de modèles.

10. Parcours B — Télécharger un modèle avec LM Studio

Étape 1 — Ouvrir la recherche de modèles

Dans LM Studio, accéder à la section consacrée à la découverte ou à la recherche de modèles.

Les noms et l’emplacement des rubriques peuvent varier selon les versions.

Étape 2 — Rechercher un modèle compact

Rechercher par exemple :

Gemma 3 1B Instruct

Cette recherche sert à identifier une variante compatible avec LM Studio. Elle ne correspond pas nécessairement à l’identifiant utilisé par Ollama.

Étape 3 — Examiner les variantes

Vérifier :

  • La famille et la version du modèle.
  • La présence d’un ajustement pour suivre des instructions.
  • Le format proposé.
  • La quantification.
  • La taille du téléchargement.
  • La compatibilité annoncée avec le moteur.
  • La licence applicable.

Pour une première installation, une variante compacte quantifiée peut être préférable à une version beaucoup plus volumineuse.

Étape 4 — Télécharger

Sélectionner la variante retenue, puis lancer son téléchargement.

Attendre que le logiciel confirme la disponibilité locale des fichiers.

Étape 5 — Vérifier la bibliothèque

Ouvrir la section des modèles locaux ou des téléchargements.

Vérifier que le modèle apparaît dans la liste.

Résultat attendu

Le modèle est enregistré sur le disque. Il reste à le charger pour commencer à générer des réponses.

11. Parcours B — Charger et utiliser le modèle

Étape 1 — Ouvrir l’espace de conversation

Accéder à l’interface de discussion de LM Studio.

Étape 2 — Sélectionner le modèle

Utiliser le sélecteur de modèles pour choisir le modèle téléchargé.

Étape 3 — Vérifier les réglages

Pour un premier test, conserver les réglages proposés par défaut lorsque ceux-ci sont adaptés au matériel.

Éviter d’augmenter immédiatement la fenêtre de contexte ou les paramètres de mémoire.

Étape 4 — Charger le modèle

Déclencher le chargement lorsque l’application le demande.

Cette opération peut prendre un certain temps.

Étape 5 — Envoyer une première instruction

Bonjour. Explique en français, avec un exemple, ce qu’est une intelligence artificielle exécutée localement.

Attendre la réponse.

Étape 6 — Observer le comportement

Vérifier :

  • Que la réponse est générée.
  • Que l’application reste stable.
  • Que le temps d’attente est acceptable.
  • Que la mémoire disponible ne devient pas insuffisante.

Étape 7 — Décharger le modèle

Lorsque les essais sont terminés, utiliser la fonction de déchargement ou de libération du modèle si elle est disponible.

Cette opération permet de restituer les ressources mémoire mobilisées.

12. Comprendre la différence entre disque, RAM et VRAM

Une erreur fréquente consiste à penser que la taille du fichier téléchargé correspond exactement à la mémoire nécessaire pour exécuter le modèle.

En réalité, plusieurs ressources interviennent.

RessourceFonctionExemple
SSD ou disque Conserver les fichiers téléchargés. Un modèle occupe plusieurs Go sur le disque.
RAM Conserver les données nécessaires aux calculs sur CPU et certaines données du moteur. Chargement des poids et des caches.
VRAM Conserver les données utilisées par le GPU. Accélération de certaines opérations.
Exemple chiffré

Supposons qu’un modèle quantifié occupe 4,5 Go sur le disque.

Son exécution peut nécessiter davantage de mémoire en raison des caches, du contexte, des allocations temporaires et des composants du moteur.

La quantité exacte dépend de la configuration. Il serait incorrect de conclure qu’un fichier de 4,5 Go nécessite systématiquement seulement 4,5 Go de RAM.

13. Tester le fonctionnement hors connexion

Une fois le modèle téléchargé et le logiciel correctement configuré, il est possible de vérifier que l’inférence fonctionne sans Internet.

1
Vérifier le modèle

Confirmer que les fichiers du modèle sont disponibles localement.

2
Préparer le logiciel

Vérifier que le moteur d’inférence et ses composants sont déjà installés.

3
Couper temporairement Internet

Désactiver la connexion réseau pendant le test, sans interrompre une activité nécessitant cette connexion.

4
Relancer une conversation

Utiliser le modèle local déjà téléchargé.

5
Vérifier le résultat

Confirmer qu’une nouvelle réponse peut être produite sans connexion distante.

Interprétation du test

Si le modèle produit une réponse sans connexion Internet, cela confirme que cette opération d’inférence fonctionne localement. Cela ne prouve pas que toutes les autres fonctions du logiciel sont entièrement hors ligne.

14. Réaliser un premier test de qualité

Une installation fonctionnelle ne garantit pas que le modèle répond correctement à toutes les demandes.

Il faut distinguer la réussite technique de la qualité des réponses.

14.1. Test de compréhension

Explique la différence entre un logiciel et un système d’exploitation. Utilise un exemple simple.

14.2. Test de reformulation

Reformule cette phrase dans un style professionnel : « On a pas reçu les documents, faudrait nous les envoyer vite. »

14.3. Test de structuration

Présente sous forme de tableau trois avantages et trois limites de l’intelligence artificielle locale.

14.4. Test de suivi des instructions

Réponds en français. Utilise exactement trois phrases. Explique ce qu’est un GPU.

Vérifier que le modèle respecte les contraintes demandées.

15. Mesurer les performances de base

Une fois l’installation terminée, quelques mesures permettent d’évaluer le confort d’utilisation.

15.1. Temps avant la première réponse

Mesurer le délai entre l’envoi de la demande et l’apparition du premier élément généré.

Ce délai peut inclure le chargement du modèle et le traitement de l’instruction.

15.2. Vitesse de génération

La vitesse peut être exprimée en tokens par seconde.

Exemple :

Nombre de tokens générés : 240 Durée de génération : 20 secondes Vitesse moyenne : 240 / 20 = 12 tokens/seconde

Ce calcul représente une vitesse moyenne sur la période de génération considérée.

15.3. Utilisation de la mémoire

Observer la RAM et, si elle existe, la VRAM utilisée pendant le chargement et la génération.

15.4. Stabilité

Réaliser plusieurs demandes successives pour vérifier l’absence de plantage ou de ralentissement anormal.

Conseil de mesure

Pour comparer deux modèles, utilisez les mêmes instructions, un contexte similaire et des paramètres comparables. Une seule réponse ne suffit pas à établir un classement fiable.

16. Résoudre les problèmes d’installation

Une erreur d’installation ne signifie pas nécessairement que l’ordinateur est incompatible.

Il faut identifier précisément l’étape qui échoue.

ProblèmeCause possibleVérification ou solution
Commande Ollama inconnue Installation incomplète ou commande absente du PATH. Vérifier l’installation, redémarrer le terminal et consulter la documentation.
Impossible de joindre le service Ollama Service non démarré ou indisponible. Vérifier l’état du service et son port.
Téléchargement interrompu Connexion instable ou stockage insuffisant. Contrôler le réseau et l’espace libre, puis relancer.
Modèle introuvable Identifiant incorrect ou variante indisponible. Vérifier le nom et le tag dans la bibliothèque officielle.
Échec du chargement Mémoire insuffisante ou incompatibilité. Essayer un modèle plus compact et vérifier les ressources.
Génération très lente Exécution CPU, modèle volumineux ou mémoire limitée. Tester un modèle plus petit et observer les ressources.
GPU non utilisé Incompatibilité, pilote ou configuration du moteur. Consulter les exigences GPU et les journaux du logiciel.
Application instable Manque de mémoire, pilote ou problème logiciel. Mettre à jour les composants compatibles et réduire la charge.

17. Diagnostiquer un problème avec Ollama

17.1. Vérifier l’installation

ollama –version

Si la commande n’est pas reconnue, vérifier le programme et sa disponibilité dans le terminal.

17.2. Vérifier les modèles

ollama list

Si le modèle attendu n’apparaît pas, vérifier le téléchargement.

17.3. Vérifier les modèles chargés

ollama ps

Une liste vide n’est pas nécessairement une erreur : aucun modèle ne peut être chargé à cet instant.

17.4. Examiner le service

Sur un système Linux utilisant systemd :

systemctl status ollama

Si le service est indisponible, consulter les journaux système et la documentation de la méthode d’installation.

17.5. Reproduire le problème

Relancer le modèle avec une instruction courte.

ollama run gemma3:1b

Noter le message d’erreur exact plutôt que de modifier plusieurs paramètres au hasard.

18. Diagnostiquer un problème avec LM Studio

Avec LM Studio, le diagnostic peut être réalisé depuis l’interface graphique et les informations techniques disponibles.

1
Vérifier le téléchargement

Le fichier du modèle est-il présent et complet ?

2
Vérifier la compatibilité

Le moteur reconnaît-il l’architecture et la quantification ?

3
Examiner la mémoire

La RAM ou la VRAM disponible est-elle suffisante ?

4
Réduire les exigences

Essayer une variante plus compacte ou une configuration de contexte moins gourmande.

5
Consulter les messages

Examiner les erreurs et les informations techniques fournies par l’application.

19. Gérer les modèles et l’espace disque

Au fil des essais, plusieurs modèles peuvent occuper une quantité importante de stockage.

Il est utile de conserver uniquement les modèles nécessaires.

19.1. Avec Ollama

Afficher les modèles disponibles :

ollama list

Supprimer un modèle dont on n’a plus besoin :

ollama rm gemma3:1b

Cette commande supprime le modèle local désigné. Les données partagées avec d’autres modèles peuvent être conservées lorsqu’elles restent nécessaires.

19.2. Avec LM Studio

Ouvrir la bibliothèque locale, sélectionner le modèle concerné et utiliser la fonction de suppression prévue par l’application.

Les commandes exactes de l’interface peuvent varier selon la version.

19.3. Avant de supprimer

  • Vérifier que le modèle n’est plus utilisé.
  • Identifier précisément la variante.
  • Vérifier qu’aucune application n’en dépend.
  • Conserver les informations de configuration utiles.

20. Mettre à jour le logiciel et les modèles

Un environnement local doit être entretenu.

20.1. Mettre à jour le logiciel

Consulter les versions officielles d’Ollama ou de LM Studio.

Une mise à jour peut améliorer la compatibilité, corriger des anomalies ou ajouter des fonctionnalités.

20.2. Vérifier les modèles

Les modèles et leurs variantes évoluent également.

Une nouvelle version peut offrir des capacités différentes, mais elle doit être testée avant de remplacer un environnement utilisé régulièrement.

20.3. Conserver une configuration reproductible

Noter :

  • Le nom exact du modèle.
  • Sa variante et sa quantification.
  • La version du logiciel.
  • Les paramètres importants.
  • Les résultats des tests.
Bonne pratique

Une installation reproductible est plus facile à dépanner, à comparer et à transférer vers un autre ordinateur compatible.

21. Sécurité et confidentialité pendant l’installation

L’installation d’une IA locale implique le téléchargement et l’exécution de logiciels et de fichiers.

Quelques précautions doivent être respectées.

21.1. Sources officielles

Privilégier les sites officiels et les dépôts identifiables.

21.2. Licences

Vérifier les conditions d’utilisation du logiciel et du modèle, particulièrement dans un contexte professionnel.

21.3. Données sensibles

Éviter d’utiliser des documents confidentiels pour les premiers essais.

Préférer des textes fictifs ou publics.

21.4. Réseau

Ne pas exposer les services locaux à Internet sans protection appropriée.

21.5. Droits d’administration

Ne pas exécuter systématiquement les logiciels avec des droits élevés lorsque cela n’est pas nécessaire.

Règle importante

Une IA locale peut réduire les transferts de données vers des services externes, mais elle ne remplace pas les mesures de sécurité informatique : contrôle des accès, mises à jour, protection du système et vérification des applications connectées.

22. Étude de cas — Installer une IA sur un ordinateur familial

Une personne souhaite utiliser une IA locale pour reformuler des textes, résumer de petites notes et découvrir les modèles de langage.

Son ordinateur dispose de :

  • Windows 11.
  • 16 Go de RAM.
  • Un processeur récent.
  • Aucun GPU dédié.
  • 50 Go d’espace libre sur SSD.

Elle souhaite commencer avec un outil simple et éviter les dépenses supplémentaires.

Questions

  1. Quels éléments faut-il vérifier avant l’installation ?
  2. Pourquoi choisir un modèle compact ?
  3. Quel logiciel privilégier si elle préfère une interface graphique ?
  4. Quel logiciel peut-elle utiliser pour découvrir les commandes ?
  5. Quelle commande Ollama permet de lancer le modèle d’exemple ?
  6. Comment vérifier que le modèle fonctionne hors connexion ?
  7. Que faire si la génération est trop lente ?
Afficher la correction détaillée

1. Vérifications préalables

Il faut vérifier la compatibilité du système, l’architecture, la RAM disponible, l’espace disque et les exigences du logiciel.

2. Choix d’un modèle compact

Un petit modèle quantifié limite généralement les besoins mémoire et facilite les premiers essais sur CPU.

3. Interface graphique

LM Studio constitue une option pertinente pour rechercher, télécharger et utiliser un modèle depuis une interface visuelle.

4. Commandes

Ollama permet de découvrir une approche fondée sur le terminal et des commandes simples.

5. Commande de lancement

ollama run gemma3:1b, si la variante est disponible et compatible.

6. Vérification hors connexion

Après avoir téléchargé les composants nécessaires, désactiver temporairement Internet et demander une nouvelle réponse au modèle local.

7. Lenteur

Essayer un modèle plus petit, fermer les applications gourmandes, réduire les paramètres coûteux et vérifier l’utilisation de la mémoire.

23. Mise en pratique guidée

Cette activité permet de vérifier concrètement les compétences acquises.

1
Préparer une fiche matérielle

Noter le système, la RAM, le GPU éventuel et l’espace disque disponible.

2
Choisir un logiciel

Sélectionner Ollama ou LM Studio et expliquer ce choix.

3
Installer le logiciel

Utiliser une source officielle et vérifier son fonctionnement.

4
Télécharger un modèle

Choisir une variante compatible et noter son identifiant exact.

5
Tester trois instructions

Effectuer un test d’explication, de reformulation et de structuration.

6
Mesurer les résultats

Observer le temps de réponse, la stabilité et les ressources utilisées.

7
Vérifier le mode hors connexion

Tester une nouvelle génération après avoir désactivé temporairement Internet.

Fiche de résultat à compléter

Système d’exploitation : RAM installée : GPU : Espace disque disponible : Logiciel choisi : Version du logiciel : Nom exact du modèle : Quantification : Taille du téléchargement : Installation réussie : Oui / Non Première réponse obtenue : Oui / Non Test hors connexion réussi : Oui / Non Vitesse observée : Mémoire utilisée : Problèmes rencontrés : Solutions appliquées :

24. Autoévaluation de la compétence

Objectif : être autonome sur une installation simple

Vous pouvez considérer la compétence de base comme acquise si vous savez :

  • Identifier les ressources de votre ordinateur.
  • Choisir un logiciel compatible.
  • Télécharger un modèle adapté.
  • Charger et exécuter ce modèle.
  • Obtenir une réponse.
  • Vérifier le fonctionnement hors connexion.
  • Identifier les causes possibles d’un échec.

Si l’un de ces points reste difficile, reprenez l’étape correspondante avant de passer à une configuration plus avancée.

25. Les erreurs fréquentes à éviter

ErreurConséquenceBonne pratique
Installer un logiciel sans vérifier sa compatibilité. Échec d’installation. Consulter les exigences officielles.
Choisir immédiatement un très grand modèle. Manque de mémoire ou lenteur. Commencer avec une variante compacte.
Confondre téléchargement et chargement. Mauvaise interprétation des ressources. Distinguer stockage et mémoire.
Ignorer la quantification. Choix d’une variante inadaptée. Examiner la taille et le format.
Modifier plusieurs réglages simultanément. Diagnostic difficile. Changer un paramètre à la fois.
Considérer une réponse comme une preuve de fiabilité. Risque d’erreurs non détectées. Tester la qualité séparément.
Télécharger depuis une source inconnue. Risque de sécurité. Privilégier les sources officielles.
Oublier l’espace disque. Téléchargements interrompus. Contrôler le stockage disponible.

26. Questions fréquentes

Faut-il une carte graphique pour installer une IA locale ?

Non. Certains modèles peuvent fonctionner sur CPU uniquement. Les performances dépendent alors notamment du processeur et de la mémoire.

Combien de RAM faut-il pour commencer ?

Il n’existe pas de quantité universelle. Certains petits modèles quantifiés peuvent fonctionner sur des ordinateurs modestes. Il faut vérifier les besoins réels du modèle et la mémoire disponible.

Ollama et LM Studio installent-ils le même type de modèles ?

Les deux logiciels peuvent utiliser certaines familles de modèles communes, mais leurs formats, moteurs et méthodes de distribution ne sont pas nécessairement identiques.

Peut-on utiliser les deux logiciels sur le même ordinateur ?

Oui, sous réserve de compatibilité. Il faut surveiller l’espace disque et les ressources mémoire.

Le téléchargement d’un modèle est-il gratuit ?

De nombreux modèles peuvent être téléchargés sans paiement, mais leurs licences et conditions d’utilisation doivent être vérifiées. Les éventuels services complémentaires peuvent avoir d’autres conditions.

Peut-on utiliser le modèle sans Internet ?

Oui, lorsque le modèle et les composants nécessaires sont disponibles localement et qu’aucune fonctionnalité distante n’est utilisée.

Pourquoi le modèle répond-il lentement ?

La lenteur peut provenir d’un modèle trop volumineux, d’une exécution CPU, d’une mémoire limitée ou de paramètres exigeants.

Pourquoi le modèle ne se charge-t-il pas ?

Les causes possibles comprennent un manque de mémoire, une incompatibilité de format, un moteur non adapté ou un problème de pilote.

Peut-on supprimer un modèle après utilisation ?

Oui. Ollama et LM Studio disposent de fonctions permettant de gérer et supprimer les modèles locaux.

Un modèle local est-il forcément fiable ?

Non. Comme les modèles distants, il peut produire des réponses inexactes, incomplètes ou inventées.

À retenir

  • Installer une IA locale nécessite un logiciel d’exécution et un modèle compatible.
  • La première étape consiste à vérifier le système, la RAM, le GPU et l’espace disque.
  • Pour débuter, un modèle compact quantifié constitue souvent un choix pertinent.
  • Ollama permet d’installer et d’utiliser des modèles avec des commandes.
  • LM Studio propose un parcours principalement graphique.
  • La commande ollama run permet de lancer une interaction avec un modèle.
  • La commande ollama list permet de consulter les modèles locaux.
  • Le téléchargement sur disque et le chargement en mémoire sont deux opérations distinctes.
  • Une installation réussie doit être validée par une réponse générée.
  • Le fonctionnement hors connexion doit être testé séparément.
  • La qualité des réponses et les performances doivent également être évaluées.
  • En cas d’erreur, il faut identifier l’étape défaillante avant de modifier la configuration.
  • La sécurité dépend de la provenance des fichiers, des permissions et de la configuration du système.
Vérifiez votre compréhension

Question 1 : Pourquoi installer Ollama ne suffit-il pas à disposer d’une IA prête à répondre ?

Voir la réponse
Parce qu’Ollama est le logiciel d’exécution. Il faut également télécharger et charger un modèle compatible.

Question 2 : Quelle commande permet de lancer le modèle d’exemple avec Ollama ?

Voir la réponse
ollama run gemma3:1b.

Question 3 : Pourquoi faut-il vérifier la RAM disponible et pas uniquement la RAM installée ?

Voir la réponse
Parce que le système d’exploitation et les autres applications utilisent déjà une partie de la mémoire.

Question 4 : Comment vérifier que l’inférence fonctionne localement ?

Voir la réponse
Après avoir téléchargé les composants nécessaires, désactiver temporairement Internet et vérifier que le modèle produit une nouvelle réponse.

Question 5 : Que faut-il faire si un modèle est trop lent sur CPU ?

Voir la réponse
Essayer un modèle plus compact, fermer les applications gourmandes et vérifier les paramètres de contexte ainsi que l’utilisation des ressources.
À suivre — Cours 10 Utiliser une interface de conversation locale →

Apprenez à dialoguer efficacement avec votre modèle, organiser vos échanges, gérer l’historique et comprendre les paramètres de conversation.