Intelligence artificielle · Chapitre 36 · Cours 10

Utiliser une interface de conversation locale

Une fois un modèle installé, comment dialoguer avec lui efficacement ? Découvrez le fonctionnement d’une interface de conversation locale, apprenez à sélectionner un modèle, organiser vos discussions, maîtriser le contexte et ajuster les paramètres de génération. Des manipulations avec LM Studio et Ollama permettent de passer de la théorie à une utilisation quotidienne.

À la fin de ce cours, vous saurez :

  • Identifier les composants d’une interface de conversation locale.
  • Ouvrir et utiliser une conversation avec LM Studio.
  • Dialoguer avec Ollama depuis le terminal.
  • Comprendre les rôles système, utilisateur et assistant.
  • Formuler des instructions adaptées à un modèle local.
  • Gérer plusieurs conversations et leur historique.
  • Comprendre la fenêtre de contexte et ses limites.
  • Régler la température et les principaux paramètres de génération.
  • Utiliser des documents locaux lorsque le logiciel et le modèle le permettent.
  • Protéger les informations échangées avec l’assistant.
  • Diagnostiquer les difficultés courantes.
Prérequis

Un logiciel d’inférence locale, tel qu’Ollama ou LM Studio, doit être installé et un modèle compatible doit avoir été téléchargé. Le cours 09 explique comment réaliser ces opérations. Les noms exacts des boutons et les fonctionnalités disponibles peuvent varier selon les versions des logiciels.

1. Qu’est-ce qu’une interface de conversation locale ?

Une interface de conversation est l’environnement qui permet à une personne d’échanger des messages avec un modèle d’intelligence artificielle.

Elle reçoit les instructions de l’utilisateur, les transmet au moteur d’inférence et affiche les réponses produites.

Lorsque le modèle est exécuté localement, le traitement peut être effectué directement sur l’ordinateur, sans recourir à un serveur d’inférence distant.

UTILISATEUR | | Saisit un message v INTERFACE DE CONVERSATION | | Prépare les messages et paramètres v MOTEUR D’INFÉRENCE LOCAL | | Exécute le modèle v MODÈLE DE LANGAGE | | Génère des tokens v INTERFACE | | Affiche la réponse v UTILISATEUR

Il faut distinguer trois composants :

Le modèle

Il produit les réponses à partir des informations qui lui sont transmises.

Le moteur d’inférence

Il charge le modèle, effectue les calculs et gère les ressources nécessaires.

L’interface

Elle permet de saisir les demandes, consulter les réponses et gérer les conversations.

Le stockage

Il peut conserver les modèles, les paramètres et, selon le logiciel, les conversations.

À comprendre

L’interface n’est pas le modèle. Une même interface peut parfois utiliser plusieurs modèles, et un même modèle peut être accessible depuis différentes interfaces compatibles.

2. Reconnaître les principales zones d’une interface

Une interface graphique de conversation présente généralement plusieurs zones.

ZoneFonction
Sélecteur de modèleChoisir le modèle utilisé pour la génération.
Zone de conversationAfficher les messages échangés.
Champ de saisieRédiger une instruction.
Commande d’envoiTransmettre la demande au modèle.
HistoriqueRetrouver les conversations enregistrées, lorsque cette fonction existe.
ParamètresModifier les options de génération et de chargement.
Gestion des modèlesConsulter, charger ou décharger les modèles locaux.

Ces zones ne sont pas nécessairement présentées au même endroit dans tous les logiciels.

3. Démarrer une conversation dans LM Studio

LM Studio propose une interface graphique permettant d’utiliser des modèles locaux.

Étape 1 — Ouvrir LM Studio

Lancer l’application et vérifier qu’un modèle compatible est disponible dans la bibliothèque locale.

Étape 2 — Accéder à la conversation

Ouvrir la section de discussion, généralement désignée par un terme comme Chat.

Étape 3 — Sélectionner un modèle

Choisir le modèle à utiliser dans le sélecteur prévu à cet effet.

Si nécessaire, lancer son chargement en mémoire.

Étape 4 — Vérifier les paramètres

Pour une première utilisation, conserver les réglages recommandés par le logiciel ou par le modèle.

Étape 5 — Saisir une instruction

Bonjour. Explique-moi en français ce qu’est un système d’exploitation. Utilise un exemple simple et limite ta réponse à cinq phrases.

Étape 6 — Envoyer le message

Utiliser la commande d’envoi de l’interface.

La réponse apparaît progressivement ou à la fin du traitement, selon le logiciel et ses paramètres.

Étape 7 — Poursuivre l’échange

Dans la même conversation, demander :

Peux-tu maintenant expliquer la différence entre Windows et Linux en reprenant ton exemple précédent ?

Si le modèle dispose toujours des messages précédents dans son contexte, il peut s’appuyer sur cette première explication.

Premier objectif

Vérifier que vous savez sélectionner un modèle, envoyer une instruction, lire la réponse et poursuivre un échange cohérent.

4. Dialoguer avec Ollama depuis le terminal

Ollama peut également être utilisé sans interface graphique, directement depuis un terminal.

Dans cet exemple, le modèle gemma3:1b est utilisé à titre pédagogique, sous réserve qu’il soit disponible et compatible avec l’installation.

4.1. Ouvrir le terminal

Sous Windows, utiliser PowerShell. Sous macOS ou Linux, ouvrir Terminal.

4.2. Lancer une conversation

ollama run gemma3:1b

Le modèle est chargé et une invite interactive apparaît.

4.3. Envoyer une instruction

Explique les trois composants principaux d’un ordinateur avec des mots simples.

4.4. Poser une question complémentaire

Parmi ces composants, lequel est responsable de l’exécution des instructions ?

Le modèle peut utiliser les échanges précédents tant qu’ils sont conservés dans le contexte de la session.

4.5. Quitter la session

/bye

Cette commande quitte généralement l’interface interactive.

Attention à l’historique

Une conversation dans le terminal Ollama ne doit pas être assimilée à un historique graphique persistant. La conservation et la récupération des échanges dépendent de l’outil utilisé. Pour retrouver des discussions organisées, une interface proposant explicitement un historique peut être plus adaptée.

5. Comprendre les rôles dans une conversation

Une conversation avec un modèle de langage peut être structurée en messages associés à différents rôles.

RôleFonctionExemple
System Définir des instructions générales de comportement. « Réponds en français, de manière pédagogique. »
User Présenter une demande ou une information. « Explique le fonctionnement d’un SSD. »
Assistant Représenter les réponses produites par le modèle. « Un SSD est un support de stockage… »
Tool Transporter certains résultats d’outils lorsqu’une architecture le prévoit. Résultat d’une recherche documentaire ou d’un calcul externe.

Tous les logiciels n’exposent pas ces rôles directement dans leur interface.

La manière dont les rôles sont appliqués dépend également du modèle et de son format de conversation.

5.1. Exemple d’instruction système

Tu es un assistant pédagogique. Réponds toujours en français. Explique les termes techniques avant de les utiliser. Lorsque tu n’es pas certain d’une information, indique-le. Ne présente pas une hypothèse comme un fait établi.

Une telle instruction peut être utilisée dans un champ de configuration prévu à cet effet, lorsque le logiciel le permet.

Elle influence le comportement du modèle, mais ne garantit pas qu’il respectera toutes les consignes.

6. Formuler une demande efficace

Un modèle local ne devine pas automatiquement le contexte ou les attentes de l’utilisateur.

La qualité de l’instruction joue donc un rôle important.

6.1. Une demande trop vague

Explique les réseaux.

Cette demande laisse plusieurs ambiguïtés : réseaux informatiques, réseaux sociaux, réseaux électriques ou réseaux professionnels.

6.2. Une demande précise

Explique le principe d’un réseau informatique local à une personne qui débute en informatique. Présente : 1. Une définition simple. 2. Les équipements principaux. 3. Un exemple dans une maison. 4. Trois notions à retenir. Évite le jargon non expliqué.

Cette seconde instruction fournit le sujet, le public, la structure et les contraintes.

Méthode pratique

Pour une demande complexe, préciser le sujet, l’objectif, le contexte utile, les contraintes et le format attendu.

7. Comprendre le fonctionnement d’une conversation à plusieurs tours

Une conversation peut comprendre plusieurs échanges successifs.

Chaque nouvelle demande peut s’appuyer sur les messages précédents, à condition que ceux-ci soient encore transmis au modèle.

Utilisateur : Explique ce qu’est une adresse IP.

Assistant : Une adresse IP est un identifiant utilisé pour communiquer sur un réseau utilisant le protocole Internet.

Utilisateur : Donne-moi maintenant un exemple sur un réseau domestique.

Assistant : Sur un réseau domestique, un ordinateur peut utiliser une adresse privée comme 192.168.1.20, selon la configuration du réseau.

Utilisateur : Quelle différence avec une adresse publique ?

Assistant : Une adresse privée est utilisée dans un réseau interne, tandis qu’une adresse publique sert à l’adressage sur Internet. Leur attribution et leur utilisation dépendent de l’architecture réseau.

Dans cet exemple, les questions suivantes utilisent le sujet introduit au premier message.

7.1. Les avantages

  • Éviter de répéter toutes les informations.
  • Approfondir progressivement un sujet.
  • Demander des corrections.
  • Adapter le niveau d’explication.
  • Construire un résultat en plusieurs étapes.

7.2. Les limites

Le modèle ne dispose pas nécessairement de toute la conversation depuis son début.

Lorsque le contexte devient trop volumineux, certains messages peuvent être supprimés, résumés ou exclus par le logiciel.

8. Comprendre la fenêtre de contexte

La fenêtre de contexte représente la quantité d’informations que le modèle peut traiter au cours d’une opération d’inférence.

Elle est généralement exprimée en tokens.

Un token n’est pas nécessairement un mot entier. Il peut correspondre à un mot, une partie de mot, un signe ou un autre élément selon le tokenizer.

8.1. Que contient le contexte ?

Selon le logiciel et le modèle, il peut comprendre :

  • Les instructions système.
  • Les messages de l’utilisateur.
  • Les réponses précédentes de l’assistant.
  • Les extraits de documents ajoutés.
  • Les informations nécessaires au format de conversation.
  • L’espace réservé à la réponse.

8.2. Exemple chiffré

Supposons qu’une session soit configurée avec une capacité totale de 8 192 tokens.

Capacité configurée : 8 192 tokens Instructions système : 400 Historique conservé : 4 500 Nouvelle demande : 600 Réponse réservée : 1 500 Total : 7 000 tokens Marge théorique : 1 192 tokens

Il s’agit d’un exemple simplifié. Les mécanismes réels de comptage, de réservation et de troncature dépendent du moteur et du modèle.

8.3. Que se passe-t-il si le contexte est saturé ?

Plusieurs comportements sont possibles :

  • Le logiciel supprime les messages les plus anciens.
  • Il réduit le contenu transmis.
  • Il résume certains échanges.
  • Il refuse une demande trop longue.
  • Il exige une nouvelle configuration.

Le comportement exact dépend du logiciel utilisé.

Erreur fréquente

Une conversation visible dans l’historique n’est pas nécessairement entièrement présente dans la fenêtre de contexte du modèle.

9. Historique et mémoire : deux notions différentes

Il faut distinguer la conservation d’une conversation et la capacité du modèle à en exploiter le contenu.

NotionSignification
Historique Messages conservés par l’application.
Contexte actif Informations réellement transmises au modèle pour une génération.
Poids du modèle Paramètres appris lors de l’entraînement et éventuellement modifiés par des techniques spécifiques.
Mémoire externe Informations stockées séparément et réinjectées au besoin par un système complémentaire.

Le fait de discuter avec un modèle ne modifie normalement pas ses poids.

Une conversation peut donc influencer les réponses suivantes sans constituer un nouvel entraînement.

9.1. Exemple

Vous indiquez :

Pour cette conversation, considère que je débute en administration système.

Le modèle peut adapter ses réponses tant que cette information reste disponible dans le contexte.

Si elle n’est plus transmise, il peut cesser de tenir compte de cette préférence.

10. Créer et organiser plusieurs conversations

Une interface disposant d’un historique permet généralement de séparer les sujets.

Cette organisation facilite la recherche d’informations et limite les mélanges de contexte.

10.1. Exemple d’organisation

Conversations locales ├── Informatique │ ├── Réseaux │ ├── Windows │ └── Linux │ ├── Rédaction │ ├── Courriels │ └── Synthèses │ └── Apprentissage ├── Définitions └── Exercices pratiques

Cette arborescence est illustrative : toutes les interfaces ne proposent pas des dossiers ou catégories.

10.2. Bonnes pratiques

  • Créer une nouvelle conversation pour un sujet distinct.
  • Donner un titre explicite lorsque l’interface le permet.
  • Éviter de mélanger des projets sans rapport.
  • Conserver les résultats utiles dans un document indépendant.
  • Supprimer les conversations devenues inutiles après vérification.

11. Utiliser l’historique dans LM Studio

Selon la version de LM Studio, les conversations peuvent être conservées dans l’application et accessibles depuis son interface.

Étape 1 — Ouvrir l’espace de discussion

Accéder à la zone des conversations.

Étape 2 — Créer une nouvelle discussion

Utiliser la commande de nouvelle conversation.

Étape 3 — Sélectionner un modèle

Choisir le modèle souhaité et le charger si nécessaire.

Étape 4 — Envoyer plusieurs messages

Réaliser un échange comportant au moins trois questions.

Étape 5 — Revenir à une discussion précédente

Utiliser la liste des conversations disponibles.

Étape 6 — Vérifier le contexte

Après avoir rouvert la discussion, vérifier que le modèle choisi est disponible et que les messages nécessaires sont bien repris dans le contexte actif.

À ne pas confondre

Retrouver les messages dans l’interface ne garantit pas que le modèle dispose automatiquement de la totalité de ces messages lors de la génération suivante.

12. Comprendre les principaux paramètres de génération

Les interfaces locales peuvent exposer différents paramètres permettant de modifier le comportement du modèle.

Ces réglages influencent notamment la diversité des réponses, leur longueur et l’utilisation des ressources.

ParamètreFonction principale
Température Modifier la distribution des probabilités utilisées lors de l’échantillonnage.
Top-p Limiter les candidats à un ensemble cumulant une certaine probabilité.
Top-k Limiter le nombre de candidats considérés à chaque étape.
Maximum de tokens Limiter la longueur de la génération.
Fenêtre de contexte Définir la quantité d’informations pouvant être traitées.
Seed Contrôler certains aspects de la reproductibilité lorsque le moteur le permet.
Pénalités de répétition Modifier la probabilité de réutilisation de certains tokens.

Les noms, valeurs autorisées et effets précis dépendent du moteur et du modèle.

13. Comprendre la température

La température intervient dans la distribution des probabilités des tokens candidats.

Elle permet de modifier la diversité potentielle des sorties lorsque l’échantillonnage est utilisé.

13.1. Température faible

Une température relativement faible tend à privilégier les tokens les plus probables.

Elle peut convenir aux tâches demandant de la régularité, comme certaines extractions ou reformulations.

13.2. Température élevée

Une température plus élevée tend à diversifier les choix possibles.

Elle peut être utile pour explorer différentes formulations ou idées.

13.3. Exemple

Instruction :

Propose trois titres pour un article expliquant le fonctionnement d’un ordinateur.

Sortie possible avec faible température

« Comment fonctionne un ordinateur ? »

Sortie possible avec température plus élevée

« Dans les coulisses de votre ordinateur : comment tout fonctionne »

Ces formulations sont des exemples pédagogiques, et non des résultats garantis par un réglage particulier.

Point de vigilance

Une température faible ne garantit pas l’exactitude d’une réponse. Une température élevée ne rend pas automatiquement le modèle plus créatif ou plus pertinent. Les résultats dépendent aussi du modèle, du prompt et des autres paramètres.

14. Comprendre Top-p et Top-k

14.1. Top-k

Le paramètre Top-k limite le nombre de tokens candidats pris en compte lors de l’échantillonnage.

Par exemple, avec Top-k = 10, seuls les dix candidats les mieux classés sont conservés à cette étape, avant l’application éventuelle d’autres filtres.

14.2. Top-p

Top-p, également appelé échantillonnage par noyau, conserve les tokens les plus probables jusqu’à atteindre un seuil de probabilité cumulée.

Avec Top-p = 0,90, le moteur recherche généralement un ensemble de candidats représentant au moins 90 % de la masse de probabilité, selon son implémentation.

14.3. Faut-il modifier les deux ?

Pas nécessairement.

Pour débuter, il est préférable de conserver les valeurs recommandées et de modifier un seul paramètre à la fois.

15. Limiter la longueur des réponses

Certains logiciels permettent de fixer un nombre maximal de tokens générés.

Ce réglage peut éviter des réponses excessivement longues.

Exemple

Une personne demande une synthèse en cinq points.

Résume ce texte en cinq points. Chaque point doit comporter une seule phrase. N’ajoute aucune conclusion.

La consigne textuelle et la limite technique de tokens sont deux mécanismes différents.

Une limite trop basse peut interrompre la réponse avant sa fin.

Bonne pratique

Pour maîtriser le format, commencez par formuler clairement la consigne. Utilisez ensuite une limite technique adaptée lorsque cela est nécessaire.

16. Ajuster la fenêtre de contexte

Une fenêtre de contexte plus grande permet de transmettre davantage d’informations au modèle.

Elle peut toutefois augmenter les besoins en mémoire et le temps de traitement.

16.1. Pourquoi la mémoire augmente-t-elle ?

Les modèles de type Transformer utilisent notamment des mécanismes de cache permettant de conserver certaines informations calculées pendant le traitement des tokens.

La quantité de mémoire nécessaire dépend de l’architecture, de la longueur du contexte, du nombre de couches et du format des caches.

16.2. Exemple de choix

UsageBesoin contextuelApproche
Question courte Faible Contexte modéré.
Conversation suivie Moyen Conserver les échanges utiles.
Analyse de document Potentiellement élevé Adapter le contexte ou découper le document.
Long projet Élevé et évolutif Utiliser des synthèses et une organisation externe.

La longueur maximale annoncée par un modèle ne garantit pas une qualité identique sur toute cette longueur.

17. Corriger une réponse sans recommencer

Une interface conversationnelle permet de demander des améliorations successives.

17.1. Première demande

Explique ce qu’est un pare-feu.

17.2. Demande de simplification

Reprends ton explication pour une personne qui découvre l’informatique. Utilise une comparaison simple.

17.3. Demande de précision

Ajoute la différence entre un pare-feu logiciel et un pare-feu matériel.

17.4. Demande de vérification

Relis ta réponse. Signale les affirmations qui nécessitent une vérification et les éventuelles simplifications techniques excessives.

Cette dernière demande peut aider à repérer certaines faiblesses, mais elle ne constitue pas une vérification indépendante.

18. Utiliser des documents dans une conversation locale

Certaines interfaces permettent de joindre des documents ou d’en exploiter le contenu.

Cette possibilité dépend de la version du logiciel, du format du fichier, des composants disponibles et du modèle utilisé.

18.1. Deux méthodes différentes

Copier-coller

L’utilisateur insère directement le contenu du document dans la conversation.

Ajout de document

L’application extrait ou sélectionne du contenu avant de le transmettre au modèle.

18.2. Exemple de demande

À partir du document fourni, réalise une synthèse structurée. Présente : 1. Le sujet principal. 2. Les cinq informations essentielles. 3. Les décisions mentionnées. 4. Les points restant à clarifier. N’ajoute aucune information absente du document. Si une information manque, indique-le explicitement.

18.3. Les limites

Un modèle de langage ne lit pas nécessairement directement un fichier PDF, Word ou une image.

Une application peut devoir extraire le texte, convertir le fichier ou utiliser un composant spécialisé.

Pour les documents volumineux, l’application peut sélectionner seulement certains passages.

Vigilance documentaire

Vérifiez que les passages importants ont réellement été transmis au modèle. Un résumé peut être incomplet si le logiciel n’a extrait qu’une partie du document.

19. Comprendre les limites des modèles locaux

Un modèle local présente des avantages pratiques, mais son fonctionnement reste soumis aux limites des modèles de langage.

19.1. Connaissances limitées

Le modèle ne connaît pas nécessairement les événements récents.

Il ne dispose pas automatiquement d’un accès Internet.

19.2. Réponses inventées

Il peut produire des informations incorrectes avec une formulation convaincante.

19.3. Respect imparfait des instructions

Il peut ignorer certaines contraintes, notamment lorsque les demandes sont complexes.

19.4. Capacités variables

Un petit modèle peut être suffisant pour certaines reformulations, mais moins performant pour des raisonnements complexes ou des documents longs.

19.5. Absence d’actions automatiques

Un modèle conversationnel local ne peut pas nécessairement consulter des fichiers, exécuter des commandes ou modifier des applications.

Ces fonctions nécessitent des outils et des autorisations supplémentaires.

20. Utiliser un modèle local pour des tâches courantes

20.1. Reformuler un texte

Reformule le texte suivant dans un style professionnel. Conserve toutes les informations. N’ajoute aucun fait. Texte : « On a regardé le problème et on attend la réponse du fournisseur. »

20.2. Créer une liste de contrôle

Prépare une liste de contrôle pour vérifier un ordinateur avant sa mise en service. Classe les vérifications par catégories. Précise les points nécessitant des droits administrateur.

20.3. Expliquer une notion

Explique la différence entre HTTP et HTTPS. Présente : – une définition ; – un exemple ; – un tableau comparatif ; – trois points à retenir.

20.4. Préparer une procédure

Rédige une procédure générale pour sauvegarder des fichiers sur un disque externe. Public : débutant. Précise les vérifications à effectuer après la copie.

20.5. Structurer des notes

Organise les notes suivantes en compte rendu. Sépare : – les faits ; – les décisions ; – les actions ; – les questions ouvertes. N’invente ni responsable ni échéance.

21. Comparer deux modèles depuis une interface

Lorsque plusieurs modèles sont installés, il est possible de comparer leurs réponses à des demandes identiques.

21.1. Définir un protocole

Pour une comparaison utile :

  1. Choisir une instruction représentative.
  2. Utiliser le même texte de départ.
  3. Définir des critères de réussite.
  4. Employer des paramètres comparables.
  5. Mesurer la vitesse.
  6. Vérifier la qualité.
  7. Répéter les tests si nécessaire.

21.2. Exemple de grille

CritèreModèle AModèle B
Respect du formatÀ mesurerÀ mesurer
ExactitudeÀ vérifierÀ vérifier
Qualité du françaisÀ évaluerÀ évaluer
Temps de réponseÀ mesurerÀ mesurer
Mémoire utiliséeÀ mesurerÀ mesurer

Un modèle plus volumineux n’est pas automatiquement meilleur pour toutes les tâches.

22. Gérer les ressources pendant une conversation

Un modèle chargé peut mobiliser une quantité importante de RAM ou de VRAM.

Cette utilisation dépend du moteur, de la quantification, du contexte et des paramètres.

22.1. Symptômes d’une charge excessive

  • Ralentissement général de l’ordinateur.
  • Réponses anormalement lentes.
  • Utilisation importante de la mémoire.
  • Échec du chargement.
  • Arrêt inattendu du logiciel.

22.2. Actions possibles

  • Fermer les applications gourmandes.
  • Réduire la fenêtre de contexte si elle est surdimensionnée.
  • Utiliser un modèle plus compact.
  • Choisir une quantification adaptée.
  • Décharger les modèles inutilisés.
  • Vérifier les pilotes et la compatibilité du GPU.

22.3. Vérifier Ollama

ollama ps

Cette commande affiche les modèles actuellement chargés, lorsqu’il y en a.

Pour demander l’arrêt d’un modèle chargé :

ollama stop gemma3:1b

23. Protéger ses conversations locales

Une conversation locale peut contenir des informations personnelles, professionnelles ou confidentielles.

Le fait que le modèle fonctionne sur l’ordinateur ne dispense pas de protéger ces données.

23.1. Vérifier les fonctions connectées

Certaines applications peuvent proposer des téléchargements, des mises à jour, des recherches en ligne ou des intégrations externes.

Ces fonctions doivent être distinguées de l’inférence locale.

23.2. Contrôler les fichiers conservés

Les conversations et les paramètres peuvent être stockés sur le disque.

Il faut vérifier les options de conservation et de suppression disponibles.

23.3. Sécuriser l’ordinateur

  • Utiliser un compte protégé.
  • Maintenir le système à jour.
  • Chiffrer les données lorsque cela est approprié.
  • Contrôler les droits d’accès aux fichiers.
  • Protéger les sauvegardes.

23.4. Éviter les données sensibles pendant les tests

Utiliser des exemples fictifs pour apprendre à manipuler l’interface.

Confidentialité

Un modèle exécuté localement n’envoie pas nécessairement les messages à un fournisseur distant. Toutefois, les fonctions supplémentaires, les extensions et les services connectés peuvent modifier les flux de données. Il faut vérifier la configuration réelle de l’application.

24. Résoudre les problèmes courants

ProblèmeCause possibleSolution
Le modèle ne répond pas. Modèle non chargé ou moteur indisponible. Vérifier le chargement et les messages d’erreur.
La réponse est très lente. Ressources limitées ou modèle trop volumineux. Tester un modèle plus petit et surveiller la mémoire.
Le modèle oublie le début de la discussion. Contexte saturé ou historique non transmis. Créer une synthèse et réintroduire les informations importantes.
Le modèle ne respecte pas le format. Instruction ambiguë ou capacités limitées. Préciser la structure et fournir un exemple.
Les réponses se répètent. Comportement du modèle ou paramètres inadaptés. Revoir le prompt et les réglages de génération.
Une conversation ne réapparaît pas. Historique non conservé ou mauvaise session. Vérifier les fonctions de sauvegarde de l’application.
Un document est mal résumé. Extraction incomplète ou contexte insuffisant. Vérifier le texte extrait et travailler par sections.

25. Étude de cas — Créer un assistant pédagogique local

Une personne dispose d’un ordinateur avec 16 Go de RAM et d’un modèle local déjà installé.

Elle souhaite utiliser son assistant pour comprendre des notions informatiques, reformuler des explications et conserver plusieurs conversations thématiques.

Elle souhaite également limiter les réponses trop longues et éviter les affirmations inventées.

Travail demandé

  1. Choisir une interface adaptée à un usage graphique.
  2. Créer une conversation consacrée aux réseaux informatiques.
  3. Définir une instruction générale de comportement.
  4. Poser une première question pédagogique.
  5. Demander une reformulation plus simple.
  6. Expliquer comment conserver les échanges utiles.
  7. Identifier les limites de la mémoire contextuelle.
  8. Proposer une méthode de vérification des réponses.
Afficher la correction détaillée

1. Choix de l’interface

LM Studio est une option adaptée si la personne préfère une interface graphique. Il faut vérifier sa compatibilité et les fonctionnalités disponibles dans la version installée.

2. Création de la conversation

Créer une nouvelle discussion et lui donner, si possible, un titre comme « Réseaux informatiques — notions fondamentales ».

3. Instruction générale

Tu es un assistant pédagogique en informatique. Réponds en français. Définis les termes techniques. Utilise des exemples concrets. Signale les incertitudes. Ne présente pas une hypothèse comme un fait vérifié.

4. Première question

Explique le rôle d’un routeur dans un réseau domestique. Utilise un exemple simple.

5. Reformulation

Reprends cette explication pour une personne débutante. Limite la réponse à cinq phrases.

6. Conservation

Utiliser l’historique de l’application lorsqu’il existe et enregistrer séparément les informations importantes dans un document local.

7. Mémoire contextuelle

Le modèle ne conserve pas automatiquement tous les échanges. La fenêtre de contexte est limitée et l’historique affiché peut être différent du contenu réellement transmis.

8. Vérification

Comparer les explications à une documentation fiable, vérifier les définitions techniques et tester les procédures sur un environnement approprié avant toute utilisation réelle.

26. Mise en pratique guidée

Réalisez cette activité avec un modèle local installé.

1
Ouvrir l’interface

Lancer LM Studio ou une autre interface locale compatible.

2
Choisir le modèle

Vérifier son nom et son état de chargement.

3
Créer une conversation

Choisir un sujet précis et rédiger une première instruction.

4
Poursuivre l’échange

Poser au moins trois questions liées au même sujet.

5
Modifier une consigne

Demander une reformulation, un tableau ou une réponse plus courte.

6
Tester un paramètre

Modifier un réglage de génération si l’interface le permet, puis comparer les résultats.

7
Gérer l’historique

Créer une seconde conversation et vérifier la séparation des échanges.

8
Conclure

Identifier les points forts, les limites et les vérifications nécessaires.

Fiche d’observation

Logiciel : Modèle : Quantification : Sujet de la conversation : Instruction initiale : Nombre de messages échangés : Le modèle suit-il les consignes ? Les réponses sont-elles cohérentes ? Les informations sont-elles exactes ? Paramètre modifié : Différence observée : Historique disponible : Oui / Non Difficultés rencontrées : Améliorations possibles :

27. Questions fréquentes

Une interface locale nécessite-t-elle Internet ?

Pas nécessairement pour l’inférence. Les composants doivent être installés et le modèle téléchargé. Certaines fonctions complémentaires peuvent toutefois nécessiter une connexion.

Peut-on utiliser plusieurs modèles dans une même interface ?

Oui, lorsque le logiciel prend en charge plusieurs modèles compatibles. Les possibilités de chargement simultané dépendent des ressources et du moteur.

Le modèle apprend-il pendant la conversation ?

Une conversation ordinaire ne modifie généralement pas les poids du modèle. Les messages peuvent influencer les réponses suivantes lorsqu’ils sont conservés dans le contexte.

Pourquoi le modèle oublie-t-il certaines informations ?

Les informations peuvent ne plus être présentes dans le contexte actif, notamment lorsque la conversation devient longue.

Peut-on conserver ses conversations ?

Cela dépend de l’interface. Certaines applications disposent d’un historique persistant, tandis que d’autres nécessitent un enregistrement manuel ou un outil complémentaire.

Peut-on envoyer un PDF à un modèle local ?

Oui, si l’application propose une fonction adaptée. Le contenu doit être extrait ou transformé en informations exploitables par le modèle. Tous les formats et toutes les versions ne sont pas nécessairement compatibles.

Une température faible garantit-elle une réponse exacte ?

Non. Elle peut rendre la génération plus régulière, mais elle ne garantit pas la véracité des informations.

Faut-il augmenter la fenêtre de contexte au maximum ?

Non. Un contexte plus long peut augmenter la consommation mémoire et ralentir le traitement. Il faut choisir une valeur adaptée au besoin et au matériel.

Peut-on utiliser une IA locale pour des documents professionnels ?

Oui, sous réserve de respecter les règles de confidentialité, les autorisations applicables et les exigences de sécurité de l’organisation.

Une interface locale peut-elle accéder automatiquement aux fichiers de l’ordinateur ?

Non, pas nécessairement. L’accès aux fichiers dépend des fonctionnalités, des permissions et des outils connectés au modèle.

À retenir

  • Une interface de conversation permet d’échanger avec un modèle exécuté par un moteur d’inférence.
  • Le modèle, le moteur et l’interface sont trois composants distincts.
  • LM Studio propose une approche graphique ; Ollama peut être utilisé directement dans un terminal.
  • Une instruction précise améliore généralement la pertinence des réponses.
  • Les conversations à plusieurs tours permettent d’approfondir un sujet progressivement.
  • La fenêtre de contexte limite la quantité d’informations réellement traitées.
  • L’historique enregistré ne correspond pas nécessairement au contexte actif.
  • Une conversation ordinaire ne réentraîne pas le modèle.
  • La température, Top-p et Top-k influencent l’échantillonnage des réponses.
  • Les paramètres doivent être modifiés progressivement et testés.
  • Les documents nécessitent une méthode d’extraction ou de transmission compatible.
  • Les performances dépendent du modèle, du matériel et des paramètres.
  • Les réponses importantes doivent être vérifiées indépendamment.
  • Une exécution locale ne dispense pas de protéger les conversations et les fichiers.
Vérifiez votre compréhension

Question 1 : Quelle différence existe-t-il entre l’interface de conversation et le modèle ?

Voir la réponse
L’interface permet de saisir les messages et de consulter les réponses. Le modèle effectue la génération à partir des informations transmises par le moteur d’inférence.

Question 2 : Pourquoi un modèle peut-il oublier le début d’une longue conversation ?

Voir la réponse
Parce que la fenêtre de contexte est limitée. Les anciens messages peuvent ne plus être transmis au modèle.

Question 3 : Quel est le rôle de la température ?

Voir la réponse
Elle modifie la distribution des probabilités utilisée lors de l’échantillonnage, ce qui peut influencer la diversité des réponses.

Question 4 : Une conversation permet-elle de réentraîner automatiquement un modèle ?

Voir la réponse
Non. Dans une conversation ordinaire, les poids du modèle ne sont généralement pas modifiés. Les messages influencent les réponses tant qu’ils sont disponibles dans le contexte.

Question 5 : Pourquoi faut-il vérifier une synthèse produite à partir d’un document ?

Voir la réponse
Parce que l’extraction peut être incomplète et que le modèle peut omettre, déformer ou inventer des informations.

Question 6 : Comment comparer correctement deux modèles locaux ?

Voir la réponse
En utilisant les mêmes demandes, des paramètres comparables et des critères définis à l’avance, puis en mesurant la qualité, la vitesse et les ressources utilisées.
À suivre — Cours 11 Accéder à un modèle local par API →

Découvrez comment une application peut communiquer avec un modèle local, comprendre les requêtes HTTP et exploiter les interfaces de programmation proposées par les moteurs d’inférence.