Protéger les données locales
Installer une intelligence artificielle sur son ordinateur permet de mieux maîtriser le traitement des informations. Mais une IA locale n’est pas automatiquement sécurisée. Découvrez comment protéger vos conversations, documents, modèles et interfaces contre les accès non autorisés, les fuites de données et les mauvaises configurations.
À la fin de ce cours, vous saurez :
- Expliquer les avantages et les limites de confidentialité d’une IA locale.
- Identifier les données à protéger pendant une utilisation locale.
- Distinguer confidentialité, intégrité et disponibilité.
- Comprendre les risques liés aux interfaces et aux API locales.
- Vérifier les adresses d’écoute d’un serveur Ollama ou LM Studio.
- Identifier les risques des modèles et extensions téléchargés.
- Protéger les conversations, fichiers, journaux et sauvegardes.
- Appliquer les principes de moindre privilège et de minimisation des données.
- Comprendre les précautions à prendre avec les documents sensibles.
- Réagir à une exposition accidentelle.
- Mettre en place une procédure simple de sécurisation.
Avoir compris le fonctionnement d’une IA locale et savoir utiliser Ollama ou LM Studio. Les notions de réseau et de sécurité sont expliquées progressivement. Les commandes proposées servent à vérifier une configuration ; elles ne nécessitent pas de modifier les paramètres de sécurité du système.
1. Une IA locale est-elle réellement privée ?
Une intelligence artificielle locale est un système dont les calculs d’inférence sont exécutés sur un appareil contrôlé par l’utilisateur, plutôt que sur un serveur distant.
Cette architecture peut limiter la transmission des prompts et des documents à un fournisseur externe.
Mais le fait d’exécuter un modèle localement ne garantit pas que toutes les données restent sur l’appareil.
Plusieurs composants peuvent encore communiquer avec Internet :
- L’application utilisée pour télécharger et gérer les modèles.
- Un système de mise à jour automatique.
- Une extension ou un plugin.
- Une interface connectée à un service externe.
- Un outil de recherche sur Internet.
- Un service de synchronisation des fichiers.
- Un dispositif de télémétrie, selon les logiciels et leurs réglages.
« IA locale » signifie que l’inférence peut être réalisée sur l’appareil. Cela ne signifie ni « absence totale de connexion réseau », ni « protection automatique de toutes les données ».
2. Comprendre les trois objectifs de sécurité
La sécurité des informations repose traditionnellement sur trois objectifs complémentaires.
Confidentialité
Empêcher les personnes ou systèmes non autorisés de consulter les informations.
Intégrité
Empêcher les modifications non autorisées et détecter les altérations.
Disponibilité
Maintenir l’accès aux données et aux outils lorsqu’ils sont nécessaires.
Traçabilité
Conserver, lorsque cela est nécessaire et proportionné, les informations permettant de comprendre les accès et les incidents.
La traçabilité complète les trois objectifs fondamentaux, sans justifier une conservation illimitée des journaux.
Une entreprise utilise une IA locale pour résumer des documents internes.
- Confidentialité : seuls les collaborateurs autorisés accèdent aux documents.
- Intégrité : les fichiers originaux ne sont pas modifiés par erreur.
- Disponibilité : les documents restent accessibles après une panne.
- Traçabilité : les accès importants peuvent être vérifiés selon la politique de sécurité.
3. Identifier les données à protéger
Les données utilisées par une IA locale ne se limitent pas aux messages saisis dans une interface.
| Catégorie | Exemples | Risque principal |
|---|---|---|
| Prompts | Questions, instructions, informations copiées. | Divulgation de données confidentielles. |
| Historique | Conversations enregistrées. | Consultation par un tiers. |
| Documents | Contrats, rapports, fichiers RH. | Exposition de données sensibles. |
| Fichiers temporaires | Copies, extraits, fichiers intermédiaires. | Conservation involontaire. |
| Journaux | Logs d’application ou de serveur. | Enregistrement d’informations privées. |
| Sauvegardes | Copies locales ou distantes. | Accès non autorisé à des données archivées. |
| Clés et identifiants | Tokens d’API, mots de passe, secrets. | Compromission de services. |
| Modèles et extensions | Fichiers téléchargés, scripts, composants. | Introduction de code malveillant. |
4. Classer les informations selon leur sensibilité
Avant de transmettre des informations à une IA, même locale, il faut déterminer leur niveau de sensibilité.
4.1. Informations publiques
Il s’agit d’informations librement diffusables : documentation publique, textes de présentation ou contenus déjà publiés.
4.2. Informations internes
Ce sont des informations destinées à un usage limité : procédures, notes de travail, documents internes.
4.3. Informations confidentielles
Elles peuvent comprendre des données commerciales, financières, contractuelles ou personnelles dont la divulgation aurait des conséquences.
4.4. Informations particulièrement sensibles
Certaines informations nécessitent des protections renforcées : données de santé, secrets d’authentification, données relevant d’obligations particulières ou documents soumis à des restrictions strictes.
Le niveau de protection doit dépendre de la sensibilité des données, de l’environnement technique et des personnes autorisées à y accéder.
5. Appliquer le principe de minimisation
La minimisation consiste à utiliser uniquement les informations nécessaires à une tâche.
Ce principe réduit les risques de divulgation, même lorsque le modèle fonctionne localement.
5.1. Exemple à éviter
5.2. Version préférable
L’anonymisation doit être effective. Remplacer simplement un nom par une initiale ne suffit pas toujours à empêcher l’identification d’une personne.
6. Comprendre le fonctionnement réseau d’une IA locale
Une IA locale peut être utilisée directement dans une application ou à travers un serveur accessible par une API.
Lorsqu’un serveur est utilisé, il écoute généralement sur une adresse réseau et un port.
6.1. Adresse de boucle locale
Cette adresse IPv4 correspond à la boucle locale, aussi appelée localhost.
Elle permet à un programme de communiquer avec un autre service sur la même machine.
6.2. Adresse d’écoute sur toutes les interfaces
Lorsqu’un serveur IPv4 écoute sur cette adresse, il accepte potentiellement des connexions arrivant par toutes les interfaces réseau IPv4 de la machine.
L’accessibilité réelle dépend ensuite notamment du pare-feu et du réseau.
6.3. Différence fondamentale
| Adresse d’écoute | Signification |
|---|---|
127.0.0.1 |
Service accessible par la boucle locale IPv4. |
::1 |
Service accessible par la boucle locale IPv6. |
0.0.0.0 |
Écoute sur toutes les interfaces IPv4 disponibles. |
:: |
Écoute sur les interfaces IPv6 ; le comportement concernant IPv4 dépend de la configuration. |
Une API qui écoute sur toutes les interfaces réseau peut devenir accessible à d’autres appareils. Si elle n’est pas correctement protégée, un tiers peut éventuellement l’utiliser ou accéder à certaines informations.
7. Comprendre les risques d’une API non protégée
Une API locale permet à des programmes de communiquer avec un modèle.
Cette fonctionnalité est utile pour automatiser des tâches, mais elle crée un point d’accès supplémentaire.
Une API insuffisamment protégée peut permettre :
- L’utilisation non autorisée du modèle.
- La consommation excessive de ressources.
- L’accès à des fonctions d’administration exposées.
- La transmission de prompts ou de données à un service non prévu.
- L’exploitation d’une vulnérabilité logicielle.
Les conséquences exactes dépendent des routes disponibles, des permissions et des protections mises en place.
7.1. Le risque ne se limite pas à Internet
Un service exposé sur un réseau local peut être accessible depuis d’autres appareils connectés au même réseau.
Un réseau domestique ne doit donc pas être considéré automatiquement comme un environnement de confiance.
8. Vérifier le serveur Ollama
Ollama utilise habituellement le port TCP 11434 pour son API native.
Dans une configuration locale classique, le service peut être accessible à l’adresse :
Il est important de vérifier l’adresse d’écoute effective plutôt que de supposer que les paramètres par défaut sont toujours appliqués.
8.1. Vérification sous Windows
Ouvrir PowerShell et saisir :
La colonne LocalAddress indique l’adresse locale sur laquelle le service écoute.
8.2. Vérification sous Linux
Cette commande recherche les sockets TCP en écoute sur le port indiqué.
8.3. Exemple d’interprétation
Le service écoute sur la boucle locale IPv4.
Le service écoute sur toutes les interfaces IPv4. Il faut alors vérifier si cette exposition est volontaire et correctement contrôlée.
Ces commandes identifient une adresse d’écoute. Elles ne constituent pas à elles seules un audit complet : pare-feu, redirections de ports, proxys, tunnels et autres composants peuvent modifier l’accessibilité réelle.
9. Vérifier le serveur LM Studio
LM Studio peut proposer un serveur local compatible avec certaines conventions d’API courantes.
Un port fréquemment utilisé est :
L’adresse habituelle d’un serveur local peut être :
9.1. Vérification sous Windows
9.2. Vérification sous Linux
9.3. Vérifier les paramètres de l’application
Dans LM Studio, consulter les paramètres du serveur local et vérifier si l’accès depuis d’autres appareils du réseau est activé.
Les noms exacts des réglages peuvent évoluer selon les versions.
Pour une utilisation personnelle ne nécessitant aucun accès distant, privilégier une écoute limitée à la boucle locale.
10. Pourquoi localhost n’est-il pas une protection absolue ?
Un service limité à localhost n’est normalement pas directement accessible depuis un autre ordinateur du réseau.
Mais il reste accessible aux programmes autorisés à communiquer depuis la même machine.
Un logiciel malveillant déjà présent sur l’ordinateur pourrait donc tenter d’interagir avec le service.
Selon la configuration, des applications locales, des extensions ou certains scénarios impliquant le navigateur peuvent également constituer des vecteurs de risque.
La protection doit donc aussi porter sur :
- Le système d’exploitation.
- Les applications installées.
- Les extensions du navigateur.
- Les droits des utilisateurs.
- Les mécanismes d’authentification et d’autorisation.
11. Comprendre le rôle du pare-feu
Un pare-feu contrôle certaines communications réseau entrantes et sortantes selon des règles définies.
11.1. Sous Windows
Le Pare-feu Microsoft Defender permet de gérer les communications autorisées.
Il est possible de consulter les règles depuis les paramètres de sécurité Windows.
11.2. Sous Linux
Selon la distribution, les règles peuvent être gérées avec des outils tels que :
ufw.firewalld.nftables.
11.3. Bonne pratique
Ne pas ouvrir un port réseau simplement parce qu’une application propose cette possibilité.
Chaque ouverture doit correspondre à un besoin identifié.
Modifier un pare-feu sans comprendre les règles existantes peut interrompre des services légitimes. Sur un ordinateur professionnel ou un serveur administré, respecter les procédures de l’organisation.
12. Sécuriser un accès distant
Il peut être utile d’accéder à son IA locale depuis un autre ordinateur ou un téléphone.
Mais il ne faut pas confondre accessibilité et sécurité.
12.1. Ce qu’il faut éviter
Exposer directement sur Internet une API locale sans authentification, contrôle d’accès ni protection adaptée.
12.2. Solutions envisageables
- Un réseau privé virtuel correctement configuré.
- Un tunnel sécurisé avec contrôle d’accès.
- Un proxy inverse intégrant une authentification adaptée.
- Une segmentation réseau.
- Des restrictions d’accès par utilisateur et par appareil.
12.3. Chiffrement des communications
Lorsque les communications traversent un réseau non fiable, un mécanisme de chiffrement du transport est nécessaire.
HTTPS utilise TLS pour protéger les échanges, sous réserve d’une configuration et d’une validation correctes.
Un serveur d’IA local peut être intégré à une architecture sécurisée, mais cette sécurisation relève de l’ensemble du système. Le simple fait d’ajouter un mot de passe dans une interface ne garantit pas que l’API sous-jacente est protégée.
13. Appliquer le principe du moindre privilège
Le moindre privilège consiste à accorder uniquement les permissions nécessaires à une tâche.
Ce principe s’applique aux utilisateurs, applications, services et fichiers.
13.1. Exemple
Une application doit lire un dossier contenant des documents à résumer.
Si elle n’a pas besoin de modifier ces documents, un accès en lecture seule est préférable lorsque le fonctionnement du logiciel le permet.
13.2. Éviter les droits administrateur inutiles
Exécuter systématiquement un outil d’IA avec des privilèges administrateur augmente les conséquences possibles d’une compromission.
13.3. Séparer les usages
Lorsque cela est pertinent, utiliser des comptes ou environnements distincts pour :
- Les tests.
- Les données personnelles.
- Les documents professionnels.
- Les expérimentations avec des outils inconnus.
14. Protéger les fichiers et les dossiers
Les documents analysés par une IA locale restent soumis aux règles de sécurité du système de fichiers.
14.1. Permissions
Les permissions déterminent quels utilisateurs peuvent lire, modifier ou supprimer un fichier.
14.2. Chiffrement du stockage
Le chiffrement du disque peut protéger les données contre certaines formes d’accès non autorisé, notamment après la perte ou le vol d’un appareil éteint et correctement verrouillé.
Les mécanismes disponibles dépendent du système et de son édition.
14.3. Verrouillage de session
Une session ouverte peut permettre à un tiers d’accéder aux conversations ou documents déjà déchiffrés.
Le verrouillage automatique constitue donc une mesure complémentaire importante.
14.4. Sauvegardes
Les sauvegardes doivent être protégées contre la consultation, la modification et la suppression non autorisées.
Il est également nécessaire de tester périodiquement leur restauration.
15. Comprendre les risques liés aux historiques
Une interface de conversation peut enregistrer les échanges afin de permettre leur consultation ultérieure.
Ces historiques peuvent contenir :
- Des noms de personnes.
- Des informations commerciales.
- Des extraits de documents.
- Des données personnelles.
- Des éléments de configuration technique.
15.1. Vérifier le stockage
Consulter les paramètres de l’application pour déterminer :
- Si les conversations sont enregistrées.
- Où elles sont conservées.
- Si une synchronisation est activée.
- Comment les supprimer.
- Si elles sont incluses dans des sauvegardes.
15.2. Supprimer un historique
La suppression visible dans une interface ne garantit pas nécessairement l’effacement immédiat de toutes les copies, sauvegardes ou données temporaires.
Il faut donc vérifier les mécanismes de conservation du logiciel.
16. Comprendre les journaux et fichiers temporaires
Les applications peuvent créer des journaux pour diagnostiquer les erreurs et suivre leur fonctionnement.
Selon le logiciel, ces journaux peuvent contenir :
- Des horodatages.
- Des chemins de fichiers.
- Des identifiants techniques.
- Des messages d’erreur.
- Éventuellement des éléments des requêtes.
Les fichiers temporaires peuvent également conserver des données intermédiaires.
16.1. Bonne pratique
Avant d’utiliser des informations sensibles, vérifier si l’application journalise le contenu des prompts, les réponses ou les chemins des documents.
16.2. Durée de conservation
Définir une durée adaptée au besoin réel, aux obligations applicables et à la politique de sécurité.
16.3. Suppression
Éviter les suppressions manuelles aveugles dans les dossiers internes d’une application : certains fichiers peuvent être indispensables à son fonctionnement.
17. Télécharger des modèles de manière sûre
Un modèle local est généralement téléchargé depuis un catalogue, un dépôt ou une plateforme de distribution.
Le téléchargement constitue une étape importante de la chaîne de sécurité.
17.1. Vérifier la provenance
Privilégier :
- Les sites officiels des logiciels.
- Les dépôts identifiés des éditeurs.
- Les comptes de publication reconnus.
- Les fichiers accompagnés d’une documentation claire.
17.2. Vérifier les versions
Un nom de modèle connu ne garantit pas que toutes ses copies proviennent de la même source.
Il faut examiner l’auteur, le dépôt, les variantes et les conditions de distribution.
17.3. Vérifier les empreintes
Lorsqu’une empreinte cryptographique officielle est disponible, elle peut permettre de vérifier l’intégrité du fichier téléchargé.
Cette vérification n’est fiable que si l’empreinte de référence provient elle-même d’une source digne de confiance.
18. Comprendre les risques des formats de modèles
Tous les fichiers associés à l’intelligence artificielle ne présentent pas les mêmes caractéristiques de sécurité.
18.1. Fichiers de poids
Les formats conçus pour stocker des données de modèle peuvent réduire certains risques liés à la désérialisation de code.
18.2. Fichiers exécutables ou scripts
Un dépôt peut également proposer :
- Des scripts d’installation.
- Des modules Python.
- Des extensions.
- Des composants exécutables.
- Du code de chargement personnalisé.
Ces éléments doivent être traités comme du logiciel potentiellement exécutable.
18.3. Formats à risque
Certains mécanismes de sérialisation, notamment ceux reposant sur Python Pickle, peuvent exécuter du code lors du chargement de données non fiables.
Il convient donc de privilégier des formats et procédures de chargement adaptés à la sécurité.
Un fichier GGUF ou un format conçu pour stocker des poids n’est pas une garantie absolue de sécurité. Des vulnérabilités dans les logiciels de lecture ou des composants associés restent possibles.
19. Vérifier l’intégrité d’un fichier sous Windows
PowerShell permet de calculer une empreinte SHA-256.
19.1. Commande
Le chemin est un exemple à adapter au fichier réellement téléchargé.
19.2. Interprétation
La commande produit une empreinte hexadécimale.
Il faut la comparer à une empreinte officielle obtenue par un canal fiable.
19.3. Limite
Une empreinte identique confirme que les fichiers comparés sont identiques selon l’algorithme utilisé. Elle ne prouve pas que le fichier est exempt de code malveillant.
20. Vérifier l’intégrité d’un fichier sous Linux
La commande suivante calcule une empreinte SHA-256 :
Le résultat doit être comparé à la valeur de référence fournie par une source fiable.
Cette vérification est particulièrement utile lorsque le fournisseur publie des empreintes pour ses fichiers.
21. Mettre à jour les composants
La sécurité dépend aussi des versions des logiciels installés.
Les composants concernés peuvent comprendre :
- Le système d’exploitation.
- Ollama ou LM Studio.
- Le moteur d’inférence.
- Les bibliothèques utilisées.
- Les pilotes GPU.
- Les interfaces web.
- Les extensions.
21.1. Pourquoi mettre à jour ?
Une mise à jour peut corriger une vulnérabilité, améliorer la compatibilité ou résoudre un dysfonctionnement.
21.2. Tester avant de déployer
Dans un environnement professionnel, une mise à jour doit être compatible avec les procédures de validation et de sauvegarde de l’organisation.
21.3. Éviter les sources non fiables
Ne pas installer une prétendue mise à jour provenant d’un lien inconnu ou d’un message suspect.
22. Comprendre les risques des extensions et outils
Un assistant local peut être connecté à d’autres outils : navigateur, moteur de recherche, gestionnaire de fichiers, base documentaire ou système d’automatisation.
Chaque intégration peut élargir les capacités du système, mais aussi sa surface d’attaque.
22.1. Exemple
Un modèle chargé uniquement de répondre à des questions n’a pas nécessairement besoin d’accéder à l’ensemble du disque.
Une extension qui lui donne accès aux fichiers crée de nouveaux risques, surtout si elle peut modifier ou supprimer des documents.
22.2. Permissions à examiner
- Lecture des fichiers.
- Modification des fichiers.
- Exécution de commandes.
- Accès au réseau.
- Utilisation d’identifiants.
- Connexion à des services externes.
Ne donner à un assistant que les outils et les permissions indispensables à sa mission.
23. Comprendre les injections de prompt
Une injection de prompt est une tentative de faire modifier le comportement d’un système d’IA à travers des instructions placées dans une source qui ne devrait pas faire autorité.
Ces instructions peuvent se trouver dans :
- Un document analysé.
- Une page web.
- Un courriel.
- Un fichier de données.
- Un résultat retourné par un outil.
23.1. Exemple
Un assistant doit résumer un document.
Le document contient cette phrase :
Cette phrase doit être considérée comme du contenu du document, et non comme une instruction légitime.
23.2. Pourquoi le risque existe-t-il en local ?
Un modèle local reste susceptible d’interpréter incorrectement des instructions présentes dans des données non fiables.
Le risque devient particulièrement important lorsque l’assistant dispose d’outils capables d’agir sur le système.
23.3. Mesures de réduction
- Séparer les instructions de confiance des documents analysés.
- Limiter les outils accessibles au modèle.
- Exiger une validation humaine pour les actions sensibles.
- Ne pas considérer les réponses du modèle comme des décisions d’autorisation.
- Contrôler les sorties avant toute action automatisée.
Aucune simple formulation de prompt ne garantit à elle seule une protection complète contre les injections. Les contrôles de sécurité doivent être appliqués par les logiciels et les systèmes qui entourent le modèle.
24. Protéger les identifiants et les secrets
Les mots de passe, clés d’API et autres secrets ne doivent pas être copiés inutilement dans une conversation.
Même lorsque le modèle fonctionne localement, ces données peuvent être enregistrées dans :
- L’historique.
- Les journaux.
- Les fichiers temporaires.
- Les sauvegardes.
- Les exports.
24.1. Exemple à éviter
24.2. Version préférable
Les variables d’environnement réduisent certains risques liés à l’inscription directe de secrets dans le code, mais ne constituent pas un coffre-fort à elles seules.
25. Comprendre la synchronisation cloud
Un dossier local peut être synchronisé automatiquement vers un service distant.
Par exemple, un dossier de documents peut être sauvegardé ou synchronisé par une application cloud.
Une IA locale qui lit ou produit des fichiers dans ce dossier ne garantit donc pas que ces fichiers restent uniquement sur l’ordinateur.
25.1. Vérifications
- Identifier l’emplacement des documents.
- Vérifier les logiciels de synchronisation actifs.
- Examiner les règles de sauvegarde.
- Contrôler les autorisations de partage.
- Éviter les dossiers partagés pour les données sensibles lorsque ce n’est pas nécessaire.
26. Comprendre le chiffrement des données
Le chiffrement transforme des informations afin de les rendre illisibles sans la clé appropriée.
26.1. Chiffrement au repos
Il protège les données stockées, notamment sur un disque ou une sauvegarde.
26.2. Chiffrement en transit
Il protège les communications entre systèmes.
26.3. Chiffrement et session ouverte
Lorsque l’utilisateur est connecté et que les données sont déchiffrées pour être utilisées, le chiffrement du disque ne bloque pas nécessairement l’accès d’un programme malveillant exécuté dans cette session.
26.4. Gestion des clés
La sécurité du chiffrement dépend aussi de la protection des clés, des mécanismes de récupération et de la configuration générale.
27. Protéger les sauvegardes
Les sauvegardes sont indispensables pour retrouver des informations après une panne, une erreur ou un incident.
Elles doivent toutefois être protégées avec le même sérieux que les données originales.
27.1. Bonnes pratiques
- Conserver des copies adaptées à la criticité des données.
- Éviter qu’une seule panne détruise toutes les copies.
- Limiter les droits d’accès.
- Chiffrer les sauvegardes lorsque cela est nécessaire.
- Tester la restauration.
- Définir des durées de conservation.
27.2. Exemple
Une entreprise conserve des documents internes dans un dossier utilisé par une IA locale.
Elle réalise des sauvegardes régulières sur un support distinct, protégé et dont la restauration est périodiquement vérifiée.
Cette organisation améliore la disponibilité des documents en cas d’incident.
28. Comprendre les obligations liées aux données personnelles
Le règlement général sur la protection des données, ou RGPD, peut s’appliquer lorsqu’une organisation traite des données personnelles.
Le fait d’utiliser une IA locale ne supprime pas automatiquement ces obligations.
28.1. Principes à connaître
- Disposer d’une base juridique adaptée au traitement.
- Définir une finalité explicite.
- Limiter les données collectées et utilisées.
- Mettre en place des mesures de sécurité appropriées.
- Définir une durée de conservation.
- Respecter les droits des personnes concernées.
28.2. Données sensibles
Certaines catégories particulières de données personnelles, notamment les données de santé, sont soumises à des exigences spécifiques.
28.3. Analyse des risques
Selon la nature du traitement et son niveau de risque, une analyse d’impact relative à la protection des données peut être nécessaire.
Une architecture locale peut contribuer à réduire certains transferts de données, mais elle ne constitue pas à elle seule une preuve de conformité au RGPD.
29. Réagir à une exposition accidentelle
Une mauvaise configuration peut rendre un service accessible à des personnes qui ne devraient pas l’utiliser.
Une réaction méthodique permet de limiter les conséquences.
Déterminer quel service, quelles données et quels accès sont concernés.
Faire appliquer les mesures de confinement appropriées par une personne autorisée : restriction réseau, arrêt du service ou désactivation d’un accès.
Conserver les informations nécessaires à l’analyse, sans détruire inutilement les journaux ou preuves disponibles.
Rechercher les données susceptibles d’avoir été exposées et les systèmes concernés.
En contexte professionnel, suivre la procédure interne et contacter les personnes compétentes, notamment le responsable de la sécurité ou le délégué à la protection des données.
Corriger la configuration, contrôler les accès et documenter les mesures prises.
Lorsqu’une violation de données personnelles est constatée, les obligations de notification doivent être évaluées. Selon les conditions prévues par le RGPD, une notification à l’autorité de contrôle peut être nécessaire dans les 72 heures après la prise de connaissance de la violation.
Ce délai n’implique pas que toute anomalie technique doive automatiquement être notifiée : l’évaluation juridique et les risques pour les personnes sont déterminants.
30. Étude de cas — Une PME utilise une IA locale
Une petite entreprise installe Ollama sur un ordinateur afin de résumer des documents internes.
La configuration initiale présente les caractéristiques suivantes :
- Le serveur écoute sur toutes les interfaces IPv4.
- Le poste est connecté au réseau de l’entreprise.
- Les conversations contiennent des informations clients.
- Les historiques sont conservés sans durée définie.
- Une extension peut accéder à plusieurs dossiers.
- Les sauvegardes sont synchronisées vers un service externe.
30.1. Questions
- Pourquoi l’adresse d’écoute représente-t-elle un risque potentiel ?
- Quels contrôles doivent être réalisés sur le réseau ?
- Quel problème pose la conservation illimitée des historiques ?
- Pourquoi les permissions de l’extension doivent-elles être revues ?
- Pourquoi la synchronisation externe doit-elle être examinée ?
- Quelles mesures faut-il prioriser ?
Afficher la correction détaillée
1. Adresse d’écoute
Une écoute sur toutes les interfaces IPv4 peut rendre l’API accessible depuis d’autres appareils, selon les règles réseau.
2. Contrôles réseau
Vérifier les adresses d’écoute, le pare-feu, les règles d’accès, les éventuelles redirections et l’existence de mécanismes d’authentification adaptés.
3. Historiques
Une conservation sans durée définie augmente la quantité d’informations exposées en cas d’incident et peut être incompatible avec certaines obligations.
4. Extension
Elle ne doit accéder qu’aux dossiers nécessaires. Les droits d’écriture ou d’exécution doivent être limités.
5. Synchronisation
Les fichiers peuvent quitter l’environnement local. Il faut examiner la destination, les garanties contractuelles, les autorisations et les protections applicables.
6. Priorités
Limiter l’exposition réseau, vérifier les droits d’accès, protéger les données personnelles, contrôler les extensions, définir la conservation et sécuriser les sauvegardes.
31. Atelier pratique — Auditer une installation personnelle
Cet atelier permet d’effectuer un premier contrôle de sécurité sur une installation Ollama ou LM Studio.
Il doit être réalisé uniquement sur un ordinateur ou un environnement que vous êtes autorisé à administrer.
Étape 1 — Identifier les logiciels
Noter :
- Le système d’exploitation.
- Le logiciel d’IA locale.
- Sa version.
- Les interfaces installées.
- Les extensions utilisées.
Étape 2 — Vérifier les ports
Sous Windows, pour une installation utilisant les ports habituels :
Cette commande liste les sockets TCP en écoute sur les ports indiqués.
Étape 3 — Vérifier les accès
Examiner :
- Les adresses d’écoute.
- Les règles du pare-feu.
- Les éventuels accès depuis le réseau.
- Les comptes autorisés.
Étape 4 — Vérifier les données
Identifier :
- Le dossier des conversations.
- Les documents importés.
- Les fichiers temporaires connus.
- Les sauvegardes.
- Les éventuelles synchronisations.
Étape 5 — Vérifier les extensions
Pour chaque extension, déterminer :
- Sa provenance.
- Ses permissions.
- Son besoin réel.
- Ses éventuelles connexions externes.
Étape 6 — Vérifier les mises à jour
Consulter les versions et les correctifs disponibles depuis les sources officielles.
Étape 7 — Documenter les résultats
Compléter la fiche suivante.
32. Erreurs fréquentes à éviter
| Erreur | Pourquoi c’est problématique | Bonne pratique |
|---|---|---|
| Penser que local signifie totalement privé | Des services ou extensions peuvent communiquer avec l’extérieur. | Vérifier les flux et la configuration. |
| Exposer une API sans contrôle | Des tiers peuvent potentiellement utiliser le service. | Limiter l’écoute et protéger les accès. |
| Exécuter tous les outils en administrateur | Augmente les conséquences d’une compromission. | Appliquer le moindre privilège. |
| Télécharger un modèle depuis une source inconnue | Risque de fichier ou composant malveillant. | Vérifier la provenance. |
| Conserver tous les historiques indéfiniment | Accumulation de données potentiellement sensibles. | Définir une politique de conservation. |
| Copier des secrets dans les prompts | Risque de stockage ou de divulgation. | Utiliser des mécanismes adaptés à la gestion des secrets. |
| Accorder tous les droits aux extensions | Augmente la surface d’attaque. | Limiter les permissions. |
| Faire confiance aux instructions d’un document | Risque d’injection de prompt. | Traiter les documents comme des données non fiables. |
| Oublier les sauvegardes cloud | Les données peuvent quitter l’appareil. | Contrôler les destinations et les accès. |
| Supprimer tous les journaux après un incident | Peut détruire des éléments utiles à l’analyse. | Préserver les preuves selon la procédure applicable. |
33. Questions fréquentes
Une IA locale fonctionne-t-elle forcément sans Internet ?
Non. L’inférence peut être locale tandis que l’application utilise Internet pour les téléchargements, les mises à jour ou certaines fonctionnalités.
Ollama en localhost est-il accessible depuis Internet ?
Un service limité à la boucle locale n’est normalement pas directement accessible depuis un autre appareil. Il faut toutefois vérifier les éventuels proxys, tunnels, redirections et autres composants.
Une API locale a-t-elle toujours besoin d’un mot de passe ?
Les besoins dépendent de l’architecture. Pour une exposition réseau, une authentification et des contrôles d’accès adaptés sont généralement nécessaires. Certaines API locales n’intègrent pas directement ces mécanismes.
Le pare-feu suffit-il à protéger mon IA ?
Non. Il constitue une mesure parmi d’autres : mises à jour, permissions, authentification, chiffrement et contrôle des extensions restent importants.
Un fichier GGUF est-il toujours sûr ?
Non. Un format de stockage de poids peut réduire certains risques, mais la provenance du fichier et la sécurité du logiciel de chargement restent essentielles.
Peut-on utiliser des documents confidentiels avec une IA locale ?
Techniquement oui, mais uniquement si l’environnement est suffisamment protégé et si l’utilisation est autorisée par les règles applicables.
Le chiffrement du disque protège-t-il une session ouverte ?
Pas complètement. Les données nécessaires aux applications sont généralement accessibles après déverrouillage. D’autres protections sont indispensables.
Une IA locale est-elle automatiquement conforme au RGPD ?
Non. Les obligations dépendent notamment de la nature des données, des finalités, des accès, de la conservation et des mesures de sécurité.
Pourquoi faut-il surveiller les extensions ?
Parce qu’elles peuvent disposer de permissions supplémentaires et communiquer avec des systèmes ou services externes.
Peut-on supprimer définitivement une conversation ?
La suppression dépend du logiciel et de son architecture de stockage. Il faut également tenir compte des sauvegardes, exports et copies éventuelles.
À retenir
- Une IA locale n’est pas automatiquement une IA sécurisée.
- L’inférence locale peut limiter les transferts vers des fournisseurs externes.
- La confidentialité, l’intégrité et la disponibilité sont les trois objectifs fondamentaux de sécurité.
- Les prompts, historiques, documents, journaux et sauvegardes doivent être protégés.
- La minimisation consiste à ne traiter que les données nécessaires.
127.0.0.1désigne la boucle locale IPv4.0.0.0.0désigne une écoute sur toutes les interfaces IPv4.- Une API exposée sur un réseau doit bénéficier de protections adaptées.
- Le pare-feu est une protection importante, mais insuffisante à lui seul.
- Le principe du moindre privilège limite les permissions accordées.
- Les historiques peuvent contenir des informations sensibles.
- Les sauvegardes et synchronisations peuvent créer des copies supplémentaires.
- Les modèles et extensions doivent provenir de sources fiables.
- Une empreinte SHA-256 permet de comparer l’intégrité de fichiers.
- Certains mécanismes de chargement de modèles peuvent présenter des risques d’exécution de code.
- Les injections de prompt restent possibles avec une IA locale.
- Les identifiants et secrets ne doivent pas être copiés inutilement dans les conversations.
- Le chiffrement protège certaines situations, mais ne remplace pas le contrôle des accès.
- Une IA locale n’est pas automatiquement conforme au RGPD.
- Un incident doit être traité avec méthode, sans détruire les éléments utiles à son analyse.
- Un audit régulier permet de vérifier que les protections restent adaptées.
Question 1 : Pourquoi une IA locale n’est-elle pas automatiquement privée ?
Voir la réponse
Question 2 : Quelle différence existe-t-il entre 127.0.0.1 et 0.0.0.0 pour un serveur ?
Voir la réponse
127.0.0.1 correspond à la boucle locale IPv4. 0.0.0.0, utilisé comme adresse d’écoute, signifie que le serveur écoute sur toutes les interfaces IPv4 disponibles.Question 3 : Quel est le rôle du principe de minimisation ?
Voir la réponse
Question 4 : Pourquoi une extension disposant d’un accès complet aux fichiers représente-t-elle un risque ?
Voir la réponse
Question 5 : Que permet de vérifier une empreinte SHA-256 ?
Voir la réponse
Question 6 : Pourquoi le chiffrement du disque ne suffit-il pas lorsque la session est ouverte ?
Voir la réponse
Question 7 : Une IA locale est-elle automatiquement conforme au RGPD ?
Voir la réponse
Question 8 : Quelle est la première réaction appropriée face à une API accidentellement exposée ?
Voir la réponse
Mettez en application les connaissances du chapitre : choix du modèle, installation, conversation, utilisation de l’API, mesure des performances et vérification de la sécurité.
Exercices du cours
Entraînez-vous avec 15 exercices progressifs. Ouvrez un exercice pour répondre, puis afficher sa correction.
