Sécurité des Données IA

La sécurité des données traditionnelle trace un périmètre autour du stockage, des réseaux et des postes. L'IA change ce tableau. Les données sont copiées dans des jeux d'entraînement, indexées pour la recherche et transformées en texte généré. Chaque copie crée un endroit où les contrôles habituels ne regardent pas : le pipeline de journalisation d'un fournisseur, un index vectoriel ou la mémoire d'un modèle. La protection doit suivre les données, pas l'infrastructure, et elle commence par la classification des données.

Trois propriétés comptent. La confidentialité : les données sensibles ne doivent pas parvenir à des tiers que l'organisation n'a jamais autorisés. L'intégrité : les données d'entraînement et le contexte récupéré ne doivent pas être altérés au point de corrompre le comportement du modèle. Le contrôle : l'organisation doit savoir quelles copies existent, où elles se trouvent et selon quelles conditions elles sont traitées.

La réglementation touche le même terrain. Les principes du RGPD de limitation des finalités, de minimisation et de transparence s'appliquent aux données d'entraînement et aux prompts comme à tout autre traitement. Des obligations de notification peuvent aussi être déclenchées par une divulgation liée à l'IA.

Les données atteignent les systèmes d'IA par cinq voies :

Un prompt est un transfert de données. Selon les conditions du fournisseur, le contenu envoyé peut être conservé pour examen ou servir à entraîner les versions futures. Ce qu'un modèle a mémorisé pendant l'entraînement peut réapparaître dans des réponses données à d'autres. Une fuite par prompt de LLM ne se voit pas sur le réseau : c'est une requête HTTPS ordinaire vers un domaine connu, avec un contrat confidentiel dans son corps. La détecter suppose de lire le contenu, et pas seulement de vérifier la destination. C'est le cœur de la prévention des pertes de données (DLP).

Les résultats fuient dans l'autre sens. Un résumé ou une réponse générée à partir de documents récupérés peut révéler des informations à un destinataire qui n'a jamais eu accès à la source. Un chiffre interne peut être republié dans un projet pour un client, ou des données personnelles peuvent être intégrées au texte généré. En tant que nouveau contenu, la sortie peut aussi contourner les contrôles qui surveillent des fichiers connus.

Une part importante des incidents de sécurité des données IA commence par le shadow AI, la forme propre à l'IA du shadow IT. Les employés utilisent des outils d'IA non autorisés pour un travail réel, parce qu'ils sont gratuits et instantanés. L'exposition est alors définie par des outils que l'organisation n'a pas choisis, des conditions qu'elle n'a pas lues et des politiques de conservation qu'elle ne peut pas auditer. La contre-mesure a trois volets :

1. 1

   Définir une politique d'usage acceptable

   Préciser quels usages de l'IA sont permis dans le cadre du travail.

2. 2

   Proposer des alternatives approuvées

   Fournir des outils validés pour les mêmes besoins.

3. 3

   Surveiller ce qui part vers les services d'IA

   Obtenir une visibilité sur le contenu envoyé aux services d'IA.

L'empoisonnement des données vise l'étape d'entraînement. Un attaquant injecte ou modifie des exemples pour que le modèle apprenne de fausses associations et y intègre des portes dérobées qui se déclenchent sur des expressions précises. Les défenses portent sur la provenance, la collecte contrôlée et l'évaluation avant déploiement.

L'injection de prompt vise le contexte. Des instructions cachées dans un document, une page web ou un message que le modèle lira plus tard tentent d'imposer leur volonté à l'exploitant. Elles peuvent exfiltrer des données récupérées dans une réponse ou déclencher des actions non autorisées d'outils. Un système qui récupère du contenu non fiable hérite de tout ce que disent ces instructions. L'inversion de modèle et l'inférence d'appartenance suivent une autre voie : elles cherchent à extraire les données d'entraînement du modèle déployé lui-même.

Anexet surveille les canaux par lesquels les prompts et les fichiers quittent l'entreprise, et la console de Anexet DLP montre ce qui a été capturé. La capture présente l'onglet IA d'un e-mail intercepté : les menaces potentielles sont listées, un court résumé est rédigé, et une mention rappelle que le résultat de l'IA doit être vérifié. L'analyse peut tourner sur un modèle d'IA local au sein de l'organisation, de sorte que le texte intercepté ne quitte pas l'infrastructure.

Les programmes efficaces superposent plusieurs mesures : classification avant toute copie de données, évaluation du fournisseur avant l'approbation d'un service, gouvernance des accès aux corpus de recherche, inspection du contenu sur tous les canaux, surveillance du texte collé sur les postes et piste d'audit de chaque événement. Bloquer l'accès aux services d'IA non approuvés n'en est qu'une partie, décrite dans bloquer les fuites de données vers les services d'IA.

Chaque mesure a besoin d'un responsable. Les rôles ressemblent en général à ceci :

Commencez par les données dont la fuite ferait le plus de dégâts, puis par les canaux qu'elles empruntent réellement. Les politiques écrites pour tous les fichiers à la fois finissent par bloquer le travail et sont désactivées.

Pour aller plus loin : Cybersécurité et intelligence artificielle; Systèmes DLP — qu'est-ce que c'est et comment ça fonctionne.