Shadow AI (IA cachée)

Le Shadow AI désigne tout usage d'outils d'IA pour le travail que l'organisation n'a ni examiné ni approuvé. Cela couvre un chatbot gratuit utilisé pour rédiger un contrat, un service de transcription lancé pendant un appel client et une extension de navigateur qui ajoute des fonctions d'IA à chaque page visitée. La plupart de ces personnes veulent aller plus vite, pas enfreindre les règles.

C'est un sous-ensemble du Shadow IT, mais le compte utilisé et le résultat comptent davantage que l'outil lui-même. Un même service peut être approuvé sous contrat d'entreprise et non approuvé sous un identifiant personnel. Un fournisseur peut aussi conserver les requêtes ou les utiliser pour entraîner ses modèles, et une réponse générée peut sembler fiable même lorsqu'elle est fausse.

Le Shadow AI prend généralement l'une de ces quatre formes :

Le Shadow AI naît de la même racine que le Shadow IT : l'écart entre ce dont les salariés ont besoin et ce que l'organisation fournit officiellement. Les outils d'IA grand public sont gratuits, instantanés et réellement utiles. Les processus de validation, eux, le sont rarement.

Sans alternative approuvée, ou si celle-ci est plus lente ou bloquée, la pression des délais fait le reste. Beaucoup d'organisations n'ont d'ailleurs aucune politique d'IA. Les salariés ne savent pas forcément que saisir un texte dans un chatbot web le transmet à un tiers.

Le Shadow AI est particulièrement difficile à détecter avec les contrôles classiques. Le trafic est du HTTPS ordinaire vers des domaines réputés, donc une vérification de réputation ne trouve rien d'anormal, et les données sortent sous forme de texte collé plutôt que de fichier. La surveillance du trafic web montre où part le trafic, mais elle ne répond qu'en partie à la question.

Le même service est souvent à la fois approuvé et non approuvé selon le compte utilisé, si bien qu'autoriser ou bloquer un domaine répond à la mauvaise question. Les fonctions d'IA arrivent aussi dans des outils installés pour d'autres usages, comme une extension de navigateur ou un client de réunion qui se met à transcrire chez un fournisseur que personne n'a évalué.

La visibilité dépend donc de l'inspection du contenu sur le poste, là où la prévention des pertes de données (DLP) voit ce qui part, et non de la seule destination. Le tableau compare ce que voit chaque contrôle.

Les agents Anexet montrent quels navigateurs sont interceptés et quels programmes sont installés sur chaque poste. Un client d'IA ou une extension inattendue apparaît dans l'inventaire logiciel, et la discussion repose ainsi sur des faits plutôt que sur des suppositions.

1 / 2

• 
• 

Le Shadow AI présente quatre risques principaux. Une atteinte à la confidentialité peut en outre entraîner une exposition réglementaire au titre de cadres comme le RGPD ou HIPAA.

Beaucoup de cas relèvent d'une divulgation involontaire plutôt que du vol : quelqu'un colle un brouillon pour obtenir plus vite une réponse. L'intention est en général anodine, c'est pourquoi les programmes de risque lié aux initiés évaluent le schéma sur de nombreux événements, et non sur un collage isolé.

• Confidentialité et protection des données : données clients, secrets d'affaires ou données personnelles dans des systèmes hors contrat
• Fuite de propriété intellectuelle : du code ou des projets confidentiels utilisés comme requêtes peuvent rejoindre les données d'entraînement d'autres acteurs
• Intégrité et responsabilité : résultats d'IA non vérifiés intégrés à des rapports, des décisions ou des logiciels
• Surface d'attaque élargie : faux outils d'IA, extensions malveillantes et hameçonnage d'identifiants qui exploite la demande pour l'IA

Les programmes efficaces combinent une politique d'usage acceptable explicite, des outils d'IA approuvés et faciles d'accès et une voie rapide pour les nouvelles demandes, car les files d'attente de validation alimentent elles-mêmes l'usage parallèle. Certaines équipes bloquent aussi les fuites de données vers les services d'IA au moment de l'envoi. Les responsabilités se répartissent en général ainsi :

Commencez par les données dont la fuite causerait le plus de dégâts, puis par les outils d'IA que les équipes utilisent déjà. Une politique écrite pour tous les outils d'un coup bloque le travail légitime et finit désactivée, alors qu'une courte liste d'outils approuvés, avec une voie rapide pour en demander d'autres, est suivie.

Les programmes qui traitent le sujet dans le cadre de la sécurité des données IA avancent en général plus vite que ceux qui commencent par une interdiction, car ils offrent une option sûre avant que les gens ne prennent la mauvaise.

Pour aller plus loin : Cybersécurité et intelligence artificielle.