Shadow AI (Schatten-KI)

Shadow AI ist jede Nutzung von KI-Werkzeugen für die Arbeit, die die Organisation nicht geprüft oder freigegeben hat. Dazu gehören ein kostenloser Chatbot für einen Vertragsentwurf, ein Transkriptionsdienst für ein Kundengespräch und eine Browsererweiterung, die jeder besuchten Seite KI-Funktionen hinzufügt. Die meisten wollen damit schneller fertig werden, nicht Regeln brechen.

Es ist eine Teilmenge von Shadow IT, doch Konto und Ergebnis zählen mehr als das Werkzeug selbst. Derselbe Dienst kann über einen Firmenvertrag freigegeben und über ein privates Login nicht freigegeben sein. Ein Anbieter kann Prompts außerdem speichern oder zum Training nutzen, und eine erzeugte Antwort kann überzeugend wirken, auch wenn sie falsch ist.

Shadow AI tritt meist in einer von vier Formen auf:

Shadow AI wächst aus derselben Wurzel wie Shadow IT: aus der Lücke zwischen dem, was Mitarbeitende brauchen, und dem, was die Organisation offiziell bereitstellt. Kostenlose KI-Werkzeuge sind sofort verfügbar und wirklich nützlich. Genehmigungsprozesse sind das oft nicht.

Gibt es keine freigegebene Alternative oder ist sie langsamer oder gesperrt, erledigt der Termindruck den Rest. Viele Organisationen haben zudem gar keine KI-Richtlinie. Mitarbeitende wissen dann womöglich nicht, dass das Eintippen von Text in einen Web-Chatbot Daten an einen Dritten übermittelt.

Shadow AI ist mit gewöhnlichen Kontrollen ungewöhnlich schwer zu erkennen. Der Datenverkehr ist gewöhnliches HTTPS zu bekannten Domains, sodass eine Reputationsprüfung nichts Auffälliges findet, und die Daten verlassen das Unternehmen als eingefügter Text statt als Datei. Überwachung des Web-Datenverkehrs zeigt, wohin der Verkehr geht, beantwortet aber nur einen Teil der Frage.

Derselbe Dienst ist je nach verwendetem Konto oft zugleich freigegeben und nicht freigegeben, daher beantwortet das Erlauben oder Sperren einer Domain die falsche Frage. KI-Funktionen kommen außerdem in Werkzeugen an, die für andere Zwecke installiert wurden, etwa in einer Browsererweiterung oder einem Besprechungsclient, der bei einem nie geprüften Anbieter zu transkribieren beginnt.

Sichtbarkeit hängt deshalb davon ab, Inhalte am Endgerät zu prüfen, wo Data Loss Prevention (DLP) erkennt, was gesendet wird, und nicht nur das Ziel. Die Tabelle zeigt, was jede Kontrolle sieht.

Anexet-Agenten zeigen, welche Browser abgefangen werden und welche Programme auf jedem Arbeitsplatz installiert sind. Ein unerwarteter KI-Client oder eine Erweiterung erscheint in der Software-Inventarisierung, sodass die Diskussion von Fakten statt von Vermutungen ausgeht.

1 / 2

• 
• 

Shadow AI erzeugt vier zentrale Risiken. Verletzungen der Vertraulichkeit können zudem zu regulatorischen Folgen nach Rahmenwerken wie DSGVO oder HIPAA führen.

Viele Fälle sind eine unbeabsichtigte Offenlegung statt Diebstahl: Jemand fügt einen Entwurf ein, um schneller eine Antwort zu bekommen. Die Absicht ist meist harmlos, deshalb bewerten Programme für Insider-Risiken das Muster über viele Ereignisse hinweg und nicht ein einzelnes Einfügen.

• Vertraulichkeit und Datenschutz: Kunden-, Geschäftsgeheimnis- oder personenbezogene Daten in Systemen außerhalb der Verträge
• Verlust von geistigem Eigentum: Proprietärer Code oder Entwürfe, die als Prompts dienen, können in fremde Trainingsdaten gelangen
• Integrität und Haftung: ungeprüfte KI-Ergebnisse in Berichten, Entscheidungen oder Software
• Größere Angriffsfläche: gefälschte KI-Werkzeuge, schädliche Erweiterungen und Phishing für Zugangsdaten, das die Nachfrage nach KI ausnutzt

Wirksame Programme verbinden eine klare Richtlinie zur zulässigen Nutzung, leicht erreichbare freigegebene KI-Werkzeuge und einen schnellen Weg für neue Anfragen, denn lange Genehmigungsstaus erzeugen selbst Schatten-Nutzung. Manche Teams sperren den Datenabfluss zu KI-Diensten zusätzlich direkt beim Senden. Die Zuständigkeiten sind meist so verteilt:

Beginnen Sie mit den Daten, deren Abfluss den größten Schaden anrichten würde, und dann mit den KI-Werkzeugen, die Menschen bereits nutzen. Eine Richtlinie, die alle Werkzeuge auf einmal erfasst, blockiert legitime Arbeit und wird abgeschaltet. Eine kurze Liste freigegebener Werkzeuge mit schnellem Weg für neue Anfragen wird dagegen befolgt.

Programme, die dies als Teil der KI-Datensicherheit behandeln, kommen meist schneller voran als solche, die mit einem Verbot beginnen, weil sie den Menschen eine sichere Option geben, bevor sie zur unsicheren greifen.

Weiterlesen: Cybersicherheit und künstliche Intelligenz.