Czym jest Shadow AI
Shadow AI to każde korzystanie z narzędzi AI do pracy, którego organizacja nie sprawdziła ani nie zatwierdziła. Obejmuje darmowego chatbota użytego do przygotowania umowy, usługę transkrypcji uruchomioną podczas rozmowy z klientem oraz rozszerzenie przeglądarki, które dodaje funkcje AI do każdej odwiedzanej strony. Większość osób robi to, by szybciej skończyć pracę, a nie by łamać zasady.
To podzbiór Shadow IT, ale ważniejsze są konto i wynik działania niż samo narzędzie. Ta sama usługa może być zatwierdzona w ramach firmowej umowy i niezatwierdzona na prywatnym loginie. Dostawca może też przechowywać prompty lub wykorzystywać je do trenowania modeli, a wygenerowana odpowiedź może brzmieć wiarygodnie, nawet gdy jest błędna.
Jakie formy przybiera
Shadow AI zwykle występuje w jednej z czterech form:
| Forma | Jak to wygląda |
|---|---|
| Chatboty konsumenckie | Wklejanie umów lub kodu źródłowego do darmowego publicznego chatbota |
| Niezweryfikowane usługi AI | Darmowe narzędzia, które streszczają dokumenty, transkrybują spotkania lub generują treści |
| Funkcje AI w niezatwierdzonych aplikacjach | Rozszerzenia przeglądarki i wtyczki zainstalowane bez przeglądu przez IT |
| Prywatne konta i klucze | Prywatna subskrypcja AI lub klucz API używany do pracy |
Dlaczego pracownicy po nie sięgają
Shadow AI wyrasta z tego samego źródła co shadow IT: z luki między tym, czego pracownicy potrzebują, a tym, co organizacja oficjalnie udostępnia. Darmowe narzędzia AI są dla konsumentów natychmiastowe i naprawdę przydatne. Procesy zatwierdzania często takie nie są.
Jeśli nie ma zatwierdzonej alternatywy albo jest ona wolniejsza lub zablokowana, resztę robi presja terminów. Wiele organizacji nie ma też polityki AI, więc pracownicy mogą nie wiedzieć, że wpisanie tekstu w webowym chatbocie oznacza przekazanie go stronie trzeciej.
Dlaczego trudno to zauważyć
Shadow AI jest wyjątkowo trudne do wykrycia zwykłymi kontrolami. Ruch to zwyczajny HTTPS do znanych domen, więc kontrola reputacji nie znajduje nic podejrzanego, a dane wychodzą jako wklejony tekst, a nie jako plik. Monitorowanie ruchu webowego pokazuje, dokąd idzie ruch, ale odpowiada tylko na część pytania.
Ta sama usługa bywa jednocześnie zatwierdzona i niezatwierdzona, zależnie od użytego konta, więc zezwolenie na domenę lub jej blokada odpowiadają na złe pytanie. Funkcje AI trafiają też do narzędzi zainstalowanych w innym celu, na przykład do rozszerzenia przeglądarki albo klienta spotkań, który zaczyna transkrybować rozmowę u dostawcy, którego nikt nie ocenił.
Widoczność zależy więc od kontroli treści na stacji roboczej, gdzie zapobieganie utracie danych (DLP) widzi, co jest wysyłane, a nie tylko dokąd. Tabela porównuje, co widzi każda kontrola.
| Kontrola | Widzi cel | Widzi wklejony tekst | Obejmuje aplikacje spoza przeglądarki |
|---|---|---|---|
| Lista dozwolonych lub blokowanych domen | |||
| Kontrole oparte na plikach | |||
| Inspekcja treści na stacji roboczej |
Jak to wygląda w Anexet
Agenty Anexet pokazują, które przeglądarki są przechwytywane i jakie programy są zainstalowane na każdej stacji roboczej. Nieoczekiwany klient AI lub rozszerzenie pojawia się na liście inwentaryzacji oprogramowania, więc rozmowa zaczyna się od faktów, a nie od domysłów.
1 / 2
Ryzyka
Shadow AI generuje cztery główne ryzyka. Naruszenie poufności może też prowadzić do ekspozycji regulacyjnej na podstawie przepisów takich jak RODO lub HIPAA.
Wiele przypadków to nieumyślne ujawnienie, a nie kradzież: ktoś wkleja szkic, żeby szybciej dostać odpowiedź. Intencja jest zwykle niegroźna, dlatego programy oceniające ryzyko insider patrzą na wzorzec w wielu zdarzeniach, a nie na pojedyncze wklejenie.
- Poufność i ochrona danych: dane klientów, tajemnice handlowe lub dane osobowe w systemach poza umowami
- Wyciek własności intelektualnej: zastrzeżony kod lub projekty użyte jako prompty mogą trafić do danych treningowych cudzych modeli
- Integralność i odpowiedzialność: niezweryfikowany wynik AI w raportach, decyzjach lub oprogramowaniu
- Większa powierzchnia ataku: fałszywe narzędzia AI, złośliwe rozszerzenia i phishing danych logowania wykorzystujący popyt na AI
Jak organizacje reagują
Skuteczne programy łączą jasną politykę dopuszczalnego użycia, łatwo dostępne zatwierdzone narzędzia AI i szybką ścieżkę dla nowych wniosków, bo długie kolejki zatwierdzeń same napędzają nieautoryzowane użycie. Część zespołów blokuje też wyciek danych do usług AI w momencie wysyłania. Odpowiedzialność zwykle rozkłada się tak:
| Rola | Odpowiada za | Dostęp |
|---|---|---|
| Zespół bezpieczeństwaReguły danych i monitoring | Klasy danych, które nigdy nie trafiają do zewnętrznego modelu | Pełny |
| Administrator ITNarzędzia i konta | Zatwierdzone narzędzia, firmowe konta i ścieżkę zgłoszeń | Tylko techniczny |
| PracownicyCodzienna praca | Korzystanie z zatwierdzonych narzędzi i sprawdzanie wyników AI przed użyciem | Zatwierdzone narzędzia |
Od czego zacząć
Zacznij od danych, których wyciek bolałby najbardziej, a potem od narzędzi AI, z których ludzie już korzystają. Polityka napisana dla wszystkich narzędzi naraz blokuje uprawnioną pracę i zostaje wyłączona, a krótka lista zatwierdzonych narzędzi z szybką ścieżką do nowych próśb jest stosowana.
Programy, które traktują to jako część bezpieczeństwa danych AI, zwykle działają szybciej niż te, które zaczynają od zakazu, bo dają ludziom bezpieczną opcję, zanim sięgną po niebezpieczną.
Czytaj dalej: Cyberbezpieczeństwo i sztuczna inteligencja.
Shadow AI rzadko zaczyna się od decyzji. Zaczyna się od terminu, a używane jest to narzędzie, które akurat jest otwarte.
Anexet Team