Cyberbezpieczeństwo i sztuczna inteligencja

W tym artykule omawiamy, co łączy cyberbezpieczeństwo ze sztuczną inteligencją, jakie zagrożenia niosą technologie AI dla organizacji i co trzeba wziąć pod uwagę, wdrażając narzędzia AI w systemach ochrony danych.

Definicje i pojęcia, które omawiamy w tym artykule.

Cyberbezpieczeństwo to stan systemu informacyjnego, który zapewnia integralność, poufność i dostępność jego cyfrowych aktywów informacyjnych: dokumentów, plików, systemów i usług, danych osobowych partnerów, pracowników i klientów, zasobów internetowych itd.

Sztuczna inteligencja (dalej: AI) to zestaw rozwiązań technologicznych, które pozwalają maszynom wykonywać zadania wymagające zwykle ludzkiej inteligencji. W szczególności uczyć się, wnioskować i znajdować optymalne rozwiązania problemów.

Sieci neuronowe — model matematyczny zrealizowany programowo lub sprzętowo. Odtwarza zasadę działania połączeń neuronowych człowieka. Pojęcie to nie jest tożsame ze sztuczną inteligencją, lecz stanowi jej część. Zdolność uczenia się to najważniejsza zaleta sieci neuronowych.

Główne zagrożenia dla cyberbezpieczeństwa związane z wykorzystaniem technologii sztucznej inteligencji

Bezprecedensowo szybki rozwój technologii AI znacząco zmienił wiele aspektów współczesnego życia, przynosząc wygodę i otwierając niemal nieograniczone możliwości w pracy, nauce i twórczości.

Jednak w miarę jak technologie AI stawały się coraz doskonalsze i powszechnie dostępne, krajobraz cyberzagrożeń stał się bardziej złożony – zarówno dla pojedynczych użytkowników, jak i dla całych organizacji. Poniżej omawiamy najczęstsze cyberzagrożenia związane z AI, na jakie narażone są organizacje.

Złośliwe oprogramowanie oparte na AI

Dziś technologie sztucznej inteligencji są wykorzystywane do tworzenia zaawansowanego złośliwego oprogramowania, które potrafi nauczyć się, jak działa system informacyjny organizacji, i sprytnie omijać tradycyjne środki ochrony. Cyberprzestępcy mogą też używać AI do automatyzacji wyszukiwania i identyfikowania podatności w obszarze bezpieczeństwa informacji oraz do ukierunkowywania ataków.

Niepokojącym trendem jest zdolność AI do generowania ogromnej liczby wariantów złośliwego oprogramowania i przeciążania nimi systemów ochrony — a w szczególności specjalistów ds. bezpieczeństwa informacji. Jednocześnie AI jako narzędzie nie wymaga głębokiej wiedzy informatycznej, co znacząco obniża próg wejścia dla cyberprzestępców — a to również przyczyni się do wzrostu liczby zagrożeń.

Złośliwe oprogramowanie tworzone przy udziale sztucznej inteligencji ma kilka charakterystycznych cech.

1. Zdolność do naśladowania znanych rodzin złośliwego oprogramowania — i to z bardzo wysoką dokładnością. Taka imitacja potrafi zmylić służby bezpieczeństwa i utrudnia rozpoznanie zagrożenia.
2. Polimorfizm. Złośliwe oprogramowanie oparte na AI potrafi automatycznie zmieniać swój kod przy każdej replikacji lub infekcji. Nieustanne „mutacje” utrudniają rozpoznanie i zablokowanie takiego kodu tradycyjnym metodom wykrywania opartym na sygnaturach.
3. Adaptacja w czasie rzeczywistym. Złośliwe oprogramowanie oparte na AI potrafi w czasie rzeczywistym dostosowywać swoje zachowanie do otoczenia.

Kolejna ważna kwestia przy organizacji bezpieczeństwa informacji to względna nowość ataków z użyciem AI. Jak wynika z ostatnich badań, większość organizacji wciąż nie ma planów reagowania na incydenty cyberbezpieczeństwa z udziałem systemów AI.

Deepfake’i

Jak pokazuje praktyka, nawet najbardziej stabilny i niezawodny system bezpieczeństwa informacji okaże się nieskuteczny, jeśli pracownicy organizacji nie znają zasad bezpiecznego zachowania w sieci.

Wraz z rozwojem technologii sztucznej inteligencji deepfake’i rozpowszechniły się, a ich liczba rośnie z dnia na dzień.

Korzystając z tej technologii AI, cyberprzestępcy potrafią stworzyć przekonujące nagrania wideo, obrazy lub nagrania głosu kluczowych osób.

Według Human Constanta liczba odnotowanych filmów deepfake wzrosła w latach 2019–2023 o 550%. Trzeba jednak pamiętać, że skala ataków z użyciem takich nagrań może być znacznie większa, niż wskazuje ta liczba, ponieważ nie każdy atak zostaje w ogóle odnotowany.

Co warto wiedzieć? Technologia deepfake może zagrażać pojedynczym użytkownikom, organizacjom, a nawet bezpieczeństwu narodowemu całych państw, zwłaszcza w obecnej sytuacji geopolitycznej.

Cele ataków z użyciem deepfake’ów bywają różne: szerzenie dezinformacji, szantaż, podżeganie do nienawiści na tle etnicznym, wywoływanie paniki wśród opinii publicznej, tworzenie kompromitujących zdjęć i nagrań, kradzież danych poufnych, podszywanie się pod osobę wysokiego szczebla dla korzyści finansowych itd. Napastnicy sięgają po deepfake’i właśnie po to, by realizować każdy z tych scenariuszy.

Wykrywanie deepfake’ów jest dziś trudnym zadaniem. Algorytmy AI wciąż doskonalą swoją zdolność do generowania bardzo realistycznych treści, dlatego organizacje muszą szkolić pracowników w rozpoznawaniu deepfake’ów oraz wdrażać narzędzia programowe do walki z fałszywymi materiałami.

Inżynieria społeczna

Techniki inżynierii społecznej od dawna są wykorzystywane przez przestępców, a wraz z upowszechnieniem technologii AI cyberoszustwa osiągnęły nowy, niespotykany dotąd poziom.

Algorytmy AI potrafią zbierać i przetwarzać ogromne ilości danych o użytkownikach z serwisów społecznościowych, portali informacyjnych i stron prywatnych, a następnie wykorzystywać te informacje do ukierunkowanych ataków phishingowych, czyli wymierzonych w konkretną osobę.

Skuteczność takich ataków bywa bardzo wysoka, ponieważ AI potrafi zautomatyzować tworzenie przekonujących wiadomości opartych na informacjach osobistych o użytkownikach. Jednocześnie chatboty i asystenci głosowi napędzani przez AI mogą podszywać się pod zaufane osoby lub organizacje, przez co ofierze trudno rozpoznać oszustwo.

Trzeba mieć świadomość, że nowe technologie wyprzedzają prawo. Wiele omówionych wyżej pojęć nie istnieje jeszcze w przepisach, więc pociągnięcie kogoś do odpowiedzialności za przestępstwa z ich użyciem bywa problematyczne.

W tych okolicznościach o wiele łatwiej i korzystniej jest dziś wdrożyć stabilny i niezawodny system bezpieczeństwa informacji, niż mierzyć się z naruszeniem, ustalać sprawcę, dowodzić winy w sądzie i odzyskiwać odszkodowanie.

Możliwości AI w cyberbezpieczeństwie

Sztuczna inteligencja, a w szczególności sieci neuronowe, może być zarówno zagrożeniem dla bezpieczeństwa informacji, jak i skutecznym narzędziem ochrony.

W cyberbezpieczeństwie sztuczna inteligencja ma nad specjalistą ds. bezpieczeństwa informacji jedną kluczową przewagę — potrafi błyskawicznie przetwarzać ogromne ilości danych, wykrywać naruszenia polityk bezpieczeństwa, ustalać złożone wzorce mogące świadczyć o incydencie i reagować natychmiast. Szybkość reakcji na incydenty bezpieczeństwa informacji ma znaczenie krytyczne.

Trzeba mieć świadomość, że AI nie zastąpi dziś w pełni specjalisty ds. bezpieczeństwa informacji. Jednocześnie wykorzystanie technologii sztucznej inteligencji i uczenia maszynowego pozwala takiemu specjaliście działać prewencyjnie i eliminować zagrożenia, zanim się zmaterializują.

Zastosowania AI w cyberbezpieczeństwie

Sztuczna inteligencja służy dziś do rozwiązywania następujących zadań:

• analiza zachowania użytkowników i wykrywanie podejrzanej aktywności;
• wykrywanie złośliwej aktywności i różnego rodzaju anomalii w działaniu systemu informacyjnego;
• kontrola dostępu i uwierzytelnianie użytkowników;
• automatyczne reagowanie na incydenty bezpieczeństwa informacji; 
• identyfikowanie zagrożeń dla bezpieczeństwa informacji i zapobieganie im;
• wykrywanie wycieków danych poufnych i zapobieganie im;
• monitorowanie systemu informacyjnego pod kątem zagrożeń dla bezpieczeństwa informacji.

Zaawansowane generatywne modele sztucznej inteligencji radzą sobie z trudniejszymi zadaniami:

• analiza kodu pod kątem podatności;
• zbieranie i analiza danych o aktualnych zagrożeniach dla bezpieczeństwa informacji;
• blokowanie botów przeznaczonych do ataków na zasoby i aplikacje internetowe, kradzieży informacji wrażliwych i innych działań;
• wyszukiwanie i rozpoznawanie zależności, na przykład wykrywanie wiadomości phishingowych wygenerowanych przez AI.

Lista procesów, które można zautomatyzować z pomocą AI, jest dość długa. Wdrażając narzędzia AI w systemie bezpieczeństwa informacji, trzeba jednak koniecznie uwzględnić ich podatności i potencjalne ograniczenia.

Ograniczenia i wyzwania związane z wykorzystaniem AI w cyberbezpieczeństwie

Narzędzia AI mogą mieć własne podatności

Cykl życia narzędzi AI składa się zwykle z 4 etapów: projektowania, tworzenia, wdrożenia i utrzymania. Na każdym z nich mogą przeniknąć do nich krytyczne podatności, które później grupy cyberprzestępcze wykorzystają do obejścia mechanizmów ochrony i wprowadzenia złośliwego oprogramowania do systemu informacyjnego organizacji.

Na przykład słabe lub nieprawidłowo wdrożone mechanizmy uwierzytelniania i autoryzacji już na etapie projektowania i tworzenia mogą prowadzić do wycieków informacji i nieuprawnionych zmian w systemie.

Na etapie tworzenia napastnicy mogą wykorzystać błędy w kodzie, aby uruchomić dowolny kod, manipulować modelami AI lub uzyskać nieuprawniony dostęp do zasobów systemu.

Zachowanie modelu AI może też zostać celowo lub przypadkowo zmienione, co prowadzi do wykonywania nieautoryzowanych zadań albo generowania błędnych odpowiedzi. Potencjalne konsekwencje są różnorodne: nieuprawniony dostęp, wycieki informacji, podważenie wiarygodności danych wyjściowych.

Warto też uwzględnić ryzyko niebezpiecznego łańcucha dostaw. Oznacza to, że komponenty kupowane od zewnętrznych dostawców na potrzeby budowy narzędzia AI również mogą zawierać podatności. Napastnicy mogą je wykorzystać, aby wstrzyknąć do systemu backdoory, złośliwe oprogramowanie lub inny szkodliwy kod.

Wdrażając narzędzia AI w systemie cyberbezpieczeństwa, trzeba pamiętać, że lista potencjalnych podatności jest długa, o czym świadczy liczba wykrytych incydentów.

Na przykład w styczniu 2025 roku okazało się, że twórcy chińskiego chatbota DeepSeek, opartego na sztucznej inteligencji, zostawili jedną ze swoich krytycznych baz danych bez zabezpieczenia. Doprowadziło to do wycieku ponad miliona rekordów. Publicznie dostępne stały się historia korespondencji użytkowników z siecią neuronową, tajne klucze i fragmenty API, dane backendu oraz inne wrażliwe informacje.

Miesiąc wcześniej eksperci wykryli podatność w ChatGPT — narzędzie wyszukiwania od OpenAI można oszukać, a ponadto potrafi ono wygenerować złośliwy kod, jeśli znajdzie odpowiednią instrukcję na stronie internetowej.

W czerwcu 2024 roku badacze zidentyfikowali poważną podatność w otwartoźródłowej platformie AI Ollama. Podatność o identyfikatorze CVE-2024-37032, znana jako Probllama, stanowi zagrożenie — można ją wykorzystać do zdalnego wykonania kodu.

Kwestie prywatności i bezpieczeństwa danych

Z przedstawionych wyżej informacji wynika, że ataki mogą być kierowane nie tylko na system informacyjny, ale też na same narzędzia AI. Trenowanie modeli AI wiąże się ze zbieraniem, przechowywaniem i przetwarzaniem dużych ilości danych o różnym stopniu wrażliwości, w tym informacji o zasobach IT, procesach biznesowych, architekturze systemu informacyjnego, danych autoryzacyjnych użytkowników i tak dalej.

Wszystko to zwiększa ryzyko wycieków, utraty prywatności i niewłaściwego wykorzystania danych.

Narzędzia AI są trudne we wdrożeniu i konfiguracji

Wdrożenie i konfiguracja systemu ochrony danych opartego na technologiach AI wymagają rzadkich kompetencji z pogranicza cyberbezpieczeństwa i programowania. Dodatkowo stosowanie modeli AI wiąże się z długim procesem uczenia, uwzględniającym konieczność dopasowania do procesów biznesowych, unikalnych dla każdej branży.

Przykładem trudności, jakie mogą pojawić się przy wdrażaniu narzędzi AI, są reguły bezpieczeństwa konfigurowane dla pakietów oprogramowania, które mają automatycznie monitorować zdarzenia bezpieczeństwa i analizować je pod kątem naruszeń oraz podejrzanej aktywności. Duża liczba wykrytych incydentów oznacza, że polityki antywirusowe są skonfigurowane niewystarczająco dobrze. Z kolei duża liczba fałszywych alarmów oznacza, że reguły wykrywające podejrzaną aktywność działają nieprawidłowo. Oba warianty są złe.

Opisane wyżej czynniki podkreślają zapotrzebowanie na wysoko wykwalifikowane kadry — i stąd kolejne wyzwanie.

Na rynku pracy brakuje wysoko wykwalifikowanych specjalistów ds. bezpieczeństwa informacji

Dziś widać wyraźną rozbieżność między rosnącą liczbą otwartych wakatów w cyberbezpieczeństwie a faktyczną liczbą wykwalifikowanych specjalistów. Według explodingtopics.com 57% firm odczuwa braki kompetencji w obszarze cyberbezpieczeństwa. W samych Stanach Zjednoczonych brakuje 377 000 specjalistów ds. cyberbezpieczeństwa.

Luka ta powstała z wielu powodów, na przykład z powodu bezprecedensowo szybkiego rozwoju technologii, gwałtownej cyfryzacji gospodarki i branż oraz masowego przejścia specjalistów na pracę zdalną. W ciągu zaledwie kilku lat firmy wyposażyły stanowiska pracy w laptopy, tablety i smartfony, podłączyły aplikacje chmurowe i wiele innych rozwiązań — a każde z nich może stać się punktem wejścia do systemu informacyjnego organizacji i dlatego wymaga ochrony.

Cyberprzestępczość również szybko idzie naprzód. Cyberataki stały się bardziej złożone, wzrosła ich liczba i intensywność, a krajobraz zagrożeń dla bezpieczeństwa informacji znacząco się poszerzył. Jak wspomniano wyżej, ataki na systemy informacyjne prowadzone są z użyciem technologii sztucznej inteligencji, a zabezpieczenia stosowane w wielu firmach nie są jeszcze na tyle solidne, by wytrzymać działania grup cyberprzestępczych.

Niedobór wysoko wykwalifikowanych specjalistów ds. cyberbezpieczeństwa, zwłaszcza w tak wąskiej specjalizacji jak wdrażanie technologii AI i przeciwdziałanie im, ma daleko idące konsekwencje.

Najmocniej odczują to małe firmy. Niewielkie organizacje nie są w stanie przeznaczyć dużych budżetów na zbudowanie trwałego systemu ochrony.

Jak Anexet Ultimate DLP wykorzystuje sieci neuronowe do ochrony danych organizacji?

System Anexet Ultimate DLP również wykorzystuje sieci neuronowe do ochrony danych firmowych.

Rozpoznawanie tekstu na obrazach. System pozwala analizować tekst w dokumentach w formatach graficznych. Po wykryciu takich danych system przeprowadza rozpoznanie obrazu i analizę tekstu, a następnie stosuje polityki bezpieczeństwa do rozpoznanych danych. W zależności od wybranego narzędzia rozpoznawania obrazów system obsługuje dokumenty z rozszerzeniami .PDF, .DJVU, .JPEG, .PNG, .GIF, .BMP, .TIF.

Rozpoznawanie pieczęci. System automatycznie analizuje dokumenty krążące w sieci informacyjnej i sprawdza, czy zawierają pieczęcie. Po wykryciu dokumentu z pieczęcią Anexet Ultimate porówna ją z wzorcem referencyjnym. W razie dopasowania system zadziała zgodnie ze skonfigurowanymi politykami bezpieczeństwa.

Rozpoznawanie mowy. System Anexet Ultimate pozwala analizować rozmowy głosowe. Przechwytując połączenia, system przeprowadzi rozpoznanie, przeanalizuje warstwę tekstową i zastosuje do przechwyconych danych polityki bezpieczeństwa ustawione w konsoli użytkownika.

Rozpoznawanie twarzy na zdjęciach z kamery internetowej. System automatycznie wykrywa obecność osoby na zdjęciach z kamery i porównuje ją ze zdjęciami przypisanymi do konta. Jeśli przed ekranem znajdzie się osoba obca lub inny pracownik, Anexet Ultimate automatycznie wyśle powiadomienie do specjalisty ds. bezpieczeństwa, a jeśli tak ustawiono wcześniej, zablokuje sesję użytkownika, niezależnie od tego, czy komputer jest podłączony do sieci, czy nie.

Podsumowanie

Jak widać, AI potrafi rozwiązać całkiem szeroki zestaw zadań z obszaru cyberbezpieczeństwa, a lista ta będzie w przyszłości tylko rosła.

Jednocześnie, organizując system bezpieczeństwa informacji, trzeba uwzględnić wykładniczy wzrost możliwości sztucznej inteligencji i uczenia maszynowego, a wraz z nim rosnącą liczbę zagrożeń.