Shadow AI (κρυφό AI)

Το Shadow AI είναι κάθε χρήση εργαλείων τεχνητής νοημοσύνης για εργασία που ο οργανισμός δεν έχει ελέγξει ούτε εγκρίνει. Περιλαμβάνει ένα δωρεάν chatbot για τη σύνταξη ενός συμβολαίου, μια υπηρεσία μεταγραφής που ενεργοποιήθηκε σε κλήση με πελάτη και μια επέκταση περιηγητή που προσθέτει λειτουργίες AI σε κάθε σελίδα που ανοίγει. Οι περισσότεροι θέλουν απλώς να τελειώσουν τη δουλειά πιο γρήγορα, όχι να παραβιάσουν κανόνες.

Είναι υποσύνολο του Shadow IT, όμως σημασία έχουν περισσότερο ο λογαριασμός και το αποτέλεσμα παρά το ίδιο το εργαλείο. Η ίδια υπηρεσία μπορεί να είναι εγκεκριμένη με εταιρικό συμβόλαιο και μη εγκεκριμένη με προσωπική σύνδεση. Ένας πάροχος μπορεί επίσης να διατηρεί τα prompts ή να τα χρησιμοποιεί για εκπαίδευση, και μια παραγόμενη απάντηση μπορεί να ακούγεται αξιόπιστη ακόμη και όταν είναι λανθασμένη.

Το Shadow AI εμφανίζεται συνήθως σε μία από τέσσερις μορφές:

Το Shadow AI προέρχεται από την ίδια ρίζα με το Shadow IT: το κενό ανάμεσα σε όσα χρειάζονται οι εργαζόμενοι και σε όσα παρέχει επίσημα ο οργανισμός. Τα δωρεάν εργαλεία AI είναι άμεσα, εύκολα και πραγματικά χρήσιμα. Οι διαδικασίες έγκρισης συχνά δεν είναι.

Αν δεν υπάρχει εγκεκριμένη εναλλακτική, ή αν είναι πιο αργή ή αποκλεισμένη, την υπόλοιπη δουλειά κάνει η πίεση των προθεσμιών. Πολλοί οργανισμοί δεν έχουν καν πολιτική για την AI, οπότε οι εργαζόμενοι ενδέχεται να μην γνωρίζουν ότι η πληκτρολόγηση κειμένου σε web chatbot το μεταφέρει σε τρίτο.

Το Shadow AI είναι ασυνήθιστα δύσκολο να εντοπιστεί με συμβατικούς ελέγχους. Η κίνηση είναι συνηθισμένο HTTPS προς γνωστούς τομείς, οπότε ένας έλεγχος φήμης δεν βρίσκει τίποτα, και τα δεδομένα φεύγουν ως επικολλημένο κείμενο και όχι ως αρχείο. Η παρακολούθηση της κίνησης ιστού δείχνει πού πηγαίνει η κίνηση, αλλά απαντά μόνο σε μέρος του ερωτήματος.

Η ίδια υπηρεσία είναι συχνά ταυτόχρονα εγκεκριμένη και μη εγκεκριμένη, ανάλογα με τον λογαριασμό που χρησιμοποιείται, οπότε το να επιτρέψει κανείς ή να αποκλείσει έναν τομέα απαντά στο λάθος ερώτημα. Επιπλέον, λειτουργίες AI εμφανίζονται μέσα σε εργαλεία εγκατεστημένα για άλλο σκοπό, όπως μια επέκταση περιηγητή ή ένα πρόγραμμα συσκέψεων που αρχίζει να μεταγράφει σε πάροχο που κανείς δεν αξιολόγησε.

Η ορατότητα εξαρτάται λοιπόν από τον έλεγχο του περιεχομένου στον σταθμό εργασίας, όπου η Πρόληψη Απώλειας Δεδομένων (DLP) βλέπει τι αποστέλλεται, και όχι μόνο τον προορισμό. Ο πίνακας συγκρίνει τι βλέπει κάθε έλεγχος.

Οι πράκτορες του Anexet δείχνουν ποιοι περιηγητές παρεμβάλλονται και ποια προγράμματα είναι εγκατεστημένα σε κάθε σταθμό εργασίας. Ένας απροσδόκητος πελάτης AI ή μια επέκταση εμφανίζεται στη λίστα λογισμικού, οπότε η συζήτηση ξεκινά από γεγονότα και όχι από εικασίες.

1 / 2

• 
• 

Το Shadow AI δημιουργεί τέσσερις βασικούς κινδύνους. Οι αστοχίες εμπιστευτικότητας μπορεί επίσης να οδηγήσουν σε κανονιστική έκθεση βάσει πλαισίων όπως ο GDPR ή το HIPAA.

Πολλές περιπτώσεις είναι ακούσια αποκάλυψη και όχι κλοπή: κάποιος επικολλά ένα προσχέδιο για να πάρει πιο γρήγορα απάντηση. Η πρόθεση είναι συνήθως αθώα, γι' αυτό τα προγράμματα κινδύνου εσωτερικού χρήστη κρίνουν το μοτίβο σε πολλά συμβάντα και όχι μια μεμονωμένη επικόλληση.

• Εμπιστευτικότητα και προστασία δεδομένων: δεδομένα πελατών, επιχειρηματικά μυστικά ή προσωπικά δεδομένα σε συστήματα εκτός συμβολαίων
• Διαρροή πνευματικής ιδιοκτησίας: ιδιόκτητος κώδικας ή σχέδια που χρησιμοποιούνται ως prompts μπορεί να καταλήξουν σε δεδομένα εκπαίδευσης τρίτων
• Ακεραιότητα και ευθύνη: μη επαληθευμένα αποτελέσματα AI ενσωματωμένα σε αναφορές, αποφάσεις ή λογισμικό
• Μεγαλύτερη επιφάνεια επίθεσης: ψεύτικα εργαλεία AI, κακόβουλες επεκτάσεις και phishing διαπιστευτηρίων που εκμεταλλεύεται τη ζήτηση για AI

Τα αποτελεσματικά προγράμματα συνδυάζουν μια σαφή πολιτική αποδεκτής χρήσης, εγκεκριμένα εργαλεία AI που είναι εύκολα προσβάσιμα και μια γρήγορη διαδρομή για νέα αιτήματα, επειδή οι μακριές ουρές έγκρισης δημιουργούν από μόνες τους παράλληλη χρήση. Ορισμένες ομάδες αποκλείουν επίσης τη διαρροή δεδομένων προς υπηρεσίες AI τη στιγμή της αποστολής. Οι ευθύνες συνήθως κατανέμονται ως εξής:

Ξεκινήστε από τα δεδομένα των οποίων η διαρροή θα έβλαπτε περισσότερο, και μετά από τα εργαλεία AI που ήδη χρησιμοποιούν οι άνθρωποι. Μια πολιτική γραμμένη για όλα τα εργαλεία μαζί μπλοκάρει τη νόμιμη δουλειά και απενεργοποιείται, ενώ μια σύντομη λίστα εγκεκριμένων εργαλείων με γρήγορη διαδρομή για νέα αιτήματα τηρείται.

Τα προγράμματα που το αντιμετωπίζουν ως μέρος της ασφάλειας δεδομένων AI συνήθως προχωρούν πιο γρήγορα από όσα ξεκινούν με απαγόρευση, επειδή δίνουν στους ανθρώπους μια ασφαλή επιλογή πριν φτάσουν στην ανασφαλή.

Περισσότερα: Κυβερνοασφάλεια και Τεχνητή Νοημοσύνη.