Ασφάλεια Δεδομένων AI

Η παραδοσιακή ασφάλεια δεδομένων χαράσσει ένα περίγραμμα γύρω από την αποθήκευση, τα δίκτυα και τα endpoints. Η τεχνητή νοημοσύνη αλλάζει αυτή την εικόνα. Τα δεδομένα αντιγράφονται σε σύνολα εκπαίδευσης, ευρετηριάζονται για ανάκτηση και μετατρέπονται σε παραγόμενο κείμενο. Κάθε αντίγραφο δημιουργεί ένα σημείο όπου οι συνηθισμένοι έλεγχοι δεν κοιτάζουν: τη ροή καταγραφής ενός παρόχου, έναν διανυσματικό δείκτη ή τη μνήμη ενός μοντέλου. Η προστασία πρέπει να ακολουθεί τα δεδομένα και όχι την υποδομή, και αυτό ξεκινά από την ταξινόμηση δεδομένων.

Τρεις ιδιότητες έχουν σημασία. Εμπιστευτικότητα: τα ευαίσθητα δεδομένα εισόδου δεν πρέπει να φτάνουν σε τρίτους που ο οργανισμός δεν έχει εξουσιοδοτήσει. Ακεραιότητα: τα δεδομένα εκπαίδευσης και το ανακτημένο πλαίσιο δεν πρέπει να χειραγωγούνται με τρόπο που αλλοιώνει τη συμπεριφορά του μοντέλου. Έλεγχος: ο οργανισμός πρέπει να γνωρίζει ποια αντίγραφα υπάρχουν, πού βρίσκονται και με ποιους όρους υποβάλλονται σε επεξεργασία.

Το νομικό πλαίσιο καλύπτει το ίδιο έδαφος. Οι αρχές του GDPR για τον περιορισμό του σκοπού, την ελαχιστοποίηση των δεδομένων και τη διαφάνεια ισχύουν για τα δεδομένα εκπαίδευσης και τα prompts όπως για κάθε άλλη επεξεργασία. Υποχρεώσεις γνωστοποίησης μπορεί επίσης να ενεργοποιηθούν από αποκάλυψη σχετική με την τεχνητή νοημοσύνη.

Τα δεδομένα φτάνουν στα συστήματα τεχνητής νοημοσύνης από πέντε διαδρομές:

Ένα prompt είναι μεταφορά δεδομένων. Ανάλογα με τους όρους του παρόχου, το υποβληθέν περιεχόμενο μπορεί να διατηρηθεί για έλεγχο ή να χρησιμοποιηθεί για την εκπαίδευση μελλοντικών εκδόσεων. Ό,τι απομνημόνευσε ένα μοντέλο κατά την εκπαίδευση μπορεί να εμφανιστεί ξανά σε απαντήσεις προς άλλους. Η διαρροή μέσω prompt LLM δεν φαίνεται στο δίκτυο: είναι ένα συνηθισμένο αίτημα HTTPS προς γνωστό τομέα, με μια εμπιστευτική σύμβαση στο σώμα του. Η ανίχνευσή της απαιτεί ανάγνωση του περιεχομένου και όχι μόνο έλεγχο του προορισμού. Εδώ βρίσκεται η ουσία της πρόληψης απώλειας δεδομένων (DLP).

Τα αποτελέσματα διαρρέουν και προς την αντίστροφη κατεύθυνση. Μια περίληψη ή μια απάντηση που παράγεται από ανακτημένα έγγραφα μπορεί να αποκαλύψει πληροφορίες σε αποδέκτη που ποτέ δεν είχε πρόσβαση στην πηγή. Ένας εσωτερικός αριθμός μπορεί να αναδημοσιευτεί σε πρόχειρο για πελάτη, ή προσωπικά δεδομένα να ενσωματωθούν στο παραγόμενο κείμενο. Ως νέο περιεχόμενο, το αποτέλεσμα μπορεί επίσης να παρακάμψει ελέγχους που αναζητούν γνωστά αρχεία.

Μεγάλο μέρος των περιστατικών ασφάλειας δεδομένων τεχνητής νοημοσύνης ξεκινά από το shadow AI, τη μορφή του shadow IT που αφορά την τεχνητή νοημοσύνη. Οι εργαζόμενοι χρησιμοποιούν μη εγκεκριμένα εργαλεία για πραγματική δουλειά, επειδή είναι δωρεάν και άμεσα διαθέσιμα. Η έκθεση ορίζεται τότε από εργαλεία που ο οργανισμός δεν επέλεξε, όρους που δεν διάβασε και πολιτικές διατήρησης που δεν μπορεί να ελέγξει. Το αντίμετρο έχει τρία μέρη:

1. 1

   Ορίστε σαφή πολιτική αποδεκτής χρήσης

   Καθορίστε ποιες χρήσεις τεχνητής νοημοσύνης επιτρέπονται στη δουλειά.

2. 2

   Προσφέρετε εγκεκριμένες εναλλακτικές

   Παρέχετε εγκεκριμένα εργαλεία για τις ίδιες ανάγκες.

3. 3

   Παρακολουθήστε τι φεύγει προς υπηρεσίες AI

   Αποκτήστε ορατότητα στο περιεχόμενο που αποστέλλεται σε υπηρεσίες τεχνητής νοημοσύνης.

Η δηλητηρίαση δεδομένων στοχεύει το στάδιο της εκπαίδευσης. Ένας επιτιθέμενος εισάγει ή τροποποιεί δείγματα ώστε το μοντέλο να μάθει λανθασμένες συσχετίσεις, τοποθετώντας κρυφές πόρτες που ενεργοποιούνται σε συγκεκριμένες φράσεις. Οι άμυνες επικεντρώνονται στην προέλευση, στη ελεγχόμενη συλλογή και στην αξιολόγηση πριν από την ανάπτυξη.

Η έγχυση prompt στοχεύει το πλαίσιο. Εντολές κρυμμένες σε έγγραφο, ιστοσελίδα ή μήνυμα, που το μοντέλο διαβάζει αργότερα, προσπαθούν να υπερισχύσουν της πρόθεσης του διαχειριστή. Μπορούν να εξάγουν ανακτημένα δεδομένα σε μια απάντηση ή να ενεργοποιήσουν μη εξουσιοδοτημένες ενέργειες εργαλείων. Ένα σύστημα που ανακτά μη αξιόπιστο περιεχόμενο κληρονομεί όσα λένε αυτές οι εντολές. Η αντιστροφή μοντέλου και η συμπερασματική εξαγωγή συμμετοχής ακολουθούν άλλη διαδρομή: προσπαθούν να εξάγουν δεδομένα εκπαίδευσης από το ίδιο το ανεπτυγμένο μοντέλο.

Η Anexet παρακολουθεί τα κανάλια από όπου τα prompts και τα αρχεία φεύγουν από την εταιρεία, και η κονσόλα του Anexet DLP δείχνει τι εντοπίστηκε. Το στιγμιότυπο δείχνει την καρτέλα AI ενός αναχαιτισμένου email: καταγράφονται οι πιθανές απειλές, γράφεται μια σύντομη περίληψη και μια σημείωση υπενθυμίζει ότι το αποτέλεσμα της τεχνητής νοημοσύνης χρειάζεται επαλήθευση. Η ανάλυση μπορεί να τρέξει σε ένα τοπικό μοντέλο AI μέσα στον οργανισμό, οπότε το αναχαιτισμένο κείμενο δεν φεύγει από την υποδομή.

Τα αποτελεσματικά προγράμματα συνδυάζουν πολλά μέτρα: ταξινόμηση πριν αντιγραφούν δεδομένα, αξιολόγηση του παρόχου πριν εγκριθεί μια υπηρεσία, διακυβέρνηση πρόσβασης στα corpus ανάκτησης, επιθεώρηση περιεχομένου σε όλα τα κανάλια, παρακολούθηση επικολλημένου κειμένου στα endpoints και ίχνος ελέγχου για κάθε συμβάν. Ο αποκλεισμός πρόσβασης σε μη εγκεκριμένες υπηρεσίες AI είναι ένα μέρος αυτού, και περιγράφεται στην αποτροπή διαρροών δεδομένων προς υπηρεσίες AI.

Κάθε μέτρο χρειάζεται υπεύθυνο. Οι ρόλοι συνήθως μοιάζουν έτσι:

Ξεκινήστε από τα δεδομένα που θα έβλαπταν περισσότερο αν έφευγαν, και μετά από τα κανάλια που πραγματικά χρησιμοποιούν. Πολιτικές γραμμένες για κάθε αρχείο ταυτόχρονα καταλήγουν να μπλοκάρουν τη δουλειά και να απενεργοποιούνται.

Περισσότερα: Κυβερνοασφάλεια και Τεχνητή Νοημοσύνη; Συστήματα DLP — τι είναι και πώς λειτουργούν.