‏أمن بيانات الذكاء الاصطناعي

تضع أمان البيانات التقليدي حدودًا حول التخزين والشبكات والأجهزة الطرفية. يغيّر الذكاء الاصطناعي هذه الصورة. تُنسخ البيانات إلى مجموعات تدريب، وتُفهرس للاسترجاع، وتتحول إلى نص مولّد. كل نسخة تخلق موضعًا لا تراقبه الضوابط المعتادة، مثل سجل الأحداث لدى المزوّد أو فهرس المتجهات أو ذاكرة النموذج. يجب أن تتبع الحماية البيانات لا البنية التحتية، وتبدأ من تصنيف البيانات.

ثلاث خصائص مهمة. السرية: لا يجب أن تصل المدخلات الحساسة إلى أطراف لم تأذن بها المؤسسة أبدًا. السلامة: لا يجوز التلاعب ببيانات التدريب والسياق المسترجع بطريقة تُفسد سلوك النموذج. الرقابة: يجب أن تعرف المؤسسة النسخ الموجودة وأماكنها والشروط التي تُعالج بها.

وينطبق التنظيم القانوني على الأرض نفسها. تسري مبادئ اللائحة العامة لحماية البيانات (GDPR)، مثل تحديد الغرض وتقليل البيانات والشفافية، على بيانات التدريب والمطالبات كما تسري على أي معالجة أخرى. وقد تُفعَّل التزامات الإخطار أيضًا عند إفصاح مرتبط بالذكاء الاصطناعي.

تصل البيانات إلى أنظمة الذكاء الاصطناعي عبر خمسة مسارات:

المطالبة نقل للبيانات. وبحسب شروط المزوّد، قد يُحتفظ بالمحتوى المرسل للمراجعة أو يُستخدم لتدريب إصدارات لاحقة. وما حفظه النموذج أثناء التدريب قد يظهر من جديد في إجابات تُقدَّم لآخرين. ولا يظهر التسرب عبر مطالبة لنموذج لغوي على الشبكة، فهو طلب HTTPS عادي إلى نطاق معروف يحمل في متنه عقدًا سريًا. وكشفه يتطلب قراءة المحتوى لا فحص الوجهة وحدها، وهذا جوهر منع فقدان البيانات (DLP).

وتتسرب المخرجات في الاتجاه المعاكس. فقد يكشف ملخص أو إجابة مولّدة من مستندات مسترجعة معلومات لمستلم لم يكن له وصول إلى المصدر أبدًا. ويمكن إعادة نشر رقم داخلي في مسودة لعميل، أو تضمين بيانات شخصية في النص المولّد. وبوصفه محتوى جديدًا، قد يتجاوز المخرج أيضًا الضوابط التي تبحث عن ملفات معروفة.

يبدأ جزء كبير من حوادث أمان بيانات الذكاء الاصطناعي من الذكاء الاصطناعي الخفي، وهو الصورة الخاصة بالذكاء الاصطناعي من تقنية المعلومات الخفية. يستخدم الموظفون أدوات ذكاء اصطناعي غير معتمدة في العمل الفعلي لأنها مجانية وفورية. ويتحدد التعرض حينها بأدوات لم تختارها المؤسسة، وبشروط لم تقرأها، وبسياسات احتفاظ لا تستطيع تدقيقها. وللتصدي له ثلاثة عناصر:

1. 1

   حدّد سياسة واضحة للاستخدام المقبول

   حدّد استخدامات الذكاء الاصطناعي المسموح بها في العمل.

2. 2

   قدّم بدائل معتمدة

   وفّر أدوات معتمدة لتلبية الاحتياجات نفسها.

3. 3

   راقب ما يتجه إلى خدمات الذكاء الاصطناعي

   احصل على رؤية لمحتوى المرسل إلى خدمات الذكاء الاصطناعي.

يستهدف تسميم البيانات مرحلة التدريب. يُدخل المهاجم عينات أو يعدّلها ليتعلم النموذج ارتباطات خاطئة، ويزرع أبوابًا خلفية تنشط عند عبارات محددة. وتتركز الدفاعات على مصدر البيانات، والجمع المضبوط، والتقييم قبل النشر.

يستهدف حقن المطالبات السياق. تحاول تعليمات مخفية في مستند أو صفحة أو رسالة يقرؤها النموذج لاحقًا أن تتجاوز قصد المشغّل. ويمكنها استخراج البيانات المسترجعة إلى الإجابة، أو تشغيل إجراءات غير مصرح بها للأدوات. ويرث النظام الذي يسترجع محتوى غير موثوق كل ما تقوله تلك التعليمات. أما عكس النموذج واستنتاج العضوية فيسلكان طريقًا آخر: يحاولان استخراج بيانات التدريب من النموذج المنشور نفسه.

تراقب Anexet القنوات التي تغادر عبرها المطالبات والملفات من الشركة، وتُظهر وحدة التحكم في Anexet DLP ما جرى التقاطه. تعرض اللقطة تبويب الذكاء الاصطناعي لرسالة بريد إلكتروني تم اعتراضها: تُدرج التهديدات المحتملة، ويُكتب ملخص قصير، وتذكّر ملاحظة بأن مخرجات الذكاء الاصطناعي تحتاج إلى تحقق. ويمكن أن يعمل التحليل على نموذج ذكاء اصطناعي محلي داخل المؤسسة، فلا يغادر النص المعترض البنية التحتية.

تجمع البرامج الفعّالة بين عدة تدابير: التصنيف قبل نسخ البيانات، وتقييم المزوّد قبل اعتماد أي خدمة، وحوكمة الوصول إلى مستودعات الاسترجاع، وفحص المحتوى عبر جميع القنوات، ومراقبة النص الملصوق على الأجهزة الطرفية، وسجل تدقيق لكل حدث. وحظر الوصول إلى خدمات الذكاء الاصطناعي غير المعتمدة جزء من ذلك، ويرد شرحه في حظر تسرب البيانات إلى خدمات الذكاء الاصطناعي.

يحتاج كل تدبير إلى مسؤول. وتبدو الأدوار عادةً على النحو الآتي:

ابدأ بالبيانات التي يكون تسربها أشد ضررًا، ثم بالقنوات التي تستخدمها فعلًا. فالسياسات التي تُكتب لكل ملف دفعة واحدة تنتهي بعرقلة العمل وإيقافها.

للمزيد من القراءة: الأمن السيبراني والذكاء الاصطناعي; أنظمة DLP: ما هي وكيف تعمل.