‏الذكاء الاصطناعي الخفي (Shadow AI)

الذكاء الاصطناعي الخفي هو أي استخدام لأدوات الذكاء الاصطناعي في العمل لم تراجعه المؤسسة ولم تعتمده. ويشمل ذلك روبوت محادثة مجانياً استُخدم لصياغة عقد، وخدمة تفريغ نصي شُغّلت أثناء مكالمة مع عميل، وإضافة متصفح تضيف ميزات ذكاء اصطناعي إلى كل صفحة يفتحها المستخدم. معظم من يفعلون ذلك يريدون إنجاز عملهم أسرع، لا خرق القواعد.

وهو جزء من تقنية المعلومات الخفية (Shadow IT)، لكن الحساب الذي يُستخدم به والنتيجة التي يولّدها أهم من الأداة نفسها. فقد تكون الخدمة ذاتها معتمدة بموجب عقد للمؤسسة، وغير معتمدة عند الدخول بحساب شخصي. ويمكن للمزوّد أن يحتفظ بالتعليمات المرسلة إليه أو يستخدمها لتدريب نماذجه، كما قد تبدو الإجابة المولّدة موثوقة حتى حين تكون خاطئة.

يظهر الذكاء الاصطناعي الخفي عادة في واحد من أربعة أشكال:

ينشأ الذكاء الاصطناعي الخفي من الجذر نفسه الذي تنشأ منه تقنية المعلومات الخفية: الفجوة بين ما يحتاجه الموظفون وما توفره المؤسسة رسمياً. أدوات الذكاء الاصطناعي المجانية متاحة فوراً ومفيدة فعلاً، أما إجراءات الاعتماد فكثيراً ما لا تكون كذلك.

إذا لم يوجد بديل معتمد، أو كان البديل أبطأ أو محجوباً، تتكفل ضغوط المواعيد بالباقي. ولا تملك كثير من المؤسسات سياسة للذكاء الاصطناعي أصلاً، لذلك قد لا يدرك الموظفون أن كتابة نص في روبوت محادثة على الويب ترسله إلى طرف ثالث.

يصعب رصد الذكاء الاصطناعي الخفي بالضوابط التقليدية. فحركة المرور عادية عبر HTTPS إلى نطاقات معروفة، ولذلك لا يجد فحص السمعة شيئاً مريباً، وتخرج البيانات كنص مُلصق لا كملف. ومراقبة حركة مرور الويب تُظهر الوجهة التي يتجه إليها المرور، لكنها تجيب عن جزء من السؤال فقط.

تكون الخدمة نفسها معتمدة وغير معتمدة في الوقت ذاته في كثير من الأحيان بحسب الحساب المستخدم، لذلك فإن السماح بنطاق أو حظره يجيب عن السؤال الخطأ. كما تصل ميزات الذكاء الاصطناعي داخل أدوات مثبتة لأغراض أخرى، مثل إضافة متصفح أو برنامج اجتماعات يبدأ بتفريغ الحديث لدى مزوّد لم يقيّمه أحد.

ولذلك تعتمد الرؤية على فحص المحتوى على الجهاز الطرفي، حيث يستطيع منع فقدان البيانات (DLP) أن يرى ما يُرسل، لا الوجهة وحدها. ويقارن الجدول ما يراه كل ضابط.

تُظهر وكلاء Anexet المتصفحات التي يجري اعتراض حركتها والبرامج المثبتة على كل محطة عمل. ويظهر عميل ذكاء اصطناعي أو إضافة غير متوقعة في جرد البرمجيات، فيبدأ النقاش من وقائع لا من تخمينات.

1 / 2

• 
• 

ينشئ الذكاء الاصطناعي الخفي أربعة مخاطر رئيسية. كما قد تؤدي إخفاقات السرية إلى تعرض تنظيمي بموجب أطر مثل اللائحة العامة لحماية البيانات (GDPR) أو HIPAA.

كثير من الحالات هي إفصاح غير مقصود لا سرقة: يلصق أحدهم مسودة ليحصل على إجابة أسرع. والنية في الغالب بريئة، ولذلك تقيّم برامج مخاطر المطّلعين الداخليين النمط عبر أحداث كثيرة، لا عبر لصقة واحدة.

• السرية وحماية البيانات: بيانات العملاء أو الأسرار التجارية أو البيانات الشخصية في أنظمة خارج الاتفاقيات
• تسرب الملكية الفكرية: قد تصل شيفرة أو تصاميم خاصة استُخدمت كتعليمات إلى بيانات تدريب لآخرين
• السلامة والمسؤولية: مخرجات ذكاء اصطناعي غير متحقق منها مُدرجة في التقارير أو القرارات أو البرمجيات
• اتساع سطح الهجوم: أدوات ذكاء اصطناعي مزيفة وإضافات خبيثة واحتيال لسرقة بيانات الدخول يستغل الطلب على الذكاء الاصطناعي

تجمع البرامج الفعّالة بين سياسة واضحة للاستخدام المقبول، وأدوات ذكاء اصطناعي معتمدة وسهلة الوصول، ومسار سريع للطلبات الجديدة، لأن طوابير الاعتماد الطويلة تولّد الاستخدام الخفي بذاتها. وتقوم بعض الفرق أيضاً بـحظر تسرب البيانات إلى خدمات الذكاء الاصطناعي عند لحظة الإرسال. وعادةً توزَّع المسؤوليات على النحو التالي:

ابدأ بالبيانات التي يكون تسربها أشد ضرراً، ثم بأدوات الذكاء الاصطناعي التي يستخدمها الناس فعلاً. فالسياسة المكتوبة لكل الأدوات دفعة واحدة تعطّل العمل المشروع وتُلغى، أما قائمة قصيرة بالأدوات المعتمدة مع مسار سريع لطلب غيرها فهي التي تُتّبع.

والبرامج التي تعامل الأمر على أنه جزء من أمن بيانات الذكاء الاصطناعي تتقدم عادةً أسرع من تلك التي تبدأ بالمنع، لأنها تمنح الناس خياراً آمناً قبل أن يلجؤوا إلى الخيار غير الآمن.

للمزيد من القراءة: الأمن السيبراني والذكاء الاصطناعي.