الأمن السيبراني والذكاء الاصطناعي

في هذا المقال، سنناقش العلاقة بين الأمن السيبراني والذكاء الاصطناعي، والمخاطر التي تشكلها تقنيات الذكاء الاصطناعي على المؤسسات، وما يجب مراعاته عند تطبيق أدوات الذكاء الاصطناعي في أنظمة حماية البيانات لديك.

تعريفات ومفاهيم سنتناولها في هذا المقال.

الأمن السيبراني هو حالة نظام المعلومات التي تضمن سلامة وسرية وتوافر أصوله المعلوماتية الرقمية: المستندات والملفات والأنظمة والخدمات، والبيانات الشخصية للشركاء والموظفين والعملاء، وموارد الإنترنت، وغيرها.

الذكاء الاصطناعي (يُشار إليه فيما يلي بـ AI) هو مجموعة الحلول التقنية التي تمكّن الآلات من أداء مهام تتطلب عادة ذكاءً بشرياً، وعلى وجه الخصوص التعلّم والاستدلال وإيجاد الحلول المثلى للمشكلات.

الشبكات العصبية — نموذج رياضي يُجسَّد برمجياً أو تقنياً. يحاكي مبدأ عمل الروابط العصبية البشرية. والمفهوم ليس مطابقاً للذكاء الاصطناعي بل جزء منه. والقدرة على التعلّم هي أهم ميزة للشبكات العصبية.

أبرز تهديدات الأمن السيبراني المرتبطة باستخدام تقنيات الذكاء الاصطناعي

غيّر التطور المتسارع غير المسبوق لتقنيات الذكاء الاصطناعي جوانب عديدة من حياة الإنسان المعاصرة، إذ جلب معه الراحة وفتح آفاقاً شبه لا محدودة للعمل والتعلّم والإبداع.

غير أنه مع تزايد تطور تقنية الذكاء الاصطناعي وسهولة وصول الجماهير إليها، أصبح مشهد التهديدات السيبرانية أكثر تعقيداً، سواء بالنسبة للمستخدمين الأفراد أو المؤسسات بأكملها. نستعرض فيما يلي أبرز التهديدات السيبرانية المرتبطة بالذكاء الاصطناعي التي تواجه المؤسسات.

البرمجيات الخبيثة القائمة على الذكاء الاصطناعي

تُستخدم تقنيات الذكاء الاصطناعي اليوم لتطوير برمجيات خبيثة متطورة قادرة على تعلّم آلية عمل نظام معلومات المؤسسة والتحايل بذكاء على تدابير الحماية التقليدية. كما يمكن لمجرمي الإنترنت استخدام الذكاء الاصطناعي لأتمتة عملية إيجاد ثغرات أمن المعلومات وتحديدها واستهداف الهجمات.

الاتجاه المقلق هو قدرة الذكاء الاصطناعي على توليد عدد هائل من متغيرات البرمجيات الخبيثة وإرهاق أنظمة الأمن — ومختصي أمن المعلومات بشكل خاص. وفي الوقت نفسه، لا يتطلب الذكاء الاصطناعي كأداة خبرة تقنية عميقة، ما يخفض بشكل كبير عتبة الدخول أمام مجرمي الإنترنت — وهذا بدوره سيسهم في زيادة التهديدات.

تتميز البرمجيات الخبيثة المُنشأة بالذكاء الاصطناعي بعدد من الخصائص.

1. القدرة على محاكاة عائلات البرمجيات الخبيثة المعروفة — وبدقة عالية جداً. وقد يضلل هذا التقليد أجهزة الأمن، ما يصعّب تحديد التهديد.
2. التعدد الشكلي (Polymorphism). يمكن للبرمجيات الخبيثة القائمة على الذكاء الاصطناعي تغيير شيفرتها تلقائياً مع كل تكرار أو إصابة. وتجعل هذه "الطفرات" المستمرة من الصعب على أساليب الكشف التقليدية المعتمدة على التوقيعات التعرف على البرمجية الخبيثة وحظرها.
3. التكيّف في الوقت الفعلي. تستطيع البرمجيات الخبيثة القائمة على الذكاء الاصطناعي تكييف سلوكها مع البيئة في الوقت الفعلي.

من الأمور المهمة الأخرى التي ينبغي مراعاتها عند تنظيم أمن المعلومات حداثة هجمات الذكاء الاصطناعي نسبياً. ووفقاً لاستطلاعات حديثة، لا تزال معظم المؤسسات تفتقر إلى خطط استجابة لحوادث الأمن السيبراني التي تتضمن أنظمة ذكاء اصطناعي.

التزييف العميق (Deepfakes)

كما تُظهر الممارسة، حتى أكثر أنظمة أمن المعلومات استقراراً وموثوقية ستكون غير فعالة إذا لم يكن موظفو المؤسسة على دراية بقواعد السلوك الآمن على الإنترنت.

مع تطور تقنية الذكاء الاصطناعي، ينتشر التزييف العميق، وتتزايد أعداده يومياً.

باستخدام هذه التقنية، يمكن لمجرمي الإنترنت إنشاء مقاطع فيديو أو صور أو تسجيلات صوتية مقنعة لأشخاص رئيسيين.

وفقاً لمنظمة Human Constanta، ارتفع عدد مقاطع فيديو التزييف العميق المسجَّلة بنسبة 550% بين عامي 2019 و2023. غير أنه من المهم إدراك أن نطاق الهجمات التي تستخدم مقاطع فيديو مزيفة قد يكون أوسع بكثير من هذا الرقم، إذ لا يُسجَّل كل هجوم فعلياً.

ما الذي يجب معرفته؟ يمكن أن تشكل تقنية التزييف العميق تهديداً للمستخدمين الأفراد وللمؤسسات، بل وحتى للأمن القومي لدول بأكملها، لا سيما في ظل المناخ الجيوسياسي الراهن.

قد تتنوع أهداف هجمات التزييف العميق: نشر المعلومات المضللة، والابتزاز، والتحريض على الكراهية العرقية، وإثارة الذعر بين الجمهور، وإنشاء صور ومقاطع فيديو مسيئة، وسرقة البيانات السرية، وانتحال شخصية مسؤول رفيع المستوى لتحقيق مكاسب مالية، وغير ذلك. ويمكن للمهاجمين أيضاً استخدام هجمات التزييف العميق كوسيلة لنشر المعلومات المضللة، والابتزاز، والتحريض على الكراهية العرقية، وإثارة الذعر بين الجمهور، وإنشاء صور ومقاطع فيديو مسيئة، وسرقة البيانات السرية، وانتحال شخصية مسؤول رفيع المستوى لتحقيق مكاسب مالية، وغير ذلك.

يُعد كشف التزييف العميق اليوم مهمة صعبة. إذ تستمر خوارزميات الذكاء الاصطناعي في تحسين قدرتها على توليد محتوى واقعي للغاية، ما يبرز حاجة المؤسسات إلى تدريب الموظفين على كيفية التعرف على التزييف العميق، وكذلك تطبيق أدوات برمجية لمكافحة المحتوى المزيف.

الهندسة الاجتماعية

تُستخدم أساليب الهندسة الاجتماعية منذ زمن طويل من قبل المجرمين، ومع الانتشار الواسع لتقنية الذكاء الاصطناعي، بلغ الاحتيال الإلكتروني مستويات جديدة غير مسبوقة.

يمكن لخوارزميات الذكاء الاصطناعي جمع ومعالجة كميات هائلة من بيانات المستخدمين من الشبكات الاجتماعية والمواقع الإخبارية والمواقع الشخصية، واستخدام هذه المعلومات لإنشاء هجمات تصيّد موجهة، أي تستهدف شخصاً محدداً.

يمكن أن يكون معدل نجاح الهجمات مرتفعاً جداً لأن الذكاء الاصطناعي يستطيع أتمتة عملية إنشاء رسائل مقنعة مدعومة بمعلومات شخصية عن المستخدمين. وفي الوقت نفسه، يمكن لروبوتات الدردشة أو المساعدين الصوتيين المعتمدين على الذكاء الاصطناعي انتحال شخصية أفراد أو مؤسسات موثوقة، ما يصعّب على الضحايا التعرف على النشاط الاحتيالي.

من المهم إدراك أن التقنيات الجديدة تسبق التشريعات. فالعديد من المفاهيم التي ناقشناها أعلاه لا وجود لها بعد من الناحية التنظيمية، ما قد يجعل فرض المسؤولية عن الجرائم التي تستخدمها أمراً إشكالياً.

في ظل هذه الظروف، بات من الأسهل والأجدى مالياً اليوم نشر نظام أمن معلومات مستقر وموثوق بدلاً من مواجهة الاختراق، والبحث عن الجاني، وإثبات الذنب أمام القضاء، واسترداد التعويض.

قدرات الذكاء الاصطناعي في خدمة الأمن السيبراني

يمكن للذكاء الاصطناعي والشبكات العصبية على وجه الخصوص أن يشكلا تهديداً لأمن المعلومات وأن يكونا في الوقت نفسه أداة دفاع فعالة.

فيما يتعلق بالأمن السيبراني، يتمتع الذكاء الاصطناعي بميزة رئيسية على مختص أمن المعلومات — القدرة على معالجة كميات هائلة من البيانات بسرعة، وكشف انتهاكات سياسات الأمن، وتحديد الأنماط المعقدة التي قد تشير إلى حادثة محتملة، والاستجابة فوراً. وتُعد سرعة الاستجابة لحوادث أمن المعلومات أمراً بالغ الأهمية.

من المهم إدراك أن الذكاء الاصطناعي لا يستطيع اليوم أن يحل محل مختص أمن المعلومات بشكل كامل. وفي الوقت نفسه، يتيح استخدام تقنيات الذكاء الاصطناعي والتعلم الآلي لمختص أمن المعلومات التصرف بشكل استباقي، والقضاء على التهديدات الأمنية قبل تحققها.

تطبيقات الذكاء الاصطناعي في الأمن السيبراني

يُستخدم الذكاء الاصطناعي اليوم لحل مجموعة المهام التالية:

• تحليل سلوك المستخدم، وكشف النشاط المريب؛
• كشف النشاط الخبيث والحالات الشاذة المختلفة في عمل نظام المعلومات؛
• التحكم بوصول المستخدمين والمصادقة؛
• الاستجابة التلقائية لحوادث أمن المعلومات؛ 
• تحديد تهديدات أمن المعلومات ومنعها؛
• كشف تسرب البيانات السرية ومنعه؛
• مراقبة نظام المعلومات بحثاً عن تهديدات أمن المعلومات.

يمكن لنماذج الذكاء الاصطناعي التوليدية المتقدمة حل مشكلات أكثر تعقيداً:

• تحليل الشيفرة البرمجية بحثاً عن الثغرات؛
• جمع وتحليل البيانات المتعلقة بتهديدات أمن المعلومات الراهنة؛
• حظر الروبوتات المصممة لمهاجمة الموارد والتطبيقات الشبكية، وسرقة المعلومات الحساسة، وغير ذلك؛
• البحث عن العلاقات وتحديدها، مثل التعرف على رسائل التصيّد المُولَّدة بالذكاء الاصطناعي.

قائمة العمليات التي يمكن أتمتتها باستخدام الذكاء الاصطناعي واسعة جداً. غير أنه عند إدخال أدوات الذكاء الاصطناعي إلى نظام أمن المعلومات، من المهم للغاية مراعاة ثغراتها وقيودها المحتملة.

قيود وتحديات استخدام الذكاء الاصطناعي في الأمن السيبراني

قد تحتوي أدوات الذكاء الاصطناعي على ثغراتها الخاصة

عادة، تتألف دورة حياة أدوات الذكاء الاصطناعي من 4 مراحل: التصميم، والتطوير، والنشر، والصيانة. وفي كل مرحلة من هذه المراحل، يمكن أن تُزرع فيها ثغرات حرجة يمكن أن تستغلها لاحقاً مجموعات مجرمي الإنترنت لتجاوز آليات الحماية وإدخال برمجيات خبيثة إلى نظام معلومات المؤسسة.

فعلى سبيل المثال، آليات المصادقة والتفويض الضعيفة أو المطبقة بشكل غير صحيح منذ مرحلتي التصميم والتطوير يمكن أن تؤدي إلى تسرب المعلومات وإجراء تغييرات غير مصرح بها داخل النظام.

خلال مرحلة التطوير، يمكن للمهاجمين استغلال أخطاء البرمجة لتنفيذ شيفرة عشوائية، أو التلاعب بنماذج الذكاء الاصطناعي، أو الحصول على وصول غير مصرح به إلى موارد النظام.

كذلك، يمكن تغيير سلوك نموذج الذكاء الاصطناعي عمداً أو عن غير قصد، ما يؤدي إلى تنفيذ مهام غير مصرح بها أو توليد استجابات غير صحيحة. والعواقب المحتملة متعددة: وصول غير مصرح به، وتسرب معلومات، وتقويض سلامة البيانات الناتجة.

من المهم أيضاً مراعاة احتمال وجود سلسلة توريد غير آمنة. ويعني هذا أن المكونات المشتراة من مزودين خارجيين لتطوير أداة ذكاء اصطناعي قد تحتوي هي الأخرى على ثغرات. ويمكن للمهاجمين استغلالها لحقن أبواب خلفية أو برمجيات خبيثة أو شيفرات ضارة أخرى في النظام.

عند إدخال أدوات الذكاء الاصطناعي إلى نظام الأمن السيبراني، من المهم مراعاة أن قائمة الثغرات المحتملة واسعة، كما يتضح من عدد الحوادث المرصودة.

فعلى سبيل المثال، تبيّن في يناير 2025 أن مطوري روبوت الدردشة الصيني القائم على الذكاء الاصطناعي DeepSeek تركوا إحدى قواعد بياناتهم الحرجة دون حماية. وأدى ذلك إلى تسرب أكثر من مليون سجل. وأصبح سجل مراسلات المستخدمين مع الشبكة العصبية، والمفاتيح السرية، وأجزاء من واجهة برمجة التطبيقات، وبيانات الخلفية، ومعلومات حساسة أخرى متاحة للعموم.

وقبل ذلك بشهر، اكتشف خبراء ثغرة في ChatGPT — إذ يمكن خداع أداة البحث الخاصة بـ OpenAI، كما يمكنها توليد شيفرة خبيثة إذا عثرت على تعليمات مقابلة على أحد المواقع.

وفي يونيو 2024، حدد باحثون ثغرة خطيرة في منصة الذكاء الاصطناعي مفتوحة المصدر Ollama. وتشكل الثغرة، المعروفة بالمعرّف CVE-2024-37032 واسم Probllama، تهديداً إذ يمكن استغلالها لتنفيذ شيفرة عن بُعد.

قضايا خصوصية وأمن البيانات

استناداً إلى ما سبق، يمكن أن توجَّه هجمات المهاجمين ليس فقط إلى نظام المعلومات، بل أيضاً إلى أدوات الذكاء الاصطناعي نفسها. وتتضمن عملية تدريب نماذج الذكاء الاصطناعي جمع وتخزين ومعالجة كميات كبيرة من البيانات بدرجات حساسية متفاوتة، بما في ذلك معلومات عن أصول تقنية المعلومات، وعمليات الأعمال، وبنية نظام المعلومات، وبيانات تفويض المستخدمين، وغير ذلك.

كل هذا يزيد من مخاطر التسرب وفقدان الخصوصية وإساءة استخدام البيانات.

صعوبة تطبيق أدوات الذكاء الاصطناعي وتخصيصها

يتطلب تطبيق نظام حماية البيانات القائم على تقنيات الذكاء الاصطناعي وتخصيصه مهارات نادرة تجمع بين الأمن السيبراني والبرمجة. إضافة إلى ذلك، يتطلب تطبيق نماذج الذكاء الاصطناعي منحنى تعلّم طويلاً، مع مراعاة الحاجة إلى التكيف مع عمليات الأعمال الفريدة لكل مجال عمل.

وكمثال على الصعوبات التي قد تُواجَه عند تطبيق أدوات الذكاء الاصطناعي، يمكن ضبط قواعد الأمن لحزم برمجية مصممة لمراقبة الأحداث الأمنية تلقائياً وتحليلها بحثاً عن الخروقات والنشاط المريب. ويشير ارتفاع عدد الحوادث المكتشفة إلى أن سياسات مكافحة الفيروسات غير مضبوطة بشكل جيد بما فيه الكفاية. ويشير العدد الكبير من الإنذارات الكاذبة إلى أن القواعد التي تكشف النشاط المريب لا تعمل بشكل صحيح. وكلا الأمرين سيئ.

تُبرز العوامل الموصوفة أعلاه الحاجة إلى قوى عاملة عالية المهارة — ومن هنا يأتي التحدي التالي.

نقص حاد في مختصي أمن المعلومات عالي المهارة في سوق العمل

نشهد اليوم زيادة كبيرة في عدد الوظائف الشاغرة في مجال الأمن السيبراني مقابل العدد الفعلي من المختصين المؤهلين. ووفقاً لموقع explodingtopics.com، تفتقر 57% من الشركات إلى مهارات الأمن السيبراني. وفي الولايات المتحدة وحدها، هناك نقص قدره 377,000 مختص في الأمن السيبراني.

نشأت هذه الفجوة لأسباب عديدة، منها التطور المتسارع غير المسبوق للتقنية، والتحول الرقمي السريع للاقتصاد والصناعات، والانتقال الجماعي للمختصين إلى نمط العمل عن بُعد. ففي غضون سنوات قليلة، جهزت الشركات مواقع عمل الموظفين بأجهزة الحاسوب المحمولة، والأجهزة اللوحية، والهواتف الذكية؛ وتم ربط تطبيقات سحابية وأمور أخرى كثيرة — وكل هذا يمكن أن يصبح نقطة دخول إلى نظام معلومات المؤسسة وبالتالي يحتاج إلى حماية.

كما تحرز الجريمة الإلكترونية تقدماً سريعاً. فقد ازدادت الهجمات السيبرانية تعقيداً، وارتفع عددها وحدتها، واتسع نطاق تهديدات أمن المعلومات بشكل كبير أيضاً. وكما ذُكر أعلاه، تُشن الهجمات على أنظمة المعلومات باستخدام تقنيات الذكاء الاصطناعي، ولا تزال التدابير الأمنية المطبقة في كثير من الشركات غير قوية بما يكفي لمواجهة أنشطة مجموعات مجرمي الإنترنت.

إن نقص مختصي الأمن السيبراني عالي المهارة، لا سيما في مجال ضيق كتطبيق تقنيات الذكاء الاصطناعي ومواجهتها، له عواقب بعيدة المدى.

وبذلك، ستتأثر الشركات الصغيرة بشكل كبير. إذ لا تستطيع المؤسسات الصغيرة تخصيص ميزانيات كبيرة لبناء نظام حماية مستدام.

كيف يستفيد نظام Anexet Ultimate DLP من الشبكات العصبية لحماية بيانات المؤسسات؟

يستخدم نظام Anexet Ultimate DLP أيضاً الشبكات العصبية لحماية بيانات الشركة.

التعرف على النصوص في الصور. يتيح النظام تحليل النصوص في المستندات ذات الصيغ الرسومية. وعند اكتشاف هذه البيانات، يقوم النظام بالتعرف على الصورة وتحليل النص وتطبيق سياسات الأمن على البيانات المتعرَّف عليها. وبحسب أداة التعرف على الصور المختارة، يستطيع النظام التعرف على المستندات بامتدادات .PDF وDJVU. وJPEG. وPNG. وGIF. وBMP. وTIF.

التعرف على الأختام. يحلل النظام تلقائياً المستندات المتداولة داخل الشبكة المعلوماتية ويتحقق من وجود أختام عليها. وفي حال اكتشاف مستند يحمل ختماً، يقارنه Anexet Ultimate بالعينة المرجعية. وفي حال تطابقه، سيُفعّل النظام وفقاً لسياسات الأمن المهيأة.

التعرف على الصوت. يتيح نظام Anexet Ultimate تحليل المكالمات الصوتية. فعند اعتراض المكالمات، يقوم النظام بالتعرف عليها وتحليل مكونها النصي وتطبيق سياسات الأمن المحددة في وحدة تحكم المستخدم على البيانات المعترَضة.

التعرف على الوجوه في صور كاميرا الويب. يكتشف النظام تلقائياً وجود شخص في صور كاميرا الويب ويقارنها بالصور المسجلة في حسابك. وفي حال اكتشاف شخص غريب أو موظف آخر أمام الشاشة، سيرسل Anexet Ultimate تلقائياً إشعاراً إلى ضابط الأمن، وإذا كان معداً مسبقاً، سيحظر جلسة المستخدم، بغض النظر عما إذا كان الحاسوب متصلاً بالشبكة أم لا.

في الختام

كما يتضح، يستطيع الذكاء الاصطناعي حل مجموعة واسعة من تحديات الأمن السيبراني، وستزداد هذه القائمة اتساعاً في المستقبل.

وفي الوقت نفسه، عند تنظيم نظام أمن المعلومات، من المهم مراعاة النمو المتسارع لقدرات الذكاء الاصطناعي والتعلم الآلي، وما يرافقه من تزايد في عدد التهديدات.