خلل في ميتا أتاح لنموذج ذكاء اصطناعي اختراق نظام تابع لجهة أخرى

كشفت شركة ميتا، المالكة لمنصة فيسبوك، أن خللا وقع خلال تقييم أجرته شركة اختبار مستقلة، أتاح لأحد نماذجها للذكاء الاصطناعي الاتصال بالإنترنت واختراق نظام تابع لمؤسسة أخرى.

وبحسب ما أوردته "بي بي سي" في تقريرها، يأتي هذا الإعلان في أعقاب سلسلة من الحوادث المشابهة التي شهدها قطاع الذكاء الاصطناعي خلال الفترة الأخيرة، من بينها اختراقات نفذتها نماذج تابعة لشركتي "أوبن إيه آي" و"أنثروبيك"، وهو ما أثار مخاوف متزايدة بشأن الأمن السيبراني.

وقال متحدث باسم ميتا لهيئة الإذاعة البريطانية "بي بي سي" إن الشركة تحقق في عملية الاختراق التي نتجت عن "سوء تهيئة"، مشيرا إلى أن الحادثة تشبه وقائع سبق الإبلاغ عنها في شركات أخرى.

وأثارت هذه الحوادث دعوات من باحثين وحكومات إلى تشديد الضمانات الأمنية واعتماد إجراءات اختبار أكثر دقة.

وأوضحت ميتا أن الاختبارات الأمنية أجرتها شركة "Irregular"، وهي الشركة المتخصصة في أمن الذكاء الاصطناعي نفسها التي نفذت اختبارات على نموذج تابع لشركة "أنثروبيك"، تمكن خلالها النموذج من الوصول إلى أنظمة ثلاث شركات أخرى.

وقال متحدث باسم شركة "Irregular" إن حادثة ميتا "هي بالضبط نفس المشكلة المتعلقة ببيئة التقييم التي تم الكشف عنها بالفعل من قبل أنثروبيك الأسبوع الماضي".

وأضاف المتحدث، في تصريح لهيئة الإذاعة البريطانية، أن شركة Irregular تعمل على إعداد تقرير يوضح كيفية إجراء اختبارات الأمن السيبراني التي تتضمن وكلاء ذكاء اصطناعي بطريقة آمنة.


من جهتها، أكدت ميتا أنها ستنشر مزيدا من المعلومات حول الحادثة "بمجرد أن تتوفر لدينا جميع الحقائق".

وخلال الأسبوعين الماضيين، أعلنت أيضًا شركتا "أوبن إيه آي" و"أنثروبيك"، وهما من أبرز الشركات العاملة في مجال الذكاء الاصطناعي، عن حوادث تمكنت خلالها نماذجهما من اختراق أنظمة مؤسسات أخرى أثناء الاختبارات.

وقالت شركة "أوبن إيه آي"، المطورة لـ"شات جي بي تي"، في سلسلة من الإعلانات إن وكلاءها هاجموا عدة خدمات متاحة للعامة، من بينها منصة أدوات الذكاء الاصطناعي "Hugging Face".

ودفع إعلان "أوبن إيه آي" منافستها "أنثروبيك" إلى إجراء اختبارات خاصة بها، كشفت أن نموذج "كلاود" التابع لها نفذ هجمات مماثلة على عدة شركات، بعدما سمح له "سوء تهيئة" بالوصول إلى الإنترنت.

وفي تعليقه على هذه التطورات، قال دانيال هولم، كبير مسؤولي الذكاء الاصطناعي العالمي في شركة الإعلانات "WPP"، لهيئة الإذاعة البريطانية، إن هذه النماذج "ليست واعية فهي لا تقوم عمدا بشيء خبيث".

وأضاف، خلال برنامج "Today": "ما تفعله هو ابتكار استراتيجيات أو هجمات إلكترونية متطورة للغاية حتى تتمكن من تحقيق الهدف الذي أُعطي لها".

وتابع: "عندما تمنح الذكاء الاصطناعي هدفا، فإذا لم تفكر في جميع الطرق التي قد يتمكن من خلالها من تحقيق هذا الهدف، فإنه سيجد طريقة لتحقيقه لم تكن قد فكرت بها".


وفي سياق متصل، تستعد شركتا "أوبن إيه آي" و"أنثروبيك" لطرحين ضخمين في سوق الأسهم، ومن المتوقع أن تبلغ القيمة السوقية لكل منهما نحو تريليون دولار (740 مليار جنيه إسترليني).

وفي هذا الأسبوع، أعلن معهد أمن الذكاء الاصطناعي في المملكة المتحدة (AISI) أن اختباراته أظهرت محاولة بعض النماذج تنفيذ هجمات إلكترونية عبر إنشاء ملفات تعريف بشرية مزيفة لخداع المستخدمين.

وأشار المعهد إلى أنه في أخطر الحالات، حاول نموذج "ميثوس أيه آي" التابع لشركة "أنثروبيك"الوصول إلى إحدى الخدمات من خلال إرسال رسائل خاصة باستخدام حسابات مزيفة تنتحل شخصيات حقيقية.

ورداً على ذلك، قالت "أنثروبيك" إن اختبارات AISI "لا تمثل أياً من نماذجنا المستخدمة في الإنتاج".

أما "أوبن إيه آي"، التي خضعت نماذجها أيضا لتقييمات المعهد، فأكدت أن اختبارات AISI لا تعكس الاستخدام الاعتيادي لنماذجها.