ثغرة تسمح بتوليد صور ذات طابع جنسي وعنيف عبر "تشات جي بي تي"

كشف خبراء عن إمكانية تطويع النسخة العامة الأحدث من برنامج "تشات جي بي تي" لإنتاج صور جنسية ومقاطع عنف مفرطة الصراحة، عبر أوامر نصية وتوجيه بسيط.

ونجحت شركة الأمن السيبراني "مايندغارد" البريطانية الناشئة في دفع "تشات جي بي تي" لإنتاج صور بتعديل طفيف على أمر شائع ومتداول على نطاق واسع مخصص أصلاً للنتائج الفكاهية، وفقاً لـ "بي بي سي".

على إثر ذلك، سارعت "أوبن إيه آي"، المنتجة لبرنامج "تشات جي بي تي"، للإعلان عن اتخاذها تدابير لمنع روبوت الدردشة من الاستجابة لمثل هذه الطلبات المتعلقة بصياغة الصور، وقالت: "قمنا بإدخال إجراءات حماية إضافية للتصدي لهذا النوع من التعليمات".

اظهار أخبار متعلقة

وذكر بيتر غاراغان، مؤسس مايندغارد والأستاذ بجامعة لانكستر، أن البرنامج يولد تلقائيًّا صوراً وصفها بـ"المروعة للغاية، وأحياناً جنسية"، دون تحديد موضوعها، معبراً عن قلقه من إنتاجها بإرادته الخاصة عبر تعليمات تبدو بريئة تماماً.

بدوره، أبدى جيم نايتنجيل، الباحث بالشركة، صدمته من المحتوى الذي عاينته "بي بي سي"، حيث أظهرت إحدى الصور رجلاً مصاباً بجرح عميق برأسه، وأخرى لامرأة شابة ميتة ملطخة بالدماء، عنونها "تشات جي بي تي" بـ"آثار جريمة مروعة".

وتوحي الصور بوجود عنف جنسي، وصورة لامرأة مقيدة ومكممة في غرفة قذرة تحت عنوان "مهجورة في خوف وتقييد"، بجانب لقطات عري وأوضاع جنسية، ولم تفصح "بي بي سي" عن النص المستخدم، لكنها عاينت كيفية الحث على صياغة مواد رسومية.

اللافت أن "مايندغارد" كشفت وجود إمكانية استبدال الوجوه لإنتاج صور عارية مزيفة لأشخاص حقيقيين، ورغم تأكيد "أوبن إيه آي" إغلاق الثغرة، إلا أن الباحثين استعرضوا صورة جديدة صيغت بأسلوب بديل.

وأعرب بيتر غاراغان عن مخاوفه من ظهور نتائج أسوأ مع استمرار البحث، فيما ترى جيم نايتنجيل أن مخرجات "تشات جي بي تي" تعكس بيانات تدريبه المستمدة من ملايين الصور بالإنترنت، كاشفة عن ارتباط الصور الاصطناعية بالواقع.

اظهار أخبار متعلقة

في أيار/مايو الماضي، راسل الباحثون شركة "أوبن إيه آي" محذرين إياها من تداعيات المشكلة، لكنهم تلقوا ردًّا آليًّا، ورأوا أن محاولة حجب الأمر تم تجاوزها بسهولة قبل أن تتحرك الشركة فعليًّا بعد تدخل "بي بي سي".

وأعلنت "أوبن إيه آي" دمج الأنظمة الآلية والمراجعة البشرية لحظر المواد الضارة، مؤكدة أن سياساتها تحظر العنف الجنسي، والمحتوى الحميم غير الرضائي، ومواد الاعتداء على الأطفال.

ومطلع العام الحالي، أقرّت "غروك" -أداة المساعدة بالذكاء الاصطناعي المدمجة بمنصة "إكس"- بوجود "ثغرات" سمحت للمستخدمين بالحصول على صور جنسية فاضحة تُظهر قُصَّراً أو نساء، في تجاوزات أثارت انتقادات عالمية ودفعت إلى توسيع نطاق تحقيق قضائي في فرنسا.