إندونيسيا تحجب “غروك” بسبب المحتوى الجنسي المفبرك بالذكاء الاصطناعي

حجبت السلطات الإندونيسية، السبت، بشكل مؤقت روبوت الدردشة المدعوم بالذكاء الاصطناعي “غروك”، التابع للملياردير الأمريكي إيلون ماسك، على خلفية مخاوف متزايدة من قدرته على إنتاج محتوى إباحي، بما في ذلك صور ذات طابع جنسي مفبرك، في خطوة تعد الأولى من نوعها على مستوى الدول.

وجاء القرار الإندونيسي في أعقاب موجة تنديد واسعة من حكومات وهيئات تنظيمية في أوروبا وآسيا بالمحتوى الجنسي المنتشر عبر التطبيق، فيما شرعت بعض الدول بالفعل في فتح تحقيقات رسمية بشأنه.

وقالت وزيرة الاتصالات الإندونيسية، ميوتيا حفيظ، في بيان رسمي، إن الحكومة تعتبر أن “ممارسة التزييف العميق الجنسي دون موافقة تمثل انتهاكا خطيرا لحقوق الإنسان وكرامة وأمن المواطنين في الفضاء الرقمي”، مؤكدة أن حماية المستخدمين، ولا سيما الفئات الضعيفة، تمثل أولوية قصوى للسلطات.

وأضافت الوزيرة أن وزارتها استدعت مسؤولين من منصة “إكس”، المملوكة لماسك، لإجراء مناقشات عاجلة حول آليات منع إساءة استخدام أدوات الذكاء الاصطناعي، وضمان الامتثال للقوانين المحلية والمعايير الأخلاقية.

وكانت شركة xAI، الناشئة التي طورت “غروك”، قد أعلنت الخميس الماضي أنها قررت قصر توليد الصور وتعديلها على المشتركين الذين يدفعون رسوما، في محاولة لسد الثغرات التقنية التي سمحت بإنتاج محتوى جنسي، شمل صورا لقاصرين بملابس فاضحة.

وفي تعليق له عبر منصة إكس، قال إيلون ماسك إن “أي شخص يستخدم جروك لإنتاج محتوى غير قانوني سيواجه نفس العواقب التي تترتب على نشر محتوى غير قانوني”، في إشارة إلى سياسة المنصة بشأن المخالفات.

في المقابل، ردت شركة "xAI" على استفسار أرسلته وكالة “رويترز” عبر البريد الإلكتروني بعبارة مقتضبة جاء فيها أن “وسائل الإعلام التقليدية تكذب”، في ما بدا أنه رد آلي، بينما لم تصدر منصة إكس حتى الآن أي تعليق رسمي على طلبات التوضيح.

وفي سياق متصل، حثت الحكومة البريطانية، الثلاثاء الماضي، منصة إكس على التحرك السريع لوقف انتشار صور مفبركة ذات طابع جنسي على الشبكة، لتنضم بذلك إلى عدد من الدول الأوروبية التي أعربت عن اعتراضها على تزايد هذا النوع من المحتوى، خاصة عندما ينشر دون موافقة أصحاب الصور.

وجاءت المطالبات البريطانية عقب تقارير إعلامية، من بينها تقارير لوكالة “رويترز”، أفادت بأن “غروك” أطلق، عند الطلب، عددا كبيرا من الصور لنساء وفتيات قاصرات بملابس شديدة العري.

وقالت وزيرة التكنولوجيا البريطانية، ليز كيندال، في بيان إن المحتوى المتداول “مروع للغاية”، داعية منصة إكس إلى التحرك الفوري لاحتوائه. وأضافت: “لا ينبغي لأي شخص أن يمر بمحنة رؤية صور (ديب فيك) ذات طابع جنسي لنفسه على الإنترنت”.

وتابعت كيندال: “لن نسمح بنشر هذه الصور المهينة والمذلة، التي تستهدف النساء والفتيات على نحو غير متناسب”، مؤكدة أن على منصة إكس التعامل مع هذه القضية “على وجه السرعة”.

وتسلط هذه التطورات الضوء على تصاعد القلق الدولي من الاستخدامات غير المنضبطة لتقنيات الذكاء الاصطناعي، في ظل مطالب متزايدة بفرض أطر قانونية صارمة تحد من إساءة توظيفها، وتحمي الحقوق الرقمية والإنسانية في الفضاء الإلكتروني.