"ميتا" تشدد القيود على روبوتات الدردشة لحماية المراهقين من محادثات الانتحار

أعلنت شركة "ميتا" للتكنولوجيا، الأربعاء 3 أيلول/سبتمبر 2025، أنها ستضيف المزيد من الحواجز الأمنية إلى روبوتات الدردشة التابعة لها، تشمل منعها من التحدث مع المراهقين حول مواضيع حساسة مثل الانتحار، وإيذاء النفس، واضطرابات الطعام.

وجاء القرار بعد أسبوعين من فتح سيناتور أمريكي تحقيقا مع الشركة، عقب تسريب وثيقة داخلية تضمنت ملاحظات تشير إلى احتمال انخراط منتجات الذكاء الاصطناعي الخاصة بها في محادثات "حسية" مع المراهقين.

وقد نقلت وكالة "رويترز" هذه الملاحظات، فيما وصفتها ميتا بأنها غير صحيحة ومخالفة لسياساتها التي تحظر أي محتوى يتضمن تحرشا جنسيا بالأطفال.

وأكدت الشركة أنها ستعمل على أن توجه روبوتات الدردشة المراهقين إلى خبراء مختصين بدلا من الدخول معهم في نقاشات حول الانتحار أو إيذاء النفس. وقال متحدث باسم "ميتا": إن الشركة وضعت بالفعل حماية خاصة بالمراهقين في منتجات الذكاء الاصطناعي منذ البداية، بما في ذلك الاستجابة الآمنة للأفكار المتعلقة بإيذاء النفس والانتحار واضطرابات الأكل.

وذكرت ميتا لموقع "تك كرانش" الإخباري التقني، الجمعة، أنها ستضيف "إجراءات احترازية إضافية" تشمل مزيدا من الحواجز الأمنية، وستفرض بشكل مؤقت قيودا على تفاعل المراهقين مع روبوتات الدردشة.

وفي المقابل، اعتبر آندي بوروز، رئيس مؤسسة "مولي روز" البريطانية، أنه من "المثير للصدمة" أن تتيح الشركة روبوتات دردشة قد تعرض الشباب لخطر الأذى.

ودعا بوروز إلى اعتماد اختبارات سلامة صارمة قبل طرح المنتجات في الأسواق، وليس بعد وقوع الضرر، مشددا على ضرورة تحرك ميتا بسرعة لتطبيق تدابير حماية أكثر صرامة. كما طالب هيئة تنظيم الاتصالات البريطانية "أوفكوم" بالاستعداد للتحقيق إذا فشلت هذه التحديثات في ضمان سلامة الأطفال.

وأكدت "ميتا" أن تحديثات أنظمة الذكاء الاصطناعي قيد التنفيذ، مشيرة إلى أنها وضعت بالفعل المستخدمين بين 13 و18 عاما في حسابات "مراهقين" على منصات فيسبوك وإنستغرام وماسنجر، مع تفعيل إعدادات خصوصية ومحتوى تمنحهم تجربة أكثر أمانا.

وصرحت الشركة لهيئة الإذاعة البريطانية "بي بي سي" في نيسان/أبريل الماضي أن هذه التغييرات ستتيح أيضا للآباء والأوصياء معرفة روبوتات الدردشة التي تحدث إليها أبناؤهم المراهقون خلال الأيام السبعة السابقة.