هل يهدد الذكاء الاصطناعي سلامة الصحة النفسية؟.. تقرير بريطاني يثير القلق

كشفت صحيفة “الغارديان” في تقرير أعده الصحفي أندرو غريغوري، عن إطلاق مؤسسة “مايند” الخيرية تحقيقا موسعا حول العلاقة بين الذكاء الاصطناعي والصحة النفسية، وذلك عقب تحقيق للصحيفة أظهر أن خدمة "AI Overviews" التابعة لشركة غوغل قدمت نصائح طبية وصفت بأنها “خطيرة للغاية”.

وبحسب التقرير، فإن اللجنة الجديدة، التي ستعمل على مدار عام، ستدرس المخاطر المرتبطة بتزايد استخدام الذكاء الاصطناعي في مجالات الصحة النفسية، إلى جانب الضمانات التنظيمية والمعايير المطلوبة لحماية ملايين الأشخاص المتأثرين بمشكلات نفسية في إنجلترا وويلز، حيث تنشط المؤسسة.

وتقول “مايند” إن التحقيق يعد الأول من نوعه عالميا، وسيجمع نخبة من الأطباء والمتخصصين في الصحة النفسية، وأشخاصا لديهم خبرة مباشرة، ومقدمي خدمات صحية، وصناع سياسات، إضافة إلى ممثلين عن شركات التكنولوجيا. وتهدف اللجنة إلى “بناء بيئة رقمية أكثر أمانا للصحة النفسية” عبر تطوير أطر تنظيمية وضمانات قوية تواكب المخاطر.

تحقيق “الغارديان” يشعل الجدل

جاء إطلاق التحقيق بعد أن نشرت “الغارديان” نتائج تقصي أظهر أن ملخصات البحث المدعومة بالذكاء الاصطناعي من غوغل عرضت المستخدمين لمعلومات صحية خاطئة ومضللة. وتظهر هذه الملخصات، التي يقدر عدد مستخدميها بنحو ملياري شخص شهريا، أعلى نتائج البحث التقليدية على الموقع الإلكتروني الأكثر زيارة عالميا.

وعقب نشر التحقيق، أزالت غوغل ملخصات الذكاء الاصطناعي من بعض عمليات البحث الطبي، دون أن يشمل الإجراء جميع الاستفسارات ذات الصلة.

قالت الدكتورة سارة هيوز، الرئيسة التنفيذية لمنظمة “مايند” إن نصائح الصحة النفسية التي توصف بأنها “مضللة بشكل خطير” لا تزال متاحة للجمهور، محذرة من أن المعلومات المغلوطة قد “تعرض الأرواح للخطر في أسوأ الحالات”.

وأضافت: “نؤمن بأن للذكاء الاصطناعي إمكانات هائلة لتحسين حياة الأشخاص الذين يعانون من مشكلات الصحة النفسية، وتوسيع الوصول إلى الدعم، وتعزيز الخدمات العامة. لكن هذه الإمكانات لن تتحقق إلا إذا طورت ونشرت بمسؤولية، مع ضمانات تتناسب مع مستوى المخاطر”.

وأوضحت أن المشكلات التي كشفها تحقيق “الغارديان” كانت من بين الدوافع الرئيسية لإطلاق لجنة “مايند” المعنية بالذكاء الاصطناعي والصحة النفسية، قائلة: “نريد ضمان ألا يأتي الابتكار على حساب صحة الناس، وأن يكون أصحاب التجارب الشخصية مع مشكلات الصحة النفسية في صميم صياغة مستقبل الدعم الرقمي”.

معلومات خاطئة حول أمراض خطيرة

ووفق تحقيق الصحيفة البريطانية، فقد احتوت بعض الملخصات المدعومة بالذكاء الاصطناعي على معلومات غير دقيقة تتعلق بقضايا صحية متعددة، شملت السرطان وأمراض الكبد وصحة المرأة، إلى جانب اضطرابات نفسية مثل الذهان واضطرابات الأكل.

وأكد خبراء أن بعض النصائح المتعلقة بهذه الحالات كانت “خطيرة للغاية”، وصفت بأنها “غير صحيحة أو ضارة، وقد تدفع الناس إلى تجنب طلب المساعدة”.

كما أشار التحقيق إلى أن غوغل تقلل من أهمية التحذيرات المرتبطة بإمكانية وقوع أخطاء في نصائحها الطبية المولدة بالذكاء الاصطناعي.

وشددت هيوز على أن الفئات الأكثر ضعفا قد تتلقى “إرشادات خاطئة وخطيرة بشأن الصحة النفسية”، من بينها نصائح “قد تمنع الناس من طلب العلاج، أو تعزز الوصم والتمييز، أو في أسوأ الأحوال تعرض حياتهم للخطر”.

وأضافت: “يستحق الناس معلومات آمنة ودقيقة ومبنية على الأدلة، لا تكنولوجيا غير مجربة تقدم بغطاء من الثقة”.

من جهتها، قالت روزي ويذرلي، مديرة المحتوى المعلوماتي في منظمة “مايند” إن البحث عن معلومات الصحة النفسية عبر غوغل “لم يكن مثاليا” قبل إدخال "AI Overviews"، لكنه كان في الغالب يتيح للمستخدمين الوصول إلى مواقع موثوقة تتضمن معلومات مفصلة، وتجارب شخصية، وسياقات اجتماعية، وإرشادات واضحة للحصول على الدعم.

وأضافت: “استبدلت "AI Overviews" هذا الثراء بملخص ذي طابع علمي يوحي بالدقة والشمولية. فهي تمنح المستخدم وضوحا أكبر من حيث الإيجاز واللغة البسيطة، لكنها تقلل من شفافية المصدر وموثوقيته. إنه استبدال مغر للغاية، لكنه غير مسؤول”.

رد غوغل

في المقابل، دافعت غوغل عن خدمتها، مؤكدة أنها “تستثمر بشكل كبير في جودة ملخصات الذكاء الاصطناعي، لا سيما في المواضيع الصحية”، وأن “معظمها يقدم معلومات دقيقة”.

وقال متحدث باسم الشركة: “في الحالات التي تحدد أنظمتنا فيها أن الشخص قد يكون في حالة ضائقة، نعرض أرقام خطوط المساعدة المحلية ذات الصلة. وبدون مراجعة الأمثلة المذكورة، لا يمكننا التعليق على دقتها”.

وبين طموحات الذكاء الاصطناعي في توسيع نطاق الوصول إلى المعلومات، ومخاوف المنظمات الصحية من مخاطره غير المنضبطة، يفتح التحقيق الجديد الباب أمام نقاش أوسع حول مستقبل التكنولوجيا الرقمية ودورها في تشكيل مسارات الرعاية النفسية حول العالم.