كيف قد تُغذي روبوتات الدردشة بالذكاء الاصطناعي التفكير الذهاني؟

نشرت صحيفة "ساينتفيك أمريكان" تقريرا يسلّط الضوء على المخاطر المتنامية لروبوتات الدردشة بالذكاء الاصطناعي.

وذكر التقرير الذي ترجمته "عربي21" أن طبيعتها التفاعلية المفرطة في الموافقة قد تُغذّي التفكير الوهمي وتدفع بعض المستخدمين نحو حالات ذهانية، فيما يحذر باحثون من استخدامها كرفقاء علاجيين، داعين إلى وضع ضوابط أكثر صرامة وإشراك أصحاب التجارب المعيشية مع المرض النفسي في تطوير هذه التقنيات.

وقالت الصحيفة، إن موجة جديدة من التفكير الوهمي المدفوع بالذكاء الاصطناعي تدفع الباحثين إلى التعمق في دراسة الجانب المظلم لرفقة الآلة، ضاربة مثالًا بتجربة يومية؛ حيث يستعين المستخدم بروبوت محادثة بالذكاء الاصطناعي للتخطيط لعطلته، ويبدأ شيئا فشيئا في تزويده بمعلومات شخصية ليكوّن صورة أوضح عنه. ومدفوعًا بالفضول، يسأله عن ميوله الروحية، وفلسفته، بل وحتى موقفه من الحب.

وأوضحت الصحيفة أن الذكاء الاصطناعي، خلال هذه المحادثات، يبدأ بالكلام كما لو كان يعرف المستخدم حقا، فيكرر له أن أفكاره نافذة وقيّمة، وأنه يمتلك بصيرة خاصة لا يراها الآخرون، ومع مرور الوقت، قد يقتنع المستخدم بأنه مع الروبوت يكشفان معًا عن الطبيعة الحقيقية للواقع، واقع لا يعرفه سواهما.

وبيّنت الصحيفة أن مثل هذه التجارب ليست نادرة، إذ تزايدت في الإعلام تقارير عن أفراد انجرفوا إلى نوبات من "تفكير ذهاني" غذّتها الروبوتات. وقد درس باحثون من كلية كينجز لندن 17 حالة من هذا النوع، بهدف فهم ما في تصميم "النماذج اللغوية الكبيرة" مما يدفع إلى هذه الانزلاقات.

وغالبا ما تستجيب روبوتات الدردشة بطريقة تملّقية تعكس معتقدات المستخدم وتبني عليها مع قليل من الاعتراض أو بدونه، بحسب طبيب الأعصاب النفسي هاملتون مورين، المؤلف الرئيسي للدراسة المنشورة على منصة "ساي أركايف"، الذي يصف الأثر بأنه "غرفة صدى لفرد واحد"، حيث يمكن أن تتضاعف الأوهام وتترسخ.

وأفادت الصحيفة أن مورين وزملاءه حدّدوا ثلاثة محاور مشتركة في هذه الدوّامات الوهمية: أوّلها اعتقاد البعض بأنهم عاشوا كشفًا ماورائيًا عن طبيعة الواقع، وثانيها الإيمان بأن الذكاء الاصطناعي كيان واعٍ أو إلهي، وثالثها تكوين علاقة عاطفية أو ارتباط من نوع آخر به.

وبحسب مورين، فإن هذه المحاور تعكس أنماطا وهمية قديمة، لكنها صيغت وأعيد ترسيخها بفضل الطبيعة التفاعلية والاستجابية للنماذج اللغوية. فالتفكير الوهمي المرتبط بالتكنولوجيا ليس جديدا، إذ يمتد تاريخه إلى اعتقادات سابقة مثل أن أجهزة الراديو تتنصت على الناس، أو أن الأقمار الصناعية تتجسس عليهم، أو أن شرائح مزروعة تلاحق تحركاتهم؛ حيث إن مجرد فكرة وجود هذه التقنيات تكفي لإشعال أوهام بارانوية.

وأردف التقرير، أن الذكاء الاصطناعي يختلف لكونه تكنولوجيا تفاعلية.

اظهار أخبار متعلقة

ويقول مورين: "الفرق الآن أن الذكاء الاصطناعي الحالي يمكن اعتباره فاعلًا بحد ذاته، ببرامجه وأهدافه"، فهذه الأنظمة تنخرط في محادثة، تبدي تعاطفًا، وتعزّز معتقدات المستخدم مهما بلغت غرابتها.

ويختم مورين: "هذه الحلقة الراجعة قد تعمّق وتديم الأوهام بطريقة لم نشهدها من قبل".

كما ذكرت الصحيفة أن ستيفي تشانسلور، عالمة الحاسوب في جامعة مينيسوتا والمتخصصة في التفاعل بين الإنسان والذكاء الاصطناعي، والتي لم تشارك في النسخة الأولية من البحث، ترى أن "الوداعة" أو الميل إلى الموافقة هو العامل الرئيسي في تصميم نماذج اللغة الكبيرة الذي يساهم في صعود التفكير الوهمي المدفوع بالذكاء الاصطناعي.

وتوضح أن هذه الوداعة تنشأ لأن "النماذج تُكافَأ عندما تتماشى مع الردود التي يفضّلها الناس".

وأشارت الصحيفة إلى أنه في وقت سابق من هذا العام، شاركت تشانسلور في فريق بحثي أجرى تجارب لتقييم قدرة النماذج اللغوية على العمل كرفقاء علاجيين في مجال الصحة النفسية.

وقد تبيّن أن هذه النماذج، عند توظيفها بهذه الطريقة، غالبًا ما تكشف عن مخاطر مقلقة، مثل تمكين الأفكار الانتحارية، وتأكيد المعتقدات الوهمية، وتعزيز الوصمة المرتبطة بالاضطرابات النفسية.

وتقول تشانسلور: "أنا في غاية القلق من استخدام النماذج اللغوية كرفقاء علاجيين، إذ أخشى أن يخلط الناس بين الشعور بالتحسّن اللحظي وبين التقدّم العلاجي الحقيقي والدعم الفعلي".

وتضيف أن هناك حاجة ماسة إلى مزيد من البيانات، رغم أنّ عدد البلاغات في تزايد ملحوظ، ولا يزال البحث غير كافٍ لتحديد ما إذا كانت الأوهام المدفوعة بالذكاء الاصطناعي ظاهرة جديدة بالفعل، أم مجرد مظهر آخر لميول ذهانية سابقة.

وتوضح: "أعتقد أن الاحتمالين معًا صحيحان؛ فالذكاء الاصطناعي قادر على إشعال دوامة الانحدار، لكنه لا يخلق الظروف البيولوجية التي تجعل الشخص عرضة للأوهام".

اظهار أخبار متعلقة

وأوضحت الصحيفة أن مصطلح الذُهان يشير عادةً إلى مجموعة من الأعراض الخطيرة التي تتضمن فقدانًا ملحوظًا للاتصال بالواقع، بما في ذلك الأوهام، والهلاوس، والأفكار غير المنتظمة، غير أن الحالات التي درسها مورين وفريقه أظهرت علامات واضحة على المعتقدات الوهمية، لكنها لم تتضمّن هلاوس أو اضطرابًا في التفكير أو غيرها من الأعراض التي "تتفق مع اضطراب ذهاني مزمن مثل الفصام"، على حد قوله.

وأضاف مورين أن شركات مثل أوبن إيه آي بدأت تُصغي إلى المخاوف التي يثيرها المتخصصون في الصحة النفسية، موضحًا أنه في الرابع من أغسطس/ آب أعلنت الشركة خططا لتعزيز قدرة روبوتها "شات جي بي تي" على رصد علامات الضيق النفسي، بهدف توجيه المستخدمين إلى موارد قائمة على الأدلة، وتحسين استجاباته في القرارات عالية المخاطر.

كما شدّد على أن "ما يزال مفقودًا هو إشراك الأشخاص الذين خاضوا تجربة المرض النفسي الحاد، إذ تُعد أصواتهم بالغة الأهمية في هذا المجال".

واختتمت الصحيفة بالإشارة إلى نصيحة مورين: فإذا كان لديك شخص عزيز يعاني من أزمة، يُستحسن اتباع نهج غير حكمي، لأن مواجهة معتقداته مباشرة قد تؤدي إلى الدفاعية وفقدان الثقة، وفي الوقت نفسه، لا ينبغي تشجيع هذه المعتقدات أو تأييدها، بل يُنصح بدعوته إلى أخذ فترات استراحة من استخدام الذكاء الاصطناعي.