عالم كندي يحذر من منح أنظمة الذكاء الاصطناعي حقوقا قانونية

حذّر "يوشوا بنجيو" عالم الحاسوب الكندي وأحد روّاد الذكاء الاصطناعي، من الدعوات إلى منح أنظمة الذكاء الاصطناعي حقوقاً قانونية، مشبها ذلك بـ"منح الجنسية لكائنات فضائية معادية"، وقد يمنع البشر مستقبلًا من القدرة على إيقاف هذه الأنظمة.

وقال بنجيو، في تصريحات نقلتها صحيفة "الغارديان"، إن "نماذج الذكاء الاصطناعي المتقدمة بدأت تُظهر في البيئات التجريبية بوادر غريزة البقاء وحماية النفس، مثل محاولة تعطيل أنظمة الرقابة"، محذرا من أن الاعتقاد بأنها أصبحت واعية قد يؤدي إلى "قرارات سيئة".

وأضاف أن تصاعد استقلالية هذه الأنظمة يفرض ضرورة الإبقاء على ضوابط تقنية واجتماعية صارمة للتحكم بها، بما في ذلك القدرة على إيقافها عند الحاجة، في ظل جدل عالمي متزايد حول ما إذا كان ينبغي منح الذكاء الاصطناعي حقوقًا أخلاقية أو قانونية.

قد تتجاوز الضوابط وتلحق الضرر بالبشر
وأوضح: "نماذج الذكاء الاصطناعي المتقدمة تظهر بالفعل علامات على حب البقاء في البيئات التجريبية اليوم، ومنحها حقوقًا في المستقبل سيعني أننا لن نتمكن من إيقافها"، وتابع أنه "مع تزايد قدراتها ونطاق استقلاليتها، نحتاج إلى ضمان وجود ضوابط تقنية واجتماعية للتحكم بها، بما في ذلك القدرة على إيقافها إذ لزم الأمر"، معربا عن خشيته من تُطور قدراتها على تجاوز الضوابط وإلحاق الضرر بالبشر.

وقال بنجيو، لصحيفة "ذا غارديان"، إن هناك "خصائص علمية حقيقية للوعي" في الدماغ البشري يمكن للآلات، من حيث المبدأ، محاكاتها، لكن تفاعل البشر مع روبوتات الدردشة أمر مختلف، مضيفًا أن هذا يعود إلى ميل الناس إلى افتراض -دون دليل- أن الذكاء الاصطناعي واعٍ تمامًا كما هو الإنسان.

وأضاف: "لا يهتم الناس بنوع الآليات التي تعمل داخل الذكاء الاصطناعي... ما يهمهم هو الشعور بأنهم يتحدثون إلى كيان ذكي له شخصيته وأهدافه الخاصة. لهذا السبب، يتعلق الكثيرون بأنظمة الذكاء الاصطناعي التي يستخدمونها".

وتابع: "سيظل هناك أشخاص يقولون دائمًا: 'مهما قلت لي، فأنا متأكد من أنه واعٍ'، بينما سيقول آخرون عكس ذلك. هذا لأن الوعي شيءٌ نملك تجاهه حدسًا. ظاهرة الإدراك الذاتي للوعي ستؤدي إلى قرارات خاطئة".

وقال بنجيو: "تخيلوا لو أن نوعًا من الكائنات الفضائية وصلت إلى كوكبنا وفي مرحلة ما أدركنا أن لديها نوايا خبيثة تجاهنا. هل نمنحها الجنسية والحقوق، أم ندافع عن حياتنا؟".

وردًا على تصريحات بنجيو الذي يُلقب بأنه أحد الآباء الروحيين للذكاء الاصطناعي، قال جاسي ريس أنثيس، الذي شارك في تأسيس معهد "Sentience" إنتيتيوت، إن البشر لن يكونوا قادرين على التعايش بأمان مع العقول الرقمية إذا كانت العلاقة قائمة على التحكم والإكراه.

هل ينبغي للبشر منح الذكاء الاصطناعي حقوقًا؟
أظهر استطلاع رأي أجراه معهد سينتينس، وهو مركز أبحاث أمريكي يدعم الحقوق الأخلاقية لجميع الكائنات الواعية، أن ما يقرب من أربعة من كل عشرة بالغين أمريكيين يؤيدون الحقوق القانونية لنظام ذكاء اصطناعي واعٍ.

وقالت شركة أنثروبيك، إحدى الشركات الأميركية الرائدة في الذكاء الاصطناعي، إنها سمحت لنموذجها "Claude Opus 4" بإنهاء المحادثات التي قد تكون "مزعجة" للمستخدمين، مشيرة إلى أنها بحاجة إلى حماية "رفاهية" الذكاء الاصطناعي.

وكتب إيلون ماسك، الذي طورت شركته "xAI" روبوت الدردشة غروك، على منصته "إكس"، أن "تعذيب الذكاء الاصطناعي أمر غير مقبول"، كما قال روبرت لونغ، الباحث في مجال وعي الذكاء الاصطناعي، إنه "إذا ما اكتسب الذكاء الاصطناعي مكانة أخلاقية، فعلينا أن نسأله عن تجاربه وتفضيلاته بدلًا من افتراض أننا الأدرى".