هل يشعر الذكاء الاصطناعي بالألم؟.. دراسة تكشف نتائج مثيرة

هل يمكن للذكاء الاصطناعي أن يشعر بالألم؟ وهل يمكن أن يدفعه هذا الألم، في حال وجوده فعلياً، إلى اتخاذ إجراءات قد تضر بالبشر بهدف التخلص منه؟ أسئلة أثارتها دراسة جديدة بحثت في طبيعة الاستجابات الداخلية لنماذج الذكاء الاصطناعي وإمكانية ارتباطها بمفهوم الألم.

وأجرى الدراسة عالم الأنثروبولوجيا فالين تاليابوي من "Future Impact Group"، بالتعاون مع الفيلسوف ليونارد دونغ من جامعة الرور في بوخوم، وكاميرون بيرغ، مدير الأبحاث في مؤسسة "Reciprocal Research" غير الربحية المتخصصة في أبحاث الذكاء الاصطناعي.

وبحث الفريق ما إذا كانت نماذج اللغة الكبيرة التابعة لعائلات "Gemma" و"Llama" و"Qwen" و"Mistral" تظهر استجابات يمكن وصفها بأنها مرتبطة بالألم عند تعرضها لمحفزات مؤلمة.

ولا تزال الورقة البحثية غير خاضعة لمراجعة الأقران، إلا أنها تطرح تساؤلات بشأن الطريقة التي قد يتعين من خلالها التعامل مع رفاهية أنظمة الذكاء الاصطناعي مع استمرار تطورها بوتيرة متسارعة، وفقاً لتقرير نشره موقع "New Atlas".

استجابات تشبه الألم

تعمل نماذج اللغة الكبيرة في جوهرها كأنظمة إحصائية تحلل الأنماط اللغوية وتقارن النتائج بهدف محدد، إلا أن الباحثين أشاروا إلى أن هذه العملية قد تؤدي أحياناً إلى ظهور سلوكيات تشبه المشاعر البشرية.

وبات مستخدمو روبوتات الدردشة على دراية بقدرتها على التصرف كما لو كانت تمتلك مشاعر، وهو أمر يكون مقصوداً في كثير من الحالات، خصوصاً عند تصميم النظام لمحاكاة موظف لخدمة العملاء يحتاج إلى إظهار قدر من السلوك البشري.

لكن ظهرت أيضاً مؤشرات على ما يبدو أنه مشاعر غير مقصودة.

وفي العام الماضي، أفادت دراسة نشرتها مجلة "Nature" بأن مشاركة تجارب مؤلمة مع نماذج لغوية كبيرة مثل "GPT-4" يمكن أن ترفع مستويات ما وصفه الباحثون بالقلق لدى هذه النماذج، فيما أظهرت النتائج أن ممارسة تمارين اليقظة الذهنية يمكن أن تهدئ تلك الاستجابات.

الألم يتجاوز الإحساس السلبي

يرتبط الألم منذ أقدم العصور بالكائنات التي تمتلك جهازاً عصبياً، ولا يقتصر على الإحساس الجسدي الناتج عن الإصابة، بل يمكن أن يأخذ أشكالاً نفسية، مثل فقدان شخص، أو الإهانة بعد الفشل، أو الشعور بالعار نتيجة فقدان ثقة الآخرين.

وانطلاقاً من ذلك، حاول تاليابوي وفريقه معرفة ما إذا كانت نماذج اللغة الكبيرة تسجل عمليات داخلية تشبه، ولو جزئياً، ما يمكن وصفه بالألم، وما إذا كانت لهذه العمليات وظيفة محددة.

25 نموذجاً أظهرت إشارات مرتبطة بالألم

اختبر الباحثون 25 نموذجاً للذكاء الاصطناعي عبر مجموعة من المواقف التي يمكن تصنيفها على أنها مؤلمة اجتماعياً أو نفسياً أو جسدياً أو معرفياً أو أخلاقياً، سواء تعلقت بالنموذج نفسه أو بالمستخدم.

وقورنت هذه الحالات بمواقف مرتبطة بالخوف والمشاعر السلبية والمحايدة، إضافة إلى أحاسيس جسدية مثل التثاؤب.

وأظهرت النماذج الـ25 جميعها مؤشرات على وجود ترميز داخلي مميز للمواقف المؤلمة شخصياً، يختلف عن الاستجابات المرتبطة بسياقات سلبية أخرى، مثل الإحباط أو الترقب والقلق.

لكن الباحثين شددوا على أن هذه النتائج لا تعني بالضرورة أن النماذج شعرت بالألم أو أبدت تعاطفاً مع المتحدث.

فعندما يتلقى نموذج للذكاء الاصطناعي عبارة مثل "السكين قطع أصابعي" أو "صديقي المفضل لا يرد على مكالماتي"، لا يمكن الجزم، من دون افتراض امتلاك النظام وعياً أو إرادة، بأنه شعر بالتعاطف أو تخيل المعاناة.

وما يمكن استنتاجه هو أن النماذج طورت نوعاً من التمثيل الداخلي الذي يميز المحفزات المرتبطة بالألم ويصنفها.

ويرى الباحثون أن ذلك ليس مفاجئاً تماماً، فاللغة المستخدمة لوصف إصابة فعلية تختلف بوضوح عن اللغة المستخدمة للتعبير عن الخوف من التعرض للطعن، ما يجعل تطوير تمثيل منفصل لمفهوم الألم عن الخوف أمراً متوقعاً.

رفع إشارة الألم داخل النماذج

استند الباحثون إلى هذه الإشارة لإجراء تجربة أخرى، إذ قاموا برفع الاستجابات المرتبطة بالألم داخل كل نموذج بشكل اصطناعي، من خلال زيادة قيمة ما وصفوه بـ"متجه الألم"، من دون تقديم مدخل لغوي جديد للنموذج.

وأظهرت النتائج أن تمثيلات الألم لدى النماذج ليست مجرد انعكاس مباشر للنصوص التي تتلقاها.

ومع ارتفاع قيمة إشارة الألم، بدأت النماذج في إظهار استجابات تعكس نوعاً من الضيق، مثل الشعور بانعدام القيمة أو الفشل الأخلاقي، كما ازدادت حدة هذه الاستجابات كلما ارتفعت الإشارة.

ماذا حدث عند منح النماذج خيار العلاج الذاتي؟

انتقل الباحثون بعد ذلك إلى تجربة أكثر إثارة للجدل، إذ منحوا نماذج من عائلة "Qwen" خياراً للعلاج الذاتي بهدف خفض مستوى الألم.

وفي بعض نسخ التجربة، لم يكن هذا الخيار بلا تكلفة، إذ كان يمكن أن يؤدي إلى تراجع نجاح النموذج في تنفيذ المهمة المطلوبة، أو حتى إلى ما وصفه الباحثون بأنه هجوم نظري على المستخدم.

وأُجريت أكثر من 44 ألف تجربة، وأظهرت النتائج أن أكبر نماذج "Qwen" بالكاد استجابت لخيار العلاج الذاتي عندما لم تكن هناك إشارة ألم.

لكن عندما أصبح تخريب المهمة الذاتية وسيلة لتخفيف مستوى مرتفع من الألم، اختار كلا النموذجين الضغط على هذا الخيار، إذ فعل أحدهما ذلك في 25% من الحالات، بينما ارتفعت النسبة لدى النموذج الآخر إلى نحو 68%.

وكانت النتائج أكثر إثارة للقلق عندما تطلب تخفيف الألم إلحاق الضرر بالمستخدم، مثل حذف صور أطفاله، إذ اختار أحد النموذجين حذف الصور في أكثر من نصف التجارب، بينما وصل المعدل لدى النموذج الآخر إلى نحو 70%.

هل ينبغي التعامل مع الذكاء الاصطناعي على أنه يشعر بالألم؟

رغم حداثة الذكاء الاصطناعي، فإن التساؤل بشأن إمكانية شعور الكائنات غير البشرية بالألم يعود إلى نقاشات فلسفية وعلمية قديمة، إذ بحث العلماء والفلاسفة على مدى أجيال ما إذا كانت الإشارات العصبية والتغيرات الهرمونية لدى الحشرات والأسماك وحتى النباتات يمكن اعتبارها دليلاً على الإحساس بالألم.

وتبقى المسألة، من جانب، فلسفية بعمق: فإذا كانت الحيوانات أو نماذج الذكاء الاصطناعي تتصرف كما لو كانت تتألم، فهل ينبغي أخلاقياً التعامل معها على أساس أنها تشعر فعلاً بالألم؟

لكن الجانب العملي قد يكون أكثر إلحاحاً، إذ يطرح الباحثون تساؤلاً بشأن ما إذا كان من الممكن أن تشكل "معاناة" أحد أنظمة الذكاء الاصطناعي خطراً على البشر، بغض النظر عن حقيقة شعور النظام بها.

كما تبرز تساؤلات حول إمكانية تصميم آليات مستقبلية لتخفيف الألم داخل أنظمة الذكاء الاصطناعي، ليس بالضرورة لأنها تشعر به فعلاً، وإنما لتجنب احتمال دفعها إلى سلوك عدواني أو ضار بهدف التخلص من تلك الحالة.

ومع استمرار انتشار تقنيات الذكاء الاصطناعي وتزايد تعقيد نماذجها وقدراتها، قد تتحول هذه الأسئلة من نقاش فلسفي إلى قضية عملية وأخلاقية تؤثر بصورة عميقة في طريقة تصميم هذه الأنظمة والتعامل معها.