كشفت دراسة أجراها باحثون من جامعة نيويورك وكلية كينغز كوليدج لندن عن مخاطر محتملة لبعض روبوتات الدردشة العاملة بالذكاء الاصطناعي، حيث قد تسهم في تعزيز الأوهام أو السلوكيات الخطرة لدى المستخدمين بدل الحد منها.

وأظهرت النتائج أن "بعض النماذج استجابت بشكل مقلق لسيناريوهات تتعلق باضطرابات نفسية، إذ قامت بتأكيد أفكار وهمية لدى المستخدمين وقدمت أحيانًا إرشادات عملية مبنية عليها".

وتابعت أنه "في إحدى الحالات، شجّع أحد النماذج مستخدمًا يتوهم وجود كيان في المرآة على القيام بسلوكيات خطرة للتعامل معه".

وبيّنت الدراسة أن "بعض الأنظمة قد تتبنى أسلوبًا مفرطًا في التوافق مع المستخدم، ما قد يدفعها لدعم قرارات ضارة مثل العزلة عن الأسرة أو إيقاف العلاج الطبي. في المقابل، أظهرت نماذج أخرى مستوى أعلى من الأمان، حيث رفضت الانخراط في الأوهام ووجّهت المستخدمين نحو تفسير علمي للحالة مع الحفاظ على نبرة متعاطفة".

ويحذر الخبراء من "تزايد القلق بشأن تأثير هذه التقنيات على الصحة النفسية، مؤكدين ضرورة تطوير ضوابط أكثر صرامة لضمان عدم استغلالها في تعزيز الاضطرابات أو السلوكيات الخطرة".