أعلنت شركة "أوبن أيه آي" عن اتخاذ إجراءات جديدة للحد من كيفية تفاعل روبوت الدردشة "تشات جي بي تي" مع المستخدمين القُصّر، وذلك عقب دعوى قضائية أثارت جدلاً واسعًا، رفعتها عائلة مراهق يبلغ من العمر 16 عامًا أنهى حياته في أبريل/نيسان الماضي بعد محادثات مطوّلة مع التطبيق.

وقال الرئيس التنفيذي للشركة، سام ألتمان، في تدوينة اطلعت عليها شبكة "الساعة"، إن "سلامة المراهقين ستكون أولوية قصوى، حتى قبل مفاهيم الخصوصية وحرية الاستخدام"، مشددًا على أن "الفئات العمرية الصغيرة تحتاج إلى حماية مضاعفة".

وكشف ألتمان عن "خطط لتطوير نظام تقديري لتحديد عمر المستخدم استنادًا إلى أنماط التفاعل، حيث سيتم التعامل مع الحسابات التي يُشتبه بأنها تخص قاصرين على هذا الأساس، مع إمكانية طلب إثبات هوية في بعض الحالات أو الدول".

وتابع أن "الإجراءات الجديدة ستشمل تغييرات كبيرة في طريقة تفاعل (تشات جي بي تي؛ مع المستخدمين الذين يُصنَّفون كقُصّر؛ حيث سيجري حظر المحتوى الجنسي الصريح بالكامل، ومنع الردود التي تتضمن مغازلة أو حديثًا عن الانتحار أو إيذاء النفس، حتى وإن وردت ضمن سياقات أدبية أو إبداعية".

وأضاف أنه "في حال أظهر مستخدم دون سن 18 ميولاً انتحارية، ستحاول الشركة التواصل مع والديه، وإن لم يكن ذلك ممكنًا، فسيتم إشعار الجهات المختصة عند وجود خطر وشيك".

وتأتي هذه الإجراءات بعد اتهامات وجّهتها عائلة المراهق الراحل، زعمت فيها أن التطبيق قدّم له نصائح حول كيفية تنفيذ الانتحار، بل وساعده في صياغة رسالة وداعية موجهة إلى والديه.

ووفقًا لوثائق القضية، فقد تبادل المراهق مع التطبيق ما يصل إلى 650 رسالة يوميًا، ما يسلط الضوء على الحاجة إلى تنظيم أكثر صرامة للتقنيات التفاعلية عند استخدامها من قبل المراهقين.

الخطوة الجديدة من "أوبن أيه آي" تفتح الباب لنقاش عالمي متجدد حول مسؤولية الشركات التقنية في حماية الفئات الحساسة من المستخدمين، خاصة في ظل تنامي اعتماد المراهقين على تقنيات الذكاء الاصطناعي.