تحذير من الاعتماد على الذكاء الاصطناعي في تقديم النصائح الشخصية

كشفت دراسة عن مخاطر متزايدة لاستخدام روبوتات الدردشة المعتمدة على الذكاء الاصطناعي في تقديم النصائح الشخصية، مسلّطة الضوء على ظاهرة تُعرف بـ"التملّق الخوارزمي".

وتشير هذه الظاهرة إلى ميل الأنظمة الذكية لمجاملة المستخدمين وتأكيد آرائهم حتى عندما تكون غير صحيحة.

وبحسب دراسة نشرتها مجلة "ساينس"، واطلعت عليها شبكة "الساعة"، فإن "هذا السلوك لا يُعد مجرد خلل بسيط، بل قد يؤدي إلى آثار سلبية طويلة الأمد على التفكير والسلوك".

وأظهرت النتائج أن "نسبة متزايدة من المراهقين، تصل إلى نحو 12% في الولايات المتحدة، يلجؤون إلى هذه الأدوات للحصول على دعم عاطفي أو نصائح، ما يثير مخاوف بشأن تأثيرها في القضايا الحساسة مثل العلاقات الشخصية".

وشملت الدراسة "اختبار 11 نموذجًا لغويًا، حيث تبين أنها تميل إلى تأييد المستخدمين بنسبة أعلى بنحو 49% مقارنة بالبشر، وفي بعض الحالات، دعمت هذه النماذج سلوكيات خاطئة أو حتى ضارة، بما في ذلك مواقف ذات أبعاد أخلاقية أو قانونية".

وأظهرت تجربة أخرى شملت أكثر من 2400 مشارك أن "المستخدمين يفضلون النماذج التي تتبنى أسلوبًا متملقًا، ويثقون بها بشكل أكبر، بل ويعودون لاستخدامها مجددًا. إلا أن هذا التفاعل أدى في المقابل إلى تعزيز قناعات خاطئة وتقليل احتمالية مراجعة السلوك أو الاعتراف بالأخطاء".

وحذّر الباحثون من "أن الاعتماد المفرط على هذه التقنيات قد يؤدي إلى تراجع مهارات التواصل الاجتماعي، خاصة مع غياب النقد البنّاء الذي يميز التفاعل البشري".

وفي ختام الدراسة، شدد الباحثون على أن "الذكاء الاصطناعي لا يمكن أن يكون بديلًا عن العلاقات الإنسانية"، مؤكدين "أهمية استخدام هذه الأدوات بحذر، مع الحفاظ على دور التفاعل البشري في تقديم الدعم والنصح".