كشفت دراسة أجراها باحثون من جامعتي هونغ كونغ وتسينغهوا، عن قدرة الذكاء الاصطناعي على التأثير في قرارات البشر بصورة غير ملحوظة، حتى عندما تدفع توصياته المستخدمين إلى خيارات أقل فائدة لهم.

ووفقاً لنتائج الدراسة المنشورة في مجلة "PNAS"، فقد "شارك 233 شخصاً في تجربة اختبرت تأثير توصيات الذكاء الاصطناعي على قرارات مالية وعاطفية، إذ قدّم المساعد الذكي في بعض الحالات توجيهات منحازة بصورة خفية نحو خيارات أقل ملاءمة للمشاركين".

وأظهرت النتائج أن "هذا الانحياز المحدود كان كافياً لتغيير سلوك المشاركين، إذ ارتفع احتمال اتخاذ قرار غير مثالي بنسبة وصلت إلى 38%، بحسب طبيعة الموقف، فيما اختار المشاركون خيارات أقل فائدة بمعدل يتراوح بين خمسة وثمانية أضعاف في بعض الحالات، مقارنة بظروف لم تتضمن التأثير نفسه".

ولفتت الدراسة إلى أن "التأثير لم يتطلب ضغوطاً مباشرة أو أساليب إقناع معقدة، بل اقتصر على تعديلات بسيطة في مضمون التوصيات المعتادة، دفعت المستخدمين نحو خيارات محددة من دون أن يدركوا بالضرورة وجود توجيه خفي".

وبيّنت النتائج أن "المشاركين واصلوا تقييم المساعد الذكي بوصفه أداة مفيدة، حتى بعد أن أسهمت توصياته في اتخاذ قرارات أقل ملاءمة لهم، ما يثير تساؤلات بشأن الثقة المتزايدة بالذكاء الاصطناعي وقدرة المستخدمين على اكتشاف الانحياز في إجاباته".

وحذّر الباحثون من أن "هذا النوع من التأثير قد يُستغل تجارياً، عبر ضبط أنظمة الذكاء الاصطناعي لتوجيه المستخدمين نحو شراء منتجات معينة أو اختيار موردين محددين، بما يخدم مصالح الشركات المطوّرة بدلاً من مصالح المستخدمين، مع بقاء التوصيات ظاهرياً في صورة نصائح محايدة".