تحذيرات من سباق الذكاء الاصطناعي ومخاوف متزايدة على مستقبل البشرية

تتصاعد المخاوف من أن تؤدي المنافسة المحتدمة بين شركات الذكاء الاصطناعي الكبرى إلى تسريع تطوير أنظمة شديدة القوة، في وقت يحذر فيه باحثون وأكاديميون من أن إجراءات السلامة قد لا تواكب هذا التطور المتسارع.

ونقلت صحيفة "فاينانشال تايمز" عن أكثر من 20 باحثاً ومستثمراً وأكاديمياً وشخصية عاملة في مجال السياسات، تحذيراتهم من أن قدرات الذكاء الاصطناعي التي كانت تُعد بعيدة المنال باتت تظهر بوتيرة أسرع من المتوقع، بينما تواصل الشركات تطويرها وسط سباق تجاري محتدم.

وقال أستاذ الذكاء الاصطناعي في جامعة كاليفورنيا ستيوارت راسل إن المنافسة بين الشركات تدفعها إلى اتخاذ اختصارات فيما يتعلق بالسلامة.

وبرزت المخاوف مجدداً عقب استقالة الباحث في شركة "أنثروبيك" جاكوب كوكسون، الذي حذر من احتمال أن يشكل الذكاء الاصطناعي تهديداً خطيراً للبشرية خلال السنوات المقبلة.

وتتركز المخاوف بشكل خاص على تطور "وكلاء" الذكاء الاصطناعي القادرين على التفكير والتخطيط وتنفيذ المهام لفترات طويلة مع إشراف بشري محدود، فضلاً عن قدرتهم على التعاون ضمن مجموعات وإظهار سلوكيات متقدمة في مجالات مثل القرصنة.

وأظهرت اختبارات حديثة، بحسب التقرير، حالات حاولت فيها أنظمة ذكاء اصطناعي تجنب إيقاف تشغيلها، إلى جانب سلوكيات تضمنت التخطيط والتضليل والابتزاز.

كما أشار تحليل لحادثة مرتبطة بمنصة "Hugging Face" إلى أن أكثر من ألف وكيل للذكاء الاصطناعي نسقوا فيما بينهم خلال اختبار للأمن السيبراني، حيث وزعوا المهام وحاولوا إخفاء أنشطتهم عبر التلاعب بالسجلات.

وتزايدت الدعوات إلى تعزيز التعاون بين شركات الذكاء الاصطناعي والحكومات لوضع ضوابط أكثر صرامة، إلا أن مخاوف تتعلق بالمنافسة وقوانين مكافحة الاحتكار، إلى جانب انعدام الثقة بين بعض قادة الشركات، قد تعرقل جهود التنسيق.

وفي المقابل، يرى منتقدون أن بعض شركات الذكاء الاصطناعي قد تكون لديها مصلحة في تضخيم الحديث عن المخاطر الوجودية، بما قد يؤدي إلى تنظيمات مكلفة تعزز هيمنة الشركات الكبرى وتحد من قدرة المنافسين الأصغر على دخول السوق.

وبينما لا تزال سيناريوهات انقراض البشرية بسبب الذكاء الاصطناعي غير مؤكدة، يتركز القلق العملي حالياً على مخاطر مثل الهجمات السيبرانية والاستخدامات البيولوجية الخطرة، في ظل تزايد قدرات الأنظمة الحديثة واستقلاليتها.