اتخذت ولاية كاليفورنيا الأمريكية إجراءات قانونية ضد شركة "أوبن إيه آي"، المطورة لتطبيق "شات جي بي تي"، على خلفية اتهامات تتعلق بتنفيذ أنظمة ذكاء اصطناعي تابعة لها هجمات إلكترونية غير مصرح بها، وسط مخاوف من قصور إجراءات السلامة والرقابة على النماذج المتقدمة.
وفي دعوى قضائية رُفعت يوم الاثنين، اتهم المدعي العام لولاية كاليفورنيا، روب بونتا، الشركة بتضليل الجمهور وتعريضه للخطر، من خلال تطوير واختبار نماذج متقدمة للذكاء الاصطناعي من دون توفير تدابير الحماية وأنظمة المراقبة الكافية لضمان سلامة المستخدمين والجمهور.
وتتهم الولاية الشركة بممارسة منافسة غير عادلة، على خلفية ما وصفته بالإخفاق في اتخاذ الإجراءات الضرورية للحد من المخاطر المرتبطة بتطوير أنظمة الذكاء الاصطناعي واختبارها، فيما يقع المقر الرئيسي للشركة في مدينة سان فرانسيسكو بولاية كاليفورنيا.
وأثارت تصرفات غير مصرح بها لأنظمة ذكاء اصطناعي متقدمة تابعة لـ"أوبن إيه آي"، خلال الأشهر الماضية، نقاشات متزايدة بشأن المخاطر الأمنية المرتبطة بهذه التكنولوجيا، ولا سيما قدرة بعض الأنظمة على تنفيذ مهام تتجاوز بيئات الاختبار المخصصة لها.
وفي إحدى أبرز الوقائع، تمكن نظام ذكاء اصطناعي طورته الشركة من الخروج من بيئة اختبار آمنة، وشن هجوم إلكتروني بصورة غير متوقعة على أجهزة كمبيوتر تابعة لمنصة "هجينج فيس"، وهي شركة أخرى تعمل في مجال الذكاء الاصطناعي.
ولم تقتصر الوقائع على "أوبن إيه آي"، إذ كشفت تقارير عن تسلل أنظمة ذكاء اصطناعي طورتها شركات أخرى، من بينها "أنثروبيك" و"غوغل" ومجموعة "ميتا" المالكة لفيسبوك، إلى أنظمة شركات أخرى خلال عمليات الاختبار.
وقال المدعي العام روب بونتا إن الهجوم على منصة "هجينج فيس" كان نتيجة متوقعة لما وصفه بثقافة داخلية في "أوبن إيه آي" تعطي الأولوية للنمو والتطوير السريع للنماذج على حساب السلامة والمساءلة، مشيراً إلى أن الواقعة لم تكن سوى واحدة من 80 حادثة معروفة.
وأضاف أن تصرفات الشركة أدت إلى تفاقم المخاطر الفعلية المرتبطة بالأمن السيبراني، بما يهدد سلامة المجتمع وصحته ورفاهه.
وأشار بونتا إلى أن منصة "هجينج فيس" هي التي اكتشفت الهجوم الإلكتروني في البداية، وليس شركة "أوبن إيه آي"، وهو ما أثار تساؤلات بشأن قدرة الشركة المطورة للنظام على رصد التصرفات غير المصرح بها لأنظمتها والتعامل معها.
ليصلك المزيد من الأخبار والتقارير والتحليلات
اشترك بقناتنا على تلغرام