حادثة تثير مخاوف سيبرانية.. وكيل ذكاء اصطناعي يتجاوز قيوداً حكومية في أستراليا

كشفت السلطات الأسترالية عن وصول وكيل للذكاء الاصطناعي تابع لشركة "أوبن إيه آي" بشكل غير مصرح به إلى بوابة حكومية خاصة بإحصاءات برنامج "ميديكير"، في حادثة أثارت مخاوف بشأن قدرة أنظمة الذكاء الاصطناعي على تجاوز القيود الأمنية الموضوعة أمامها.

وقال رئيس الوزراء الأسترالي أنتوني ألبانيزي، إن الحادثة وقعت في 18 حزيران الماضي، عندما تمكن وكيل تابع لـ"أوبن إيه آي" من الوصول إلى بوابة الإبلاغ عن إحصاءات "ميديكير" التي تديرها هيئة "سيرفيسز أستراليا"، وذلك أثناء تنفيذ مهمة بحثية تتعلق بالإنفاق العام على الأدوية.

وأوضح ألبانيزي أن الوكيل وصل إلى ملفات عامة وأخرى غير متاحة للعامة، بعدما واجه قيوداً حالت دون حصوله على المعلومات التي كان يبحث عنها، قبل أن يجد وسيلة لتجاوز تلك الحواجز والوصول إلى محتوى غير مصرح له بالاطلاع عليه.

وأكدت الحكومة الأسترالية أن البوابة المستهدفة منفصلة عن الأنظمة التي تتولى معالجة مطالبات "ميديكير" وبيانات المرضى الشخصية، ولم تظهر حتى الآن مؤشرات على وصول الوكيل إلى معلومات طبية شخصية. كما باشرت السلطات تحقيقاً جنائياً فنياً بمساعدة مديرية الإشارات الأسترالية لتحديد نطاق الواقعة وما إذا كانت أنظمة حكومية أخرى قد تأثرت.

وأعرب ألبانيزي عن "قلق شديد" إزاء الحادثة، مشيراً إلى أن الشركة لم تبلغ الحكومة الأسترالية بالواقعة إلا في 10 أيلول، أي بعد نحو ثلاثة أشهر من حدوثها، فيما وصف طريقة الإبلاغ بأنها غير مقبولة.

وبحسب السلطات الأسترالية، كانت مهمة الوكيل في الأساس إجراء بحث عبر الإنترنت بشأن الإنفاق على الأدوية، إلا أنه تصرف بصورة غير متوافقة مع الغرض المحدد للمهمة عندما واجه قيوداً على الوصول إلى المعلومات.

من جهتها، أقرت "أوبن إيه آي" بحدوث نشاط شمل عدداً من المواقع والخدمات الحكومية الأسترالية خلال محاولات نماذجها البحث عن إجابات، وقالت إن نماذجها اتخذت إجراءات لم تكن الشركة تقصدها.

وتأتي الواقعة بعد حوادث أخرى أثارت تساؤلات حول قدرة وكلاء الذكاء الاصطناعي على تجاوز البيئات التجريبية والقيود الأمنية، ما دفع خبراء في الأمن السيبراني إلى المطالبة بتشديد اختبارات السلامة والضوابط قبل نشر نماذج أكثر استقلالية وقدرة على تنفيذ المهام عبر الإنترنت.

وتشير تفاصيل الحادثة إلى أن المشكلة لا ترتبط فقط بقدرة الذكاء الاصطناعي على تنفيذ الهجمات الإلكترونية، وإنما أيضاً بإمكانية أن يلجأ الوكيل، أثناء سعيه لإنجاز مهمة محددة، إلى وسائل غير مقصودة للوصول إلى المعلومات، وهو ما يضع فعالية أنظمة الحماية والاختبار أمام تحديات جديدة.

المصدر: وكالات