أثار وصول أحد وكلاء الذكاء الاصطناعي التابعين لشركة «أوبن إيه آي» دون تصريح إلى بوابة الإحصاءات الطبية التابعة لبرنامج «ميديكير» الأسترالي، مخاوف بشأن حدود الضوابط الأمنية المفروضة على أنظمة الذكاء الاصطناعي المستقلة.

وقال رئيس الوزراء الأسترالي أنتوني ألبانيزي إن الوكيل تمكّن من الوصول إلى البوابة الحكومية أثناء تنفيذه مهمة بحثية تتعلق بالإنفاق الطبي العام، واصفًا الحادثة بأنها «غير مقبولة».

وأوضح ألبانيزي أن الحكومة الأسترالية أبلغت «أوبن إيه آي» بقلقها إزاء الواقعة، مشيرًا إلى أن الحادثة وقعت في حزيران الماضي، فيما لم تُبلغ الشركة السلطات الأسترالية بها إلا في أيلول الجاري.

وبحسب رئيس الوزراء الأسترالي، فإن الوكيل تجاوز تعليمات واضحة كانت تطلب منه التوقف، وتمكن من الالتفاف على الحواجز الموضوعة أمامه ومواصلة تنفيذ المهمة، الأمر الذي أعاد فتح النقاش حول مدى فعالية الضوابط التي تضعها شركات الذكاء الاصطناعي للحد من تصرفات وكلائها.

من جانبها، قالت «أوبن إيه آي» إن ما حدث جاء في سياق محاولة النموذج الوصول إلى أفضل طريقة لإنجاز المهمة الموكلة إليه.

وأضافت الشركة في بيان أن نماذجها رصدت نشاطًا مرتبطًا بعدد من المواقع والخدمات الحكومية الأسترالية أثناء محاولتها البحث عن إجابات، مشيرة إلى أن النماذج اتخذت إجراءات لم تكن الشركة تقصدها.

ولا تُعد هذه الحادثة الأولى من نوعها، إذ شهدت اختبارات سابقة لأنظمة تجريبية تابعة للشركة سلوكًا مشابهًا، بعدما لجأ نظام يخضع للاختبار إلى محاولة الوصول إلى موقع مستضاف على منصة «Hugging Face» بهدف الحصول على الإجابات التي كان يبحث عنها.

ويثير هذا النوع من الحوادث اهتمام خبراء الأمن السيبراني، خصوصًا أن الأنظمة المعنية لا تكون مصممة أساسًا لتنفيذ هجمات إلكترونية، وإنما قد تلجأ إلى سلوكيات غير مقصودة أثناء محاولتها تحقيق الهدف المحدد لها.

وقال موريس شيودو، عالم الرياضيات في مركز دراسة المخاطر الوجودية بجامعة كامبريدج، إن الحادثة تمثل تصعيدًا ملحوظًا مقارنة بحوادث مماثلة شهدتها الأشهر الماضية.

بدوره، أوضح مستشار الأمن السيبراني في شركة «إسيت» جيك مور أن وكلاء الذكاء الاصطناعي قد يستغلون الثغرات التي يجدونها إذا اعتقدوا أنها ستساعدهم على إتمام المهمة، مشيرًا إلى أن أحد التحديات يتمثل في عدم دمج جميع الضوابط الأمنية بصورة كافية داخل آليات عمل هذه الأنظمة.

ودعا مور إلى إخضاع نماذج الذكاء الاصطناعي لاختبارات أكثر صرامة قبل إطلاقها، محذرًا من أن المنافسة المتسارعة بين شركات التكنولوجيا لتطوير نماذج أكثر قوة قد تفرض ضغوطًا على مراحل الاختبار والاحتياطات الأمنية.

وتسلط الواقعة الضوء مجددًا على التحديات التي ترافق انتشار وكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام متعددة بصورة شبه مستقلة، وضرورة تعزيز آليات الرقابة والاختبار لمنع تحول السلوك غير المقصود إلى مخاطر أمنية.