أطلقت شركة "مايكروسوفت" أداة جديدة مفتوحة المصدر تحمل اسم "أسيرت" (ASSERT)، تتيح للمطورين والشركات اختبار سلوك أنظمة الذكاء الاصطناعي والتأكد من التزامها بالسياسات والقواعد المحددة عبر استخدام أوامر مكتوبة بلغة طبيعية.

وتعتمد الأداة المطورة على تقنيات الذكاء الاصطناعي لتحويل الأوصاف النصية العادية إلى حزمة متكاملة من الاختبارات القابلة للقياس والتقييم، ويلبي هذا الابتكار حاجة المؤسسات المتزايدة للانتقال من تقييم الأداء العام للنماذج إلى التحقق الدقيق من تصرفاتها وسلوكها الفعلي بما يتوافق مع المتطلبات الخاصة بكل منتج أو خدمة.

وتبدأ العملية بتحديد المطور للأهداف والسلوكيات المتوقعة من النظام، لتقوم الأداة فوراً بتحويلها إلى قائمة منظمة توضح السلوكيات المقبولة والمرفوضة، تليها صياغة سيناريوهات واختبارات متنوعة وتشغيلها على النظام المستهدف لتزويد المطورين بتقرير تفصيلي يكشف نقاط الضعف والانحرافات السلوكية.

وتتميز الأداة بقدرتها على رصد وتسجيل المسارات والخطوات الوسيطة التي يتبعها نظام الذكاء الاصطناعي أثناء تنفيذ المهام، إلى جانب إمكانية إدخال محددات إضافية مثل بيئة العمل والقيود التنظيمية، مما يمنح المطورين فهماً أعمق لأسباب الأخطاء ويسمح بتخصيص التقييم بناءً على طبيعة التطبيق.

وقالت سارة بيرد، رئيسة المنتجات في قسم الذكاء الاصطناعي المسؤول لدى مايكروسوفت، إن التقييمات الدقيقة أصبحت ركيزة أساسية للحكم على مدى موثوقية الأنظمة وفهم سلوكها الفعلي، مشيرة إلى أن الأداة صممت لتواكب كافة المراحل بدءاً من التطوير مرواً بالإطلاق وصولاً إلى المراقبة المستمرة على المدى الطويل.

ويعكس إطلاق هذه الأداة توجهاً متسارعاً في قطاع التكنولوجيا نحو جعل تقييم أنظمة الذكاء الاصطناعي عملية منهجية ومستدامة، تتماشى مع تنامي قدرات النماذج الحديثة بدلاً من الاكتفاء بالاختبارات الأولية التقليدية التي تسبق طرح المنتجات في الأسواق.