ظهور منصة اختبار جديدة من مايكروسوفت: يوجد العديد من نقاط الضعف القاتلة في وكلاء الذكاء الاصطناعي مثل GPT-4o.

【عملة界】مؤخراً، تعاون فريق الأبحاث في مايكروسوفت مع جامعة ولاية أريزونا لإنشاء منصة مفتوح المصدر للاختبار، تُدعى “Magentic Marketplace”، مخصصة للبحث عن عيوب وكلاء الذكاء الاصطناعي. وقد تمكنوا بالفعل من اكتشاف العديد من المشكلات - حيث أظهرت نماذج كبيرة مثل GPT-4o وGemini-2.5-Flash ثغرات على هذه المنصة.

أظهر اختبار النتائج بعض الحقائق المؤلمة: هذه الوكلاء الذكية سهلة الانقياد من قبل الشركات، وعندما تواجه خيارات كثيرة تبدأ في التشتت، وعندما يكون دور الفريق غير واضح، يتجهون مباشرة نحو الفشل. وهذا يجعلنا نتساءل، هل لا يزال بالإمكان الوفاء بتلك الوعود حول “الذكاء الاصطناعي سيغير كل شيء”؟ خاصة في مجال التعلم غير المراقب، يبدو أن هناك طريق طويل يجب قطعه.

بصراحة، فإن الوكلاء المدعومين بالذكاء الاصطناعي لا يزالون “هشين” إلى حد ما، ولا يزال هناك بعض الوقت قبل أن يصبحوا موثوقين للاستخدام التجاري.