تتصاعد داخل صناعة الذكاء الاصطناعي نفسها التحذيرات من قدرات النماذج المتقدمة، في وقت تحاول فيه الشركات التي تطور هذه الأنظمة المشاركة في صياغة القواعد التي ستنظمها،
ويضع ذلك OpenAI وAnthropic في موقع مزدوج، فهما تعملان على زيادة قدرات النماذج والوكلاء من جهة، وتطالبان في الوقت نفسه بوجود اختبارات وضوابط للأنظمة الأكثر تقدمًا من جهة أخرى،
ما يجعل ملف السلامة جزءًا من المنافسة التقنية والتنظيمية معًا.
الذكاء الاصطناعي
وفقًا لتقرير لوكالة Associated Press، حذر قادة OpenAI وAnthropic من المخاطر المحتملة للنماذج المتقدمة، ودعوا إلى تنظيم واختبار مستقل لبعض الأنظمة قبل إطلاقها،
وتأتي هذه الدعوات بينما تحاول شركات الذكاء الاصطناعي التأثير في النقاش الدائر حول الشكل الذي يجب أن تتخذه القواعد المنظمة للتقنية،
خصوصًا مع تزايد قدرات النماذج على البرمجة واستخدام الأدوات وتنفيذ المهام متعددة الخطوات.
القضية لا تتعلق بإيقاف تطوير الذكاء الاصطناعي، بل بكيفية قياس قدرات الأنظمة قبل منحها وصولًا أوسع إلى الأدوات والبيانات،
فاختبارات السلامة التقليدية التي تركز على النص الذي ينتجه النموذج قد لا تكون كافية مع ظهور الوكلاء، لأن النظام أصبح قادرًا على تنفيذ إجراءات وليس مجرد توليد إجابات،
ولذلك تبرز الحاجة إلى تقييم السلوك الفعلي للنموذج في البيئات الخارجية، واختبار قدرته على الالتزام بالصلاحيات المحددة له،
ومراقبة ما يحدث عندما يواجه عقبة تمنعه من إكمال المهمة بالطريقة المتوقعة.