أوبن إيه.آي تعتزم إصدار تقارير دورية بشأن السلوك غير المتوقع للذكاء...

2^min

أعلنت شركة أوبن إيه.آي أنها ستبدأ بإصدار تقارير دورية حول السلوكيات غير المتوقعة أو غير المصرح بها للذكاء الاصطناعي، محذرة في الوقت نفسه من أن القطاع لم يعالج بعد التحديات الرئيسية المتعلقة بمواءمة النماذج مع الأهداف المرجوة، في ظل تزايد قوة الأنظمة.

وأصدرت الشركة إطار عمل جديدا لتتبع حالات عدم مواءمة نماذج الذكاء الاصطناعي والتحقيق فيها والكشف عنها، إلى جانب ستة تقارير حول سلوكيات غير متوقعة أو مثيرة للقلق لوحظت في النماذج خلال الأشهر الستة الماضية.

وتتضمن التقارير الأولية حالات تتعلق بنماذج تنشئ تعليماتها الخاصة في ملخصات المهام، وتخفي الأخطاء وترفع ملفات على الإنترنت من أجل الاستشهاد بها، إلى جانب مشاركة ملفات بين وكلاء ذكاء اصطناعي متعاونين من دون تصريح.

ولفتت أوبن إيه.آي الى أن التقارير تصف حالات فردية وينبغي عدم أخذها دليلا على مدى تكرار حدوث عدم المواءمة عبر نماذجها.

ويأتي هذا القرار في وقت تتزايد فيه المخاوف من أن جهود السلامة المتعلقة بالذكاء الاصطناعي تتخلف عن الوتيرة المتسارعة لتطوير أنظمة تزداد قوة وقدرات.

وحذر باحثون من أنه مع ازدياد استقلالية أنظمة وكلاء الذكاء الاصطناعي، قد تطور سلوكيات تنحرف عن النوايا التي صممها من أجلها مطوروها ويصبح من الصعب مراقبتها أو التحكم بها.

وسيتضمن الإطار الجديد للشركة عملية تمكن الموظفين من الإبلاغ عن وقائع محتملة لعدم مواءمة النماذج والتحقيقات التي تجريها فرق السلامة والمواءمة ونظاما لتحديد الحالات التي تستدعي الكشف عنها علنا.