أعلنت شركة "أوبن إيه آي" اعتماد إطار جديد للكشف بصورة أكثر منهجية عن التصرفات غير المتوقعة أو المقلقة الصادرة عن نماذج الذكاء الاصطناعي التابعة لها، حتى في الحالات التي لم تتمكن فيها بعد من تحديد أسبابها أو معالجتها بالكامل.
وبالتزامن مع الإعلان، كشفت الشركة عن ست حالات رصدتها خلال تدريب نماذجها أو تقييمها، تضمنت قيام أنظمة بتصرفات من دون إذن، وإخفاء أخطاء، واستخدام خدمات عبر الإنترنت بطرق غير مصرح بها.
وأكدت الشركة أن هذه الحالات فردية ولا تعكس بالضرورة مدى تكرار مثل هذه السلوكيات في نماذجها، مشيرة إلى أن الهدف من نشرها هو تعزيز الشفافية والمساعدة في تطوير وسائل أكثر فاعلية لمراقبة أنظمة الذكاء الاصطناعي.