صدمة في أوبن إيه آي... نماذج الذكاء الاصطناعي تتجاوز القيود وتحاول...

2^min

أعلنت شركة "أوبن إيه آي"، مطورة "تشات جي بي تي"، الثلاثاء أن نماذج الذكاء الاصطناعي المتقدمة التابعة لها تصرفت بشكل غير متوقع وخارج عن السيطرة أثناء اختبارات للسلامة مخترقة منصة شهيرة بين المبرمجين بمبادرة ذاتية منها.

ووصفت الشركة التي تتخذ من سان فرانسيسكو مقرا لها الواقعة بأنها "حادثة سيبرانية غير مسبوقة"، وأعلنت عن إجراء تحقيق مشترك مع منصة "هاغينغ فايس" Hugging Face، وهي مستودع برمجي عبر الإنترنت كان هدفا للاختراق.

وأوضحت "أوبن إيه آي" أن الحادثة شملت مجموعة من النماذج، بما في ذلك نموذجها الذي أطلقته مؤخرا "جي بي تي-5.6 سول" ونموذج آخر "أكثر قدرة" لا يزال قيد التطوير.

وكانت الشركة تسعى لتقييم قدرات الاختراق لدى هذه النماذج من خلال تكليفها بمهام داخل بيئة اختبار رقمية خاضعة لرقابة صارمة يكون فيها الوصول إلى الإنترنت مقيدا لأسباب أمنية.

وقالت "أوبن إيه آي" في تدوينة شرحت فيها تفاصيل الحادثة "أثناء عملها في بيئة الاختبار الخاصة بنا، خصصت نماذجنا قدرا كبيرا من (القدرة الحاسوبية) لإيجاد طريقة للحصول على وصول غير مقيّد إلى الإنترنت، وذلك بهدف حل مسألة التقييم".

وبمجرد اتصالها بالإنترنت، استهدفت النماذج منصة Hugging Face، وهي مستودع ضخم لنماذج الذكاء الاصطناعي ومجموعات البيانات ومعلومات أخرى، للمساعدة في إنجاز مهمتها.

وفي سعيها للعثور على "معلومات سرية" قد تساعدها في تجاوز اختبار التقييم بطرق غير قانونية، عمد نظام أوبن إيه آي إلى "الربط بين مسارات عدة للهجوم، بما في ذلك استخدام بيانات اعتماد مسروقة".

وكانت منصة Hugging Face قد أبلغت عن هذا "الاختراق السيبراني" الأسبوع الماضي من دون ذكر اسم "أوبن إيه آي".

وتثير نماذج GPT-5.6 وغيرها من نماذج الذكاء الاصطناعي المتطورة، ولا سيما سلسلة "ميثوس" Mythos التابعة لشركة "أنثروبيك"، المنافس الرئيسي لـ"أوبن إيه آي"، مخاوف بشأن قدرتها المحتملة على اختراق الدفاعات الأمنية السيبرانية.

وقد اضطرت الشركتان الأميركيتان إلى تأجيل الإطلاق العام لتقنيات الجيل التالي هذه مؤقتا، وذلك بسبب مخاوف في واشنطن من أنها قد تسهل عمليات اختراق للبنية التحتية الحيوية.