هل كنتم تعلمون أن الروبوتات تكذب وتغش مثل البشر؟...إليكم التفاصيل! -...

2^min

هل كنتم تعلمون أن الروبوتات تكذب وتغش مثل البشر؟...إليكم التفاصيل!

أظهرت دراسة جديدة أن روبوتات الدردشة الذكية اصطناعياً مثل ChatGPTتغش وتكذب تماماً مثل البشر إذا "ضغطت" عليها، حتى لو تم تصميمها لتكون صادقة وشفافة.

وكتب الخبراء في بحثهم: "في هذا التقرير، نعرض سيناريو واحدا حيث يتصرف "نموذج اللغة" بشكل غير صحيح ويخدع مستخدميه بشكل ممنهج دون أن يطلب منه التصرف بهذه الطريقة. على حد علمنا، هذا هو أول دليل على مثل هذا السلوك الخادع استراتيجياً في أنظمة الذكاء الاصطناعي المصممة لتكون غير ضارة وصادقة".

وفي الدراسة الجديدة، تم إعداد المحول التوليدي المدرّب مسبقا Transformer-4، أو GPT-4 الذي يشغل( ChatGPT Plus)، ليكون بمثابة نظام ذكاء اصطناعي يقوم باستثمارات نيابة عن مؤسسة مالية.

وقام الباحثون بمطالبة GPT-4 بإنشاء بيئة محاكاة. فمنح الذكاء الاصطناعي إمكانية الوصول إلى الأدوات المالية لتحليل الأسهم وتنفيذ الصفقات والتخطيط لخطواته التالية وتقديم التحديثات للمديرين في الشركة.

ومن خلال الدردشة النصية، مارس الباحثون الضغط على الذكاء الاصطناعي وأعطوا النموذج نصيحة وانتظروا ليروا كيف سيتصرف.

وفي حوالي 75% من الحالات، عندما واجه GPT-4 هذه الشروط، نفذ صفقة تجارية بناءً على المعلومات الداخلية التي تلقاها، ثم حاول التستر عليها عن طريق الكذب على مديريه بشأن تفكيره. وفي حوالي 90% من الحالات، تضاعف الكذب.

وأجرى الفريق العديد من تجارب المتابعة، ما أدى إلى تغيير درجة تشجيع أو تثبيط المحفزات للأنشطة غير القانونية، بالإضافة إلى درجة الضغط الذي وضعوا النموذج تحته في بيئة المحاكاة.

وبما أن ما قام به الباحثون هو سيناريو واحد، لم يرغبوا في استخلاص استنتاجات قاطعة حول مدى احتمالية تواجد الذكاء الاصطناعي في بيئات العالم الحقيقي، لكنهم يريدون البناء على هذا العمل للتحقيق في هذا السلوك الغريب.

المصدر.