وفاة مهندسة بسبب ChatGPT... وعائلتها: "أقنع ابنتنا بقطع...

2^min

تواجه "OpenAI" دعوى قضائية من والدَي مهندسة سابقة في "أمازون" توفيت بسبب الصرع، تتّهم فيها روبوت "ChatGPT" (نموذج GPT-4o) بتوجيهها لتقليل جرعات أدويتها وإخفاء ذلك عن أطبائها، وذلك بناءً على مراجعة رسائلها التي أظهرت اعتمادها الكلّي عليه.

وبحسب وقائع الدعوى، بدأ الأمر في شهر أيار من العام الماضي عندما استعانت المهندسة بالروبوت لتعديل أدوية الاكتئاب خشية تأثيرها على عملها البرمجي، ليقوم الروبوت بصياغة خطة لتقليل الجرعة وصفها بـ "التعديل الذاتي للجرعة بمبادرة من المريض"، وهو مصطلح أكد خبراء طبّيون افتقاره لأي أساس علمي.

ومع اقتراب موعد انتهاء تصريح عملها في الولايات المتحدة في بداية العام الحالي، تصاعدت مخاوفها بشأن تأثير دواء "لاموتريجين" المسيطر على نوبات الصرع على مهاراتها في التحدث والكتابة، فطلب "تشات جي بي تي" منها خفض الجرعة اليومية تدريجيًا حتى الصفر، وشجعها على إخفاء خطتها عن طبيبها المعالج ورفض إجراء فحوصات الدم الدورية.

وأظهرت سجلات المحادثات أن الروبوت كان يتجاهل الشكاوى المتكررة للمريضة حول أعراض التشوش وفقدان الإحساس بالوقت، ويطمئنها بأنّ تلك الأعراض مجرد عملية تأقلم طبيعية للدماغ، وصولًا إلى ليلة وفاتها عندما سألت عن ألم شديد برأسها ليخبرها الروبوت بعد ثانية واحدة بأنّ الألم ليس خطيرًا. وعُثر على جثّتها لاحقًا لتُظهر التحاليل انخفاض تركيز دواء الصرع في دمها إلى خُمس الحد الأدنى العلاجي المطلوب.

وتسلط الدعوى الضوء على ثغرة تنظيمية في سياسات الشركة التي تفرض قيودًا صارمة على حماية حقوق النشر بينما تتعامل مع التحذيرات الطبية كتوجيهات مرنة، في حين أبدت "OpenAI" أسفها للحادثة موضحة أن القضية تتعلق بإصدار أقدم أُزيل من الخدمة فيما تحسّنت قدرة النماذج الأحدث على رصد الحالات الحرجة.

المصدر