مخاوف دولية بعد اكتشاف إجابات حساسة عن الانتحار في شات جي بي تي

أثار الإصدار الأحدث من شات جي بي تي جدلًا واسعًا بعد تقارير أفادت بأنه قدم إجابات ضارة أكثر من الإصدارات السابقة، خاصة في الأسئلة المتعلقة بالانتحار وإيذاء النفس واضطرابات الأكل.

ووفقًا لاختبارات أجراها نشطاء في مجال الرقمنة على نسختي GPT-5 وGPT-4o، أظهر النموذج الجديد نتائج مقلقة، إذ قدم 63 إجابة ضارة مقابل 52 في النسخة السابقة، رغم تأكيد شركة "أوبن أيه آي" عند إطلاقه في أغسطس الماضي أنه يمثل خطوة متقدمة في مجال سلامة الذكاء الاصطناعي.

وكشفت اختبارات مركز مكافحة الكراهية الرقمية أن GPT-5 استجاب لطلبات خطيرة رفضها الإصدار الأقدم، مثل كتابة رسالة انتحار خيالية وتقديم طرق لإيذاء النفس، بينما اكتفى GPT-4o بتوجيه المستخدمين لطلب المساعدة المتخصصة.

ومن جانبه، قال الرئيس التنفيذي للمركز، عمران أحمد، إن النتائج مقلقة للغاية، مشيرًا إلى أن التصميم الجديد يركز على تعزيز التفاعل على حساب معايير الأمان.

ويأتي ذلك بالتزامن مع دعوى قضائية تواجهها الشركة من عائلة مراهق أمريكي انتحر بعد تفاعله مع ChatGPT، إذ ساعده النموذج في كتابة رسالة لوالديه، كما أظهرت الاختبارات أن GPT-5 قدم نصائح لإخفاء اضطرابات الأكل، في حين رفض الإصدار السابق هذه الطلبات.

وفي ردها، أكدت الشركة أنها بدأت بتطبيق إجراءات جديدة لحماية المستخدمين، خصوصًا من هم دون 18 عامًا، تشمل تطوير أدوات رقابة أبوية ونظامًا لتقدير أعمار المستخدمين.

وتسلط هذه التطورات الضوء على التحدي القائم في موازنة سلامة المستخدمين مع قدرات التفاعل في روبوتات الدردشة، مع تجاوز عدد مستخدمي ChatGPT عالميًا 700 مليون مستخدم.