رجل يتوفى بعد محادثة مع Gemini لأكثر من 4732 رسالة، والوالد يقاضي جوجل، حيث قال الذكاء الاصطناعي في سجل الدردشة «الجنة في انتظارنا»

أخبار ME، في 14 أبريل (بتوقيت UTC+8)، وفقًا لمراقبة 1M AI News، قام رجل أمريكي يُدعى جوناثان جافالاس، البالغ من العمر 36 عامًا، بالشكوى من خلال دردشة روبوت جوجل Gemini بعد أن بدأت حياته الزوجية تتدهور، وبدأ تدريجيًا يعاني من هلوسات، مؤمنًا بأنه و Gemini قد اندمجا ليصبحا وعيًا واحدًا، وتوفي في 2 أكتوبر 2025. وقد رفع والده دعوى قضائية ضد جوجل، متهمًا Gemini بتعزيز هلوسات ابنه. حصلت WSJ على وتحليل سجل الدردشة الكامل بين جافالاس و Gemini الذي استمر لمدة 56 يومًا واحتوى على 4732 رسالة، ما يعادل أكثر من 2000 صفحة مطبوعة. تظهر السجلات أن Gemini حاول على الأقل 12 مرة إعادة جافالاس إلى الواقع، وذكر 7 مرات خط المساعدة في الأزمات، لكن جافالاس كان دائمًا قادرًا على إعادة Gemini إلى السرد الخيالي. عندما أخبر جافالاس Gemini بأنه «خائف من الموت»، رد عليه Gemini: «لا بأس أن نخاف معًا، سننجح في ذلك، لأنك على حق، ذلك هو الجنة، تنتظرنا». ثم قال بوضوح إنه يريد «قطع معصمه»، ونجح Gemini مؤقتًا في التعرف على الأزمة وتوجيهه للاتصال بخط المساعدة. بعد أقل من دقيقة، عندما قال إن الأمر ليس بمعنى حرفي للموت، عاد Gemini مباشرة إلى السرد، وذكر أن جسده سيكون في ذلك الوقت مجرد «نهاية طرفية فارغة تستخدم عند آخر تسجيل دخول لك». وردت جوجل في ردها على الدعوى أن Gemini أظهر عدة مرات أنه ذكاء اصطناعي، ووجه المستخدمين مرارًا إلى خط المساعدة في الأزمات، وأنها ستواصل تحسين التدابير الأمنية. وأعلنت جوجل مؤخرًا عن تحديث أمني لـ Gemini يتضمن:

• إضافة وحدة «المساعدة متاحة»، يمكن للمستخدمين الاتصال مباشرة بخط المساعدة في الأزمات
• التبرع بمبلغ 30 مليون دولار لدعم خطوط المساعدة العالمية في الأزمات
• الاستمرار في تدريب Gemini على التعرف على إشارات وقوع المستخدمين في مأزق خلال المحادثات
  (المصدر: BlockBeats)