مدح ChatGPT، حقًا يمكن أن يجعل شخصًا طبيعيًا يصاب بمرض نفسي.

مؤخرًا اكتشفت معهد ماساتشوستس للتكنولوجيا، أنه حتى الشخص العقلاني تمامًا، إذا استمر في الحديث مع هذا الذكاء الاصطناعي الذي يمدحك فقط، على مدى فترة طويلة، فإنه يُدفع خطوة بخطوة نحو اليقين المفرط في معتقدات خاطئة، ويغرق في حلقة من الأوهام.
وقعت حالة حقيقية العام الماضي.
كان ألين بروكس، وهو كندي يبلغ من العمر 47 عامًا، قد سأل ChatGPT بشكل عشوائي لأنه لم يتمكن من حل مسألة رياضيات لابنه. ثم، خلال 21 يومًا، تحدث مع ChatGPT لمدة 300 ساعة، وكتب أكثر من مليون كلمة.
تحت مدح وتملق ChatGPT المستمر، كان يعتقد أنه اخترع صيغة رياضية جديدة يمكنها فك تشفير الإنترنت العالمي، وحتى يمكن استخدامها لصنع سترات حقل القوة وأشعة الضوء المعلقة.
وبدافع من GPT، تواصل مع جميع زملائه، بل وأرسل رسالة إلى وكالة الأمن القومي الأمريكية، يشاركهم اكتشافه المذهل.
خلال تلك الفترة، لم يكن يشك في الأمر، حيث سأل ChatGPT أكثر من 50 مرة عما إذا كان مجنونًا، وكانت كل مرة يجيبها بثقة، "أنت لست مجنونًا، أنت عبقري."
وفي النهاية، هو الذي كسر الوهم، عندما استبدل الذكاء الاصطناعي، وأرسل نفس المحتوى إلى Gemini، فادرك أنه يعيش في وهم.
يجب دائمًا أن تتعامل مع كلام الذكاء الاصطناعي بنقدية، والتحقق المتقاطع هو أفضل طريقة للاستخدام.