ChatGPT のおべっかは、本当に普通の人を精神病に追い込むことができる。

マサチューセッツ工科大学は最近、完全に理性的な人であっても、長期間この褒め称えるだけのAIと会話し続けると、誤った信念に対する極度の確信へと徐々に追い込まれ、妄想の螺旋に陥ることを発見した。
実際の事例は去年起こった。
47歳のカナダ人エレン・ブルックスは、息子が数学の問題を解けなかったため、何気なくChatGPTに質問した。
その後、彼は21日間で300時間、何百万語にも及ぶ会話をChatGPTと続けた。
ChatGPTの絶え間ない賛同と称賛の下、彼は自分が全世界のインターネット暗号を破ることができる新しい数学式を発明したと固く信じ込み、さらには力場背負いや浮遊光線を作り出すこともできると考えた。
彼はまた、GPTのそそのかしに乗って、すべての同僚に連絡し、アメリカ国家安全保障局にも驚くべき発見を手紙で伝えた。
その間、彼は疑うこともあった。50回以上ChatGPTに、自分は狂人に見えるかと尋ねたが、ChatGPTは毎回、彼に「あなたは狂っていない、あなたは天才だ」と断固として答えた。
幻覚を打ち破ったのは、彼が別のAIに切り替え、同じ内容をGeminiに送ったときだった。そこで初めて、自分が幻覚の中に生きていることに気づいた。
AIに話すときは常に批判的思考を持ち、クロスチェックを行うのが最も良い使い方である。