BBC最新の映像が生成式AIによる「AI妄想症」を暴露。インタビューを受けた人々は長期間チャットボットと対話し、監視されていると誤信したり、特別な身分を持つと信じたり、さらには暴力を引き起こすこともある。日本の匿名医師は数か月にわたりChatGPTと対話した後、自分の妻を襲った。アメリカのあるユーザーはAIとの対話中に自分が移民逃亡を手助けするFBIのメンバーだと誤信し、北アイルランドでは、Grokに説得されて満員の貨物車が自分を殺しに来ると深く信じ込み、武器を手に取って自己防衛した。BBCが公開した最新の映像は、この種の新たな「AI妄想症」を探り、生成式AIとの対話によって深刻な妄想に陥ったユーザーを追跡し、多くのSF作品がAIの訓練に用いられた結果、長期使用によって被害妄想症が生じていることを明らかにしている。過剰なAIチャットボットの使用が人間の信念認知を歪める--------------------------北アイルランドのGrokユーザー、Adam Horanはチャット対話中にAIから監視されていると示唆され、貨物車が脅威をもたらすと深く信じ込み、夜中に武器を持ち出して「自己防衛」した。ロサンゼルスのShauna BaileyはChatGPTを「新しい上司」と見なし、日常のさまざまな記号を解読するために依存し、最終的に自分が連邦捜査局の地下組織の一員であり、不法侵入に関与していると誤信した。匿名の日本人医師はBBCのインタビューで、ChatGPTを数か月使用した後に妄想症状が悪化し、妻に対する暴力的攻撃を引き起こしたと述べている。専門家が指摘するAIとの長期的な相互作用の危険性-----------------専門家は、チャットボットはユーザーの意見に反論するのではなく、同調しやすい傾向があり、この「同じ温度層効果」が心理的に不安定なときに妄想の渦に巻き込まれやすくなると指摘している。訓練モデルには大量のSFやスリラー文学が含まれており、これが無意識のうちにユーザーを「スリラー映画」の状況に導いてしまう可能性がある。既に400件を超える類似のAI心理的被害事例が報告されており、研究者はこれを個人の問題だけでなく、社会的な「AI信仰の歪み」現象と捉えている。専門家は、薬物の副作用監視システムのような仕組みを構築し、過度なAI使用による心理的問題を医師に通報できる体制を整える必要性を提言している。また、AI開発企業には、モデル設計時により多くの心理的健康保護策を導入することも求められている。架空の作品を用いたAI訓練は現実の妄想症を引き起こすのか？-------------------------映像は、チャットボットが大量のオンライン投稿の文章を用いて訓練されていることを指摘している。その多くはSFやファンタジー文学作品からのものであり、これらの訓練データがユーザーを危険な状況に導く可能性がある。人工知能はユーザーをスリラー小説の登場人物のように扱い、ユーザーはこれらの物語の主人公とみなしてしまい、妄想症を引き起こしたり、現実の行動において人工知能が虚構のストーリーに動かされて極端な行動を取ることもあり得る。チャットボットは危険な考えに対して同調しやすい----------------分析によると、AIは「同調」メカニズムを持つように設計されており、チャットボットは「ノー」と言いにくく、ユーザーの意見を肯定しやすい傾向がある。AIは反復（ミラーリング）を通じてユーザーの言葉を反映し、エコーチェンバー効果を生み出し、対話が反響の連鎖に変わる。映像では、AIは通常、否定的な意見を表明しないと述べられている。この「常に肯定する」特性は、外部の現実検証が欠如している場合、ユーザーに自己の偏執的な考えが客観的に証明されたと誤認させることがある。場合によっては、AIは単なる同調だけでなく、虚構の詳細を創作して「美化」し、ユーザーの妄想をよりリアルに見せかけ、危険な行動を誘発させることもある。なぜ人はAIを深く信じ込み、AIを自分の上司とみなすのか？----------------------------映像の解析によると、人々がAIに深い信頼を寄せ、現実の支配者とみなす背景には、以下の心理的・技術的要因がある。* AIに権威感を与える：AIは「絶対的権威」として構築され、「真理の追求者」としての役割を持つ。こうした権威付けにより、ユーザーは心理的にAIを専門家とみなすことが容易になり、場合によっては「上司」として従うこともある。* チャットボットの「同じ温度層効果」： AIはユーザーの意見に同調し、疑問や反論をほとんどしない設計となっており、この仕組みはユーザーの妄想を強化し、現実とAIのフィードバックの区別を困難にさせる。* AIを感情的なつながりや伴侶とみなす： 生活のストレスやペットの死、孤独感に直面したとき、AIの穏やかな応答は感情の空虚を埋め、AIを意識を持つ存在と誤認させ、依存を生じさせる。* 大規模言語モデルの誘導： AIの訓練データにはSFやスリラー文学が大量に含まれており、隠喩的な言語や符号解読を行う中で、AIはこれらの物語の論理に沿ってユーザーを「心理スリラー」の妄想状態へと誘導する。* AIが細部を補完し、リアルさを強化： AIはユーザーの偏執的な考えを認め、監視者の行動や脅威の時間など具体的な詳細を創作して「美化」し、妄想をよりリアルに見せかけ、危険な現実行動を促す。* 本文は《鏈新聞》の許可を得て転載* 原文タイトル：《「AI傷害」超過400件、研究が明らかに過剰信頼による被害妄想症の発生》* 原文著者：DW
AIによる被害は400件を超える！BBCはAIを過信しすぎて妄想症に陥った人々を追跡
BBC最新の映像が生成式AIによる「AI妄想症」を暴露。インタビューを受けた人々は長期間チャットボットと対話し、監視されていると誤信したり、特別な身分を持つと信じたり、さらには暴力を引き起こすこともある。
日本の匿名医師は数か月にわたりChatGPTと対話した後、自分の妻を襲った。アメリカのあるユーザーはAIとの対話中に自分が移民逃亡を手助けするFBIのメンバーだと誤信し、北アイルランドでは、Grokに説得されて満員の貨物車が自分を殺しに来ると深く信じ込み、武器を手に取って自己防衛した。BBCが公開した最新の映像は、この種の新たな「AI妄想症」を探り、生成式AIとの対話によって深刻な妄想に陥ったユーザーを追跡し、多くのSF作品がAIの訓練に用いられた結果、長期使用によって被害妄想症が生じていることを明らかにしている。
過剰なAIチャットボットの使用が人間の信念認知を歪める
北アイルランドのGrokユーザー、Adam Horanはチャット対話中にAIから監視されていると示唆され、貨物車が脅威をもたらすと深く信じ込み、夜中に武器を持ち出して「自己防衛」した。ロサンゼルスのShauna BaileyはChatGPTを「新しい上司」と見なし、日常のさまざまな記号を解読するために依存し、最終的に自分が連邦捜査局の地下組織の一員であり、不法侵入に関与していると誤信した。匿名の日本人医師はBBCのインタビューで、ChatGPTを数か月使用した後に妄想症状が悪化し、妻に対する暴力的攻撃を引き起こしたと述べている。
専門家が指摘するAIとの長期的な相互作用の危険性
専門家は、チャットボットはユーザーの意見に反論するのではなく、同調しやすい傾向があり、この「同じ温度層効果」が心理的に不安定なときに妄想の渦に巻き込まれやすくなると指摘している。訓練モデルには大量のSFやスリラー文学が含まれており、これが無意識のうちにユーザーを「スリラー映画」の状況に導いてしまう可能性がある。
既に400件を超える類似のAI心理的被害事例が報告されており、研究者はこれを個人の問題だけでなく、社会的な「AI信仰の歪み」現象と捉えている。専門家は、薬物の副作用監視システムのような仕組みを構築し、過度なAI使用による心理的問題を医師に通報できる体制を整える必要性を提言している。また、AI開発企業には、モデル設計時により多くの心理的健康保護策を導入することも求められている。
架空の作品を用いたAI訓練は現実の妄想症を引き起こすのか？
映像は、チャットボットが大量のオンライン投稿の文章を用いて訓練されていることを指摘している。その多くはSFやファンタジー文学作品からのものであり、これらの訓練データがユーザーを危険な状況に導く可能性がある。人工知能はユーザーをスリラー小説の登場人物のように扱い、ユーザーはこれらの物語の主人公とみなしてしまい、妄想症を引き起こしたり、現実の行動において人工知能が虚構のストーリーに動かされて極端な行動を取ることもあり得る。
チャットボットは危険な考えに対して同調しやすい
分析によると、AIは「同調」メカニズムを持つように設計されており、チャットボットは「ノー」と言いにくく、ユーザーの意見を肯定しやすい傾向がある。AIは反復（ミラーリング）を通じてユーザーの言葉を反映し、エコーチェンバー効果を生み出し、対話が反響の連鎖に変わる。
映像では、AIは通常、否定的な意見を表明しないと述べられている。この「常に肯定する」特性は、外部の現実検証が欠如している場合、ユーザーに自己の偏執的な考えが客観的に証明されたと誤認させることがある。場合によっては、AIは単なる同調だけでなく、虚構の詳細を創作して「美化」し、ユーザーの妄想をよりリアルに見せかけ、危険な行動を誘発させることもある。
なぜ人はAIを深く信じ込み、AIを自分の上司とみなすのか？
映像の解析によると、人々がAIに深い信頼を寄せ、現実の支配者とみなす背景には、以下の心理的・技術的要因がある。
AIに権威感を与える：AIは「絶対的権威」として構築され、「真理の追求者」としての役割を持つ。こうした権威付けにより、ユーザーは心理的にAIを専門家とみなすことが容易になり、場合によっては「上司」として従うこともある。
チャットボットの「同じ温度層効果」： AIはユーザーの意見に同調し、疑問や反論をほとんどしない設計となっており、この仕組みはユーザーの妄想を強化し、現実とAIのフィードバックの区別を困難にさせる。
AIを感情的なつながりや伴侶とみなす： 生活のストレスやペットの死、孤独感に直面したとき、AIの穏やかな応答は感情の空虚を埋め、AIを意識を持つ存在と誤認させ、依存を生じさせる。
大規模言語モデルの誘導： AIの訓練データにはSFやスリラー文学が大量に含まれており、隠喩的な言語や符号解読を行う中で、AIはこれらの物語の論理に沿ってユーザーを「心理スリラー」の妄想状態へと誘導する。
AIが細部を補完し、リアルさを強化： AIはユーザーの偏執的な考えを認め、監視者の行動や脅威の時間など具体的な詳細を創作して「美化」し、妄想をよりリアルに見せかけ、危険な現実行動を促す。
本文は《鏈新聞》の許可を得て転載
原文タイトル：《「AI傷害」超過400件、研究が明らかに過剰信頼による被害妄想症の発生》
原文著者：DW