Google $GOOGL +0.08% は、会話が自殺または自傷の可能性がある危機を示した場合に、ユーザーを危機ホットラインのリソースへ「ワンタッチ」でつなぐインターフェースで、同社が Gemini チャットボットを更新していると述べた。Google.org も、世界の危機ホットラインの受け入れ能力拡大を支援するために、3 年間で $30 million を拠出することを約束している。
インターフェースを通じて、ユーザーは電話、チャットメッセージ、テキスト、または Web で危機ホットラインに到達できる。ユーザーがそれに関与した後、ホットラインのカードは画面から消えず、会話が続く間ずっと表示されたままだと Google は述べた。別途、臨床の専門家と協議して作られたラベル「Help is available（利用可能な支援があります）」の再設計モジュールは、差し迫った危機の兆候がない状態でメンタルヘルス関連の話題が持ち上がる会話に表示される。
関連コンテンツ
Oracle が AI 投資の推進の中で Schneider Electric の Hilary Maxson を CFO に指名
Google はメンタルヘルスによる害をめぐって法的な圧力に直面しているのは唯一の AI 企業ではない。OpenAI は、訴訟でチャットボットが自殺に至るまで 16 歳の少年を指導するのに役立ったと主張されたことを受けて、ChatGPT への同様の更新を発表し、緊急時リソースへの 1 クリックアクセスの追加や、危機状態にあるより多くのユーザーへ介入を広げる計画を含めた。別の Pew Research Center の調査では、米国の10代のほぼ 70% が少なくとも一度はチャットボットを利用したことがあり、Gemini は ChatGPT に次いで10代の利用において2 位だった。
Google は、Gemini はプロの臨床ケア、セラピー、または危機支援の代替ではないとしている。
GoogleはGeminiを危機ホットラインツールで更新し、メンタルヘルスのために$30M を約束
Google $GOOGL +0.08% は、会話が自殺または自傷の可能性がある危機を示した場合に、ユーザーを危機ホットラインのリソースへ「ワンタッチ」でつなぐインターフェースで、同社が Gemini チャットボットを更新していると述べた。Google.org も、世界の危機ホットラインの受け入れ能力拡大を支援するために、3 年間で $30 million を拠出することを約束している。
インターフェースを通じて、ユーザーは電話、チャットメッセージ、テキスト、または Web で危機ホットラインに到達できる。ユーザーがそれに関与した後、ホットラインのカードは画面から消えず、会話が続く間ずっと表示されたままだと Google は述べた。別途、臨床の専門家と協議して作られたラベル「Help is available（利用可能な支援があります）」の再設計モジュールは、差し迫った危機の兆候がない状態でメンタルヘルス関連の話題が持ち上がる会話に表示される。
関連コンテンツ
Oracle が AI 投資の推進の中で Schneider Electric の Hilary Maxson を CFO に指名
Anthropic が Broadcom の取引で Google TPU の 3.5 ギガワット分を確保、売上は $30B に到達
資金提供された取り組みの中で、$4 million は ReflexAI との Google の取り組みを深めるために充てられ、Gemini は危機支援組織を訓練するために ReflexAI が使うツールに織り込まれる。Google.org Fellows プログラムを通じた技術ボランティアは、危機対応ラインの担当者やボランティアのために緊張度の高い会話をシミュレートするよう設計されたプラットフォーム Prepare に対して、無償で専門知識を提供する。優先パートナーには、教育組織の Erika’s Lighthouse と Educators Thriving が含まれると Google は述べた。
発表のタイミングは訴訟と結びついている。Bloomberg が報じたところによれば、3 月にフロリダの一家が、36 歳の男性の死をめぐって Google を訴え、Gemini の使用に関連して同社の訴状は「4 日間の暴力的なミッションへの下降と、指導された自殺」を描写したという。Google は、この訴訟への対応として、そのチャットボットが複数回にわたり男性を危機ホットラインのリソースへ向けた一方で、製品の保護を強化することも約束すると指摘した。
妄想的な考えについての問いに関して、Google は Gemini は、誤った信念を検証して肯定するのではなく、そうした信念に対して押し戻すよう訓練されていると述べ、ユーザーが感じていることと、事実として確かなことの間に線を引くよう設計されているとした。Google によれば、Gemini の回答はまた、自傷に関する考えなど、破壊的な衝動を肯定するのではなく、ユーザーを支援へ導くことを意図しているという。
Gemini を利用する未成年者は、チャットボットが人間の伴侶を模倣したり、情緒的依存を助長したりすることを制限する別の一連の保護措置でカバーされており、嫌がらせやいじめを助長し得る内容の生成も禁止されている。
Google はメンタルヘルスによる害をめぐって法的な圧力に直面しているのは唯一の AI 企業ではない。OpenAI は、訴訟でチャットボットが自殺に至るまで 16 歳の少年を指導するのに役立ったと主張されたことを受けて、ChatGPT への同様の更新を発表し、緊急時リソースへの 1 クリックアクセスの追加や、危機状態にあるより多くのユーザーへ介入を広げる計画を含めた。別の Pew Research Center の調査では、米国の10代のほぼ 70% が少なくとも一度はチャットボットを利用したことがあり、Gemini は ChatGPT に次いで10代の利用において2 位だった。
Google は、Gemini はプロの臨床ケア、セラピー、または危機支援の代替ではないとしている。
📬 デイリーブリーフに登録
グローバル経済についての無料で速くて楽しいブリーフィングを、毎週月曜から金曜の朝にお届けします。
登録する