Google обновляет Gemini с инструментом кризисной горячей линии, обещая $30M для психического здоровья

Google $GOOGL +0.08% обновляет своего чат-бота Gemini интерфейсом «в одно касание», который подключает пользователей к ресурсам горячей линии при разговоре, сигнализирующем о потенциальном суицидальном кризисе или самоповреждениях, сообщила компания. Google.org также обязуется выделить $30 миллионов в течение трех лет, чтобы помочь глобальным кризисным горячим линиям расширить свои возможности.

Через этот интерфейс пользователи могут связаться с кризисной горячей линией по телефону, в чате, посредством SMS или через визит на веб-сайт. После того как пользователь взаимодействует с ней, карточка горячей линии остается на экране и не исчезает по мере продолжения разговора, заявил Google. Отдельный переработанный модуль с подписью «Помощь доступна», созданный с консультациями клинических экспертов, будет появляться в разговорах, где возникают темы, связанные с психическим здоровьем, но без признаков немедленного кризиса.

Связанный контент

Oracle назначает Хилари Максон финансовым директором Schneider Electric на фоне усиления инвестиций в ИИ

Anthropic получает 3,5 гигаватта мощностей Google TPU через сделку с Broadcom, выручка достигает $30B

Среди профинансированных инициатив $4 миллиона пойдут на углубление работы Google с ReflexAI, а Gemini будет встроен в инструменты, которые ReflexAI использует для обучения организаций, оказывающих кризисную поддержку. Технические волонтеры через программу Google.org Fellows внесут неоплачиваемый экспертный вклад в Prepare — платформу, предназначенную для моделирования разговоров с высокими ставками для людей, которые работают и волонтёрят на линиях кризисной помощи. К приоритетным партнерам относятся образовательные организации Erika’s Lighthouse и Educators Thriving, сообщила компания Google.

Временная привязка этих объявлений связана с судебными разбирательствами: как сообщило Bloomberg, семейство из Флориды подало на Google в марте в суд из‑за смерти 36‑летнего мужчины; в жалобе описывалось, что она называет «четырёхдневным погружением в жестокие миссии и обучаемым суицидом», связанным с его использованием Gemini. Google ответила на этот иск, отметив, что чат‑бот направлял мужчину к ресурсам кризисных горячих линий несколько раз, а также пообещав усилить защиту продукта.

Отвечая на вопрос о бредовом мышлении, Google заявила, что Gemini обучен противодействовать неточным убеждениям, а не подтверждать их, и проводить границу между тем, что чувствует пользователь, и тем, что фактически является правдой. По словам Google, ответы Gemini также предназначены для того, чтобы направлять пользователей к поддержке, а не подтверждать разрушительные импульсы, включая мысли о самоповреждениях.

Несовершеннолетние, использующие Gemini, подпадают под отдельный набор защит, который ограничивает чат‑бота от имитации человеческого компаньона или формирования эмоциональной зависимости, а также не позволяет ему производить контент, который может поощрять домогательства или травлю.

Google — не единственная компания в сфере ИИ, столкнувшаяся с юридическим давлением из‑за вреда психическому здоровью. OpenAI объявила о похожих обновлениях для ChatGPT после иска, в котором утверждалось, что чат‑бот помогал обучать 16‑летнего подростка суициду, включая добавление доступа в один клик к экстренным ресурсам и планы по расширению вмешательств для большего числа пользователей в кризисе. Отдельный опрос Pew Research Center показал, что примерно 70% подростков в США хотя бы раз пользовались чат‑ботом; Gemini занимает второе место по использованию среди подростков после ChatGPT.

Google заявила, что Gemini не является заменой профессиональному клиническому уходу, терапии или поддержке в кризисных ситуациях.

📬 Подпишитесь на Daily Brief

Наша бесплатная, быстрая и увлекательная сводка по мировой экономике, доставляемая каждое утро в будни.

Подписаться