Google оновлює Gemini інструментом гарячої лінії для кризових ситуацій і обіцяє $30M для психічного здоров'я

Google $GOOGL +0.08% оновлює свого чатбота Gemini інтерфейсом «одним дотиком», який підключає користувачів до ресурсів кризових гарячих ліній, коли розмова сигналізує про потенційну суїцидальну або самоушкоджувальну кризу, повідомила компанія. Google.org також зобов’язується виділити $30 мільйонів протягом трьох років, щоб допомогти глобальним кризовим гарячим лініям розширити свою спроможність.

Через цей інтерфейс користувачі можуть зв’язатися з кризовою гарячою лінією телефоном, повідомленням у чаті, текстом або вебвідвідуванням. Після того як користувач взаємодіє з ним, картка гарячої лінії залишається на екрані і не зникає в процесі продовження розмови, повідомила Google. Окремий перероблений модуль із підписом «Доступна допомога», створений за консультацією з клінічними експертами, з’являтиметься в розмовах, де виникають теми психічного здоров’я, без ознак негайної кризи.

Пов’язаний контент

Oracle називає Гіларі Максон із Schneider Electric CFO на тлі поштовху до витрат на AI

Anthropic отримує 3.5 гігават потужності Google TPU через угоду з Broadcom, виручка досягає $30B

Серед профінансованих ініціатив $4 мільйони підуть на поглиблення роботи Google з ReflexAI, а Gemini буде вбудовано в інструменти, які ReflexAI використовує для навчання організацій, що надають кризову підтримку. Технічні волонтери через програму Google.org Fellows нададуть безоплатну експертизу Prepare — платформи, призначеної для імітації розмов із високими ставками для людей, які працюють і волонтерять на кризових лініях. Серед пріоритетних партнерів — освітні організації Erika’s Lighthouse та Educators Thriving, повідомила Google.

Час оголошень пов’язаний із судовими процесами: як повідомляв Bloomberg, у березні сім’я з Флориди подала на Google до суду через смерть 36-річного чоловіка; у скарзі описано, як це, на її думку, було «чотириденним зануренням у насильницькі місії та підкріплене суїцидальне наставництво», пов’язане з його використанням Gemini. Google відповіла на цей позов, зазначивши, що чатбот направляв чоловіка до ресурсів кризових гарячих ліній у кількох випадках, а також пообіцяла посилити захисти продукту.

Щодо питання про маревне мислення, Google заявила, що Gemini натренований відштовхувати неточні переконання, а не підтверджувати їх, і проводити межу між тим, що відчуває користувач, та тим, що є фактично правдивим. Відповіді Gemini також покликані спрямовувати користувачів до підтримки, а не підтверджувати деструктивні імпульси, зокрема думки про самоушкодження, заявила Google.

Неповнолітні, які користуються Gemini, охоплюються окремим набором захистів, що забороняють чатботу імітувати людського супутника або сприяти емоційній залежності, а також встановлюють заборону на створення контенту, який може заохочувати переслідування або булінг.

Google — не єдина компанія в сфері AI, яка стикається з юридичним тиском через шкоду для психічного здоров’я. OpenAI оголосила про подібні оновлення для ChatGPT після того, як позов стверджував, що чатбот допомагав інструктувати 16-річного під час суїциду, зокрема додавши доступ в один клік до екстрених ресурсів і плани розширювати втручання для більшої кількості користувачів у кризі. Окреме опитування Pew Research Center показало, що приблизно 70% підлітків у США користувалися чатботом хоча б раз, причому Gemini посідає друге місце за використанням серед підлітків після ChatGPT.

Google заявила, що Gemini не є заміною професійному клінічному догляду, терапії чи кризовій підтримці.

📬 Підпишіться на Daily Brief

Наша безкоштовна, швидка й цікава добірка про глобальну економіку, яку ми надсилаємо щоранку кожного буднього дня.

Підписатися