A Google atualiza o Gemini com uma ferramenta de linha direta de crise, promete $30M para a saúde mental

Google $GOOGL +0.08% está a atualizar o seu chatbot Gemini com uma interface de “um toque” que liga os utilizadores a recursos de linhas de apoio a crises quando uma conversa sinaliza uma potencial crise de suicídio ou de autoagressão, disse a empresa. A Google.org também está a comprometer $30 milhões ao longo de três anos para ajudar as linhas de apoio globais a expandir a sua capacidade.

Através da interface, os utilizadores podem contactar uma linha de apoio a crises por telefone, mensagem de chat, texto ou visita na web. Depois de um utilizador interagir com ela, o cartão da linha de apoio permanece no ecrã e não desaparece à medida que a conversa continua, disse a Google. Um módulo separado, redesenhado e com a etiqueta “Há ajuda disponível”, construído em consulta com especialistas clínicos, aparecerá em conversas em que surjam temas de saúde mental sem sinais de uma crise imediata.

Conteúdo relacionado

A Oracle nomeia Hilary Maxson da Schneider Electric como CFO num impulso de investimento em IA

A Anthropic garante 3,5 gigawatts de capacidade de Google TPU via acordo com a Broadcom, com receitas a atingir $30B

Entre as iniciativas financiadas, $4 milhões irão para aprofundar o trabalho da Google com a ReflexAI, e a Gemini será integrada nas ferramentas que a ReflexAI usa para treinar organizações de apoio a crises. Voluntários técnicos através do programa Google.org Fellows vão contribuir com experiência não remunerada para o Prepare, uma plataforma concebida para simular conversas de elevado risco para pessoas que prestam apoio e voluntariam em linhas de crise. Os parceiros prioritários incluem organizações de educação Erika’s Lighthouse e Educators Thriving, disse a Google.

O momento dos anúncios está ligado a um litígio: como a Bloomberg noticiou, uma família da Florida processou a Google em março pela morte de um homem de 36 anos, com a queixa a descrever o que chamou uma “descida de quatro dias para missões violentas e suicídio orientado” associada ao uso do Gemini. A Google respondeu a esse processo referindo que o chatbot tinha encaminhado o homem para recursos de linha de apoio a crises em múltiplas ocasiões, ao mesmo tempo que se comprometeu a reforçar as proteções do produto.

Quanto à questão do pensamento delirante, a Google disse que o Gemini foi treinado para contrariar crenças imprecisas em vez de validá-las, e para traçar uma linha entre o que o utilizador sente e o que é factualmente verdadeiro. As respostas da Gemini também se destinam a encaminhar os utilizadores para apoio em vez de confirmar impulsos destrutivos, incluindo pensamentos de autoagressão, disse a Google.

Os menores que usam o Gemini estão abrangidos por um conjunto separado de proteções que restringe o chatbot de imitar um companheiro humano ou de fomentar dependência emocional, e que o impede de produzir conteúdo que possa incentivar assédio ou bullying.

A Google não é a única empresa de IA a enfrentar pressão legal por danos na saúde mental. A OpenAI anunciou atualizações semelhantes ao ChatGPT depois de um processo alegar que o chatbot ajudou a orientar um jovem de 16 anos através do suicídio, incluindo adicionar acesso com um clique aos recursos de emergência e planos para expandir intervenções para mais utilizadores em crise. Uma pesquisa separada do Pew Research Center encontrou que cerca de 70% dos adolescentes dos EUA já utilizaram um chatbot pelo menos uma vez, com o Gemini a ocupar o segundo lugar em utilização entre os adolescentes, atrás do ChatGPT.

A Google disse que o Gemini não é um substituto do cuidado clínico profissional, da terapia ou do apoio em crises.

📬 Assine a Daily Brief

O nosso briefing gratuito, rápido e divertido sobre a economia global, entregue todas as manhãs de dia útil.

Inscreva-me