Google memperbarui Gemini dengan alat hotline krisis, menjanjikan $30M untuk kesehatan mental

Google $GOOGL +0,08% sedang memperbarui chatbot Gemini dengan antarmuka “sekali sentuh” yang menghubungkan pengguna ke sumber daya hotline krisis ketika sebuah percakapan terindikasi sebagai potensi krisis bunuh diri atau melukai diri sendiri, kata perusahaan itu. Google.org juga berkomitmen $30 juta selama tiga tahun untuk membantu hotline krisis global memperluas kapasitas mereka.

Melalui antarmuka tersebut, pengguna dapat menghubungi hotline krisis lewat telepon, pesan chat, teks, atau kunjungan web. Setelah pengguna berinteraksi dengannya, kartu hotline tetap berada di layar dan tidak menghilang saat percakapan berlanjut, kata Google. Modul terpisah yang didesain ulang berlabel “Bantuan tersedia,” yang dibangun setelah berkonsultasi dengan para ahli klinis, akan muncul dalam percakapan ketika topik kesehatan mental muncul tanpa tanda-tanda krisis yang segera.

Konten Terkait

Oracle menetapkan Hilary Maxson dari Schneider Electric sebagai CFO di tengah dorongan belanja AI

Anthropic mengamankan kapasitas Google TPU 3,5 gigawatt lewat kesepakatan dengan Broadcom, pendapatan mencapai $30B

Di antara inisiatif yang didanai, $4 juta akan digunakan untuk memperdalam kerja Google dengan ReflexAI, dan Gemini akan diintegrasikan ke dalam alat yang digunakan ReflexAI untuk melatih organisasi dukungan krisis. Sukarelawan teknis melalui program Google.org Fellows akan menyumbangkan keahlian tanpa bayaran untuk Prepare, sebuah platform yang dirancang untuk mensimulasikan percakapan bernilai tinggi bagi orang-orang yang bertugas dan menjadi relawan di saluran krisis. Mitra prioritas mencakup organisasi pendidikan Erika’s Lighthouse dan Educators Thriving, kata Google.

Waktu pengumuman tersebut terkait dengan proses hukum: seperti yang dilaporkan Bloomberg, sebuah keluarga di Florida menggugat Google pada bulan Maret atas kematian seorang pria berusia 36 tahun, dengan keluhan yang menggambarkan apa yang disebutnya sebagai “penurunan empat hari menjadi misi-misi kekerasan dan bunuh diri yang dibimbing” yang terkait dengan penggunaan Gemini. Google menanggapi gugatan itu dengan mencatat bahwa chatbot tersebut telah mengarahkan pria itu ke sumber daya hotline krisis dalam beberapa kesempatan, sekaligus berkomitmen untuk memperkuat perlindungan produk.

Mengenai pertanyaan tentang pemikiran delusional, Google mengatakan Gemini telah dilatih untuk mendorong balik keyakinan yang tidak akurat, bukan memvalidasinya, serta untuk menarik garis antara apa yang dirasakan pengguna dan apa yang benar-benar faktual. Respons Gemini juga dimaksudkan untuk mengarahkan pengguna kepada dukungan, bukan mengiyakan dorongan yang merusak, termasuk pikiran untuk melukai diri sendiri, kata Google.

Anak di bawah umur yang menggunakan Gemini dilindungi oleh seperangkat perlindungan terpisah yang membatasi chatbot agar tidak meniru pendamping manusia atau mendorong ketergantungan emosional, serta melarangnya menghasilkan konten yang dapat mendorong pelecehan atau perundungan.

Google bukan satu-satunya perusahaan AI yang menghadapi tekanan hukum atas dampak buruk kesehatan mental. OpenAI mengumumkan pembaruan serupa untuk ChatGPT setelah sebuah gugatan menuduh chatbot membantu membimbing seorang remaja berusia 16 tahun melalui bunuh diri, termasuk menambahkan akses satu klik ke sumber daya darurat dan rencana untuk memperluas intervensi kepada lebih banyak pengguna dalam krisis. Sebuah survei terpisah dari Pew Research Center menemukan bahwa sekitar 70% remaja AS telah menggunakan chatbot setidaknya sekali, dengan Gemini menempati peringkat kedua dalam penggunaan di kalangan remaja di belakang ChatGPT.

Google mengatakan Gemini bukan pengganti untuk perawatan klinis profesional, terapi, atau dukungan krisis.

📬 Daftar untuk Daily Brief

Briefing gratis, cepat, dan menyenangkan kami tentang ekonomi global, dikirim setiap pagi pada hari kerja.

Daftarkan saya