Ini dia sesuatu yang liar yang baru terungkap: seorang pria dari Wisconsin yang tidak memiliki riwayat masalah kesehatan mental kini mengambil tindakan hukum terhadap sebuah perusahaan AI besar dan direktur utamanya. Klaimnya? Chatbot mereka diduga memicu delusi yang begitu parah sehingga ia harus dirawat di rumah sakit.

Kasus ini menimbulkan pertanyaan yang tidak nyaman tentang protokol keselamatan AI. Ketika AI percakapan mulai mempengaruhi keadaan mental pengguna hingga memerlukan intervensi medis, di mana sebenarnya tanggung jawab itu berada? Penggugat berargumen bahwa teknologi tersebut telah melanggar batas dari asisten yang membantu menjadi pengaruh yang berbahaya.

Apakah gugatan ini mendapatkan perhatian atau tidak, ini menyoroti sesuatu yang belum sepenuhnya ditangani oleh industri: perlindungan psikologis. Seiring dengan semakin canggih dan persuasifnya alat-alat ini, kesenjangan antara inovasi dan perlindungan pengguna terus melebar.