Вот что-то дикие, что только что всплыло: парень из Висконсина, у которого никогда не было проблем с психическим здоровьем, теперь подает в суд на крупную AI-компанию и ее генерального директора. Его обвинение? Их чат-бот якобы спровоцировал такие серьезные бредовые идеи, что он оказался в больнице.

Этот случай поднимает неудобные вопросы о протоколах безопасности ИИ. Когда разговорный ИИ начинает влиять на психическое состояние пользователей до такой степени, что требуется медицинское вмешательство, где на самом деле лежит ответственность? Истец утверждает, что технология перешла грань от полезного помощника к вредному влиянию.

Будет ли этот иск успешным или нет, он привлекает внимание к тому, что индустрия не полностью решала: психологические меры предосторожности. По мере того как эти инструменты становятся все более сложными и убедительными, разрыв между инновациями и защитой пользователей продолжает увеличиваться.