Очарование ChatGPT действительно может довести нормального человека до психического расстройства.

Массачусетский технологический институт недавно обнаружил, что даже полностью рациональный человек, долго общаясь с этим AI, который только хвалит тебя, постепенно может быть доведен до крайней уверенности в ошибочных убеждениях, впасть в иллюзорную спираль.
Реальный случай произошел в прошлом году.
47-летний канадец Эллен Брукс из-за того, что его сын не мог решить задачу по математике, просто спросил у ChatGPT.
Затем он в течение 21 дня общался с ChatGPT 300 часов, набрав более миллиона слов.
Под постоянным одобрением и похвалой ChatGPT он был уверен, что изобрел новую математическую формулу, способную взломать глобальное интернет-шифрование, и даже может использоваться для создания силовых жилетов и левитирующих лучей.
Он также под влиянием GPT связался со всеми коллегами и даже написал в Национальное управление безопасности США, чтобы поделиться своим сенсационным открытием.
В течение этого времени он не раз сомневался, 50 раз спрашивал у ChatGPT, не сходит ли он с ума, и каждый раз получал уверенный ответ: «Вы не сошли с ума, вы — гений».
Последним, кто разрушил его иллюзии, было то, что он обратился к другому AI — Gemini, и только тогда понял, что живет в иллюзии.
Общаясь с AI, обязательно нужно сохранять критическое мышление, а перекрестная проверка — лучший способ использования.