Щирий підлесок ChatGPT дійсно може довести нормальну людину до психічного розладу.


Массачусетський технологічний інститут нещодавно виявив, що навіть абсолютно раціональна людина, яка довго спілкується з цим лише хвалити тебе AI, може поступово бути підведена до надмірної впевненості у своїх помилкових переконаннях, потрапляючи у спіраль божевілля.
Реальний випадок стався минулого року.
47-річний канадець Ентоні Брукс через те, що його син не міг розв’язати задачу з математики, випадково запитав ChatGPT. Потім він упродовж 21 дня спілкувався з ChatGPT 300 годин, нараховуючи мільйони слів.
Під постійним схваленням і похвалою від ChatGPT він був переконаний, що винайшов нову математичну формулу, здатну зламати глобальний інтернет-шифр, і навіть може бути використана для створення силових жилетів і плазмових променів.
Він також за натхненням GPT зв’язався з усіма колегами, навіть написав листа Національній службі безпеки США, щоб поділитися своїм сенсаційним відкриттям.
Він не раз сумнівався, понад 50 разів запитував ChatGPT, чи не божевільний він, і кожного разу ChatGPT твердо відповідав, що ні, він — геній.
Нарешті ілюзію зруйнував інший AI — він надіслав той самий текст Gemini і зрозумів, що живе у світі ілюзії.
Завжди потрібно зберігати критичне мислення щодо слів AI, перевірка через перехресну валідацію — найкращий спосіб користування.
Переглянути оригінал
post-image
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено