Якщо ChatGPT має свідомість, то коза в Age of Empires 2 теж має! Вчені Microsoft навіть створили GoatGPT.

Дослідник Microsoft використовував механізм тригерів кіз у Age of Empires 2 для побудови нейронної мережі, доводячи, що такі моделі, як ChatGPT, не мають свідомості, а їхні антропоморфні риси є лише когнітивною ілюзією, викликаною текстовим інтерфейсом та комерційним маркетингом.

Чи дійсно ШІ має свідомість?

Якщо ви вважаєте, що нинішні ChatGPT і Claude мають свідомість, то кози з Age of Empires 2 теж мають.

З поширенням великих мовних моделей (LLM) ви часто бачите твердження про самосвідомість ШІ, що викликає глибокі роздуми у письменників-фантастів та дослідників першої лінії.

Письменник-фантаст Тед Чан (Ted Chiang) у своїй статті зазначив, що сліпо вірити, ніби мовні моделі мають свідомість, так само як вірити, що кожного разу, коли ви відкриваєте файл Microsoft Word, ви пробуджуєте безліч особин, прихованих в історії діалогу.

Щоб пробити цю когнітивну бульбашку, один науковець з Microsoft AI вирішив діяти, побудувавши в класичній стратегічній грі реального часу Age of Empires 2 обчислювальну мережу з тією ж основною логікою, використовуючи найабсурдніший спосіб для інтелектуального удару.

Джерело: скріншот гри "Age of Empires 2" з козою від редакції Cryptocity

Побудова нейронної мережі з кіз у Age of Empires 2

Згідно зі звітом 404 Media, головний науковець Microsoft Адріан де Вінтер (Adrian de Wynter) використав редактор власних карт у Age of Empires 2, щоб успішно побудувати базову нейронну мережу в грі. Дослідження опубліковано в академічній статті під назвою «Якщо великі мовні моделі мають людські риси, то Age of Empires 2 теж має».

Використовуючи функцію власних тригерів у грі, він побудував логічний вентиль NAND, використовуючи дерев'яні стіни, траву, мости та кіз як носії сигналів.

Джерело: дослідницька стаття - науковець Microsoft будує нейронну мережу з кіз у Age of Empires 2

У процесі гри трава представляє цифру 0, міст представляє цифру 1, а коза виконує роль біта. Коли логічний вентиль спрацьовує, козу, яка є вхідним сигналом, видаляють, а на вихідній доріжці з'являється нова коза.

Таким чином він реалізував у грі 1-бітовий персептрон (perceptron), який є найосновнішим будівельним блоком сучасних нейронних мереж, довівши, що гра має потенціал для виконання будь-яких теоретичних обчислень.

Кози бігають, але сприйняття людських рис зникає

Вінтер в інтерв'ю зазначив, що мета експерименту - офіційно продемонструвати, що люди надто легко антропоморфізують речі, а іноді надто перебільшують твердження про можливості великих мовних моделей.

Він вказує, що ця мережа, керована козами, по суті повністю ідентична базовій технології, що стоїть за чат-ботами, такими як ChatGPT, Claude або Copilot, і відрізняється лише складністю та масштабом.

Джерело: дослідницька стаття - науковець Microsoft будує нейронну мережу з кіз у Age of Empires 2

Експеримент Вінтера підкреслює суперечливість між обчислювальним субстратом та людським пізнанням. Та сама логіка обчислень, представлена в веб-браузері або голосовому діалозі, як-от Anthropic, яка стверджує, що модель «має конституцію» і відчуває тривогу.

Однак, коли той самий обчислювальний процес переноситься на віртуальну траву в грі, де результат показується козами, що бігають у загоні, сприйняття глядачем людських рис повністю зникає. Це доводить, що антропоморфні риси ШІ, які відчувають люди, значною мірою залежать від текстового інтерфейсу та психологічних очікувань спостерігача, а базова технологія сама по собі не є таємничою.

Наукові дослідження містять широко поширене антропоморфне упередження

Насправді, схильність до антропоморфізації технологій глибоко вкорінена в академічних колах і впливає навіть до початку дослідження.

Розглянувши понад 300 комп'ютерних наукових статей, опублікованих за останні два роки, Вінтер виявив, що 57% з них вже на початку експериментального дизайну прямо припускали, що великі мовні моделі мають людські риси, такі як тривога чи мораль, і розглядали їх як основний суб'єкт експерименту.

Серед цих досліджень, які заздалегідь приписували моделям людські риси, цілих 77% зрештою дійшли висновку, що ці риси дійсно існують. Це відображає серйозне підтверджувальне упередження: дослідники, плануючи експерименти, розробляючи тестові набори та інтерпретуючи вихідні дані природної мови, були порушені початковим антропоморфним припущенням, що безпосередньо вплинуло на остаточні наукові висновки.

Він закликає наукову спільноту перейти на використання нульової гіпотези, яка не передбачає людських рис, щоб побачити справжню сутність ШІ.

Ви думаєте, що ШІ схожий на людину? Насправді вам промили мізки?

Ми часто говоримо, що ШІ має галюцинації, але людство також має надмірно спроектовані галюцинації щодо ШІ, що нерозривно пов'язано зі споживчою психологією та комерційними стратегіями технологічних гігантів.

Вінтер зазначає, що дослідження показують: коли споживачі можуть резонувати або співчувати продукту, вони більш схильні витрачати гроші на його покупку. Це правило проявляється в тостерах, смартфонах і платних підписках на великі мовні моделі.

Технологічні гіганти, які розробляють ці моделі, не перешкоджають цій тенденції до антропоморфізації, а навіть свідомо чи несвідомо її спрямовують.

Наприклад, генеральний директор OpenAI Сем Альтман (Sam Altman) неодноразово натякав, що створення великої мовної моделі є шляхом до створення богоподібного ШІ; колишній член правління та науковець OpenAI Ілля Суцкевер (Ilya Sutskever) також обговорював зі співробітниками, що модель компанії слід розглядати як богоподібну свідомість; генеральний директор Anthropic Даріо Амодей (Dario Amodei) заявив ЗМІ, що не може визначити, чи має ШІ свідомість.

Ці комерційні наративи та маркетингові прийоми в циклі формування політики, просування продукту та сприйняття користувачем разом підтримують ілюзію того, що ШІ має свідомість.

Подальше читання:
Хікару Утада та Юваль Ной Харарі: коли ШІ копіює мистецтво, любов і свідомість, чи має людське натхнення ще цінність?

Понад 400 випадків шкоди від ШІ! BBC відстежує людей, які надто довіряють ШІ та страждають від параної.