Если ChatGPT обладает сознанием, то и козы Age of Empires 2 тоже! Ученые Microsoft также создали GoatGPT.

Исследователь из Microsoft использовал механизм триггера коз в «Age of Empires II» для построения нейронной сети, тем самым доказывая, что такие модели, как ChatGPT, не обладают сознанием, а их антропоморфные черты являются лишь когнитивной иллюзией, вызванной текстовым интерфейсом и коммерческим маркетингом.

Действительно ли у ИИ есть сознание?

Если вы считаете, что у нынешних ChatGPT и Claude есть сознание, то и у коз из «Age of Empires 2» оно тоже есть.

С распространением больших языковых моделей (LLM) вы часто будете видеть утверждения о самосознании ИИ, что также вызывает размышления у писателей-фантастов и передовых исследователей.

Писатель-фантаст Тед Чан (Ted Chiang) в своей статье указал, что слепая вера в то, что языковые модели обладают сознанием, подобна вере в то, что каждый раз при открытии файла Microsoft Word пробуждаются множественные сущности, скрытые в записях диалогов.

Чтобы развеять этот когнитивный пузырь, один ученый Microsoft по ИИ решил действовать, построив непосредственно в классической стратегии в реальном времени «Age of Empires 2» вычислительную сеть с той же базовой логикой, самым абсурдным образом вызвав шок для мышления.

Источник изображения: скриншот игры «Age of Empires 2» с козами от редакции CryptoCity

Строим нейронную сеть с помощью коз из Age of Empires 2

Как сообщает «404 Media», главный ученый Microsoft Адриан де Винтер (Adrian de Wynter) использовал редактор пользовательских карт «Age of Empires 2» и успешно построил внутри игры базовую нейронную сеть. Это исследование опубликовано в научной статье под названием «Если большие языковые модели обладают человеческими чертами, то и Age of Empires 2 тоже».

Он использовал функцию триггеров пользовательских сценариев в игре, с помощью таких элементов, как деревянные стены, трава, мосты, а также коз в качестве среды передачи сигналов, построил логический элемент И-НЕ (NAND gate).

Источник изображения: научная статья: ученый Microsoft строит нейронную сеть с помощью коз из Age of Empires 2

При работе игры трава представляет число 0, мост — число 1, а козы играют роль битов (bit). Когда логический элемент срабатывает, козы, служащие входным сигналом, удаляются, и на выходной дорожке появляются новые козы.

Таким образом, он реализовал в игре 1-битный персептрон (perceptron), который является самым базовым строительным блоком современных нейронных сетей, доказав, что игра обладает потенциалом для выполнения любых теоретических вычислений.

Козы бегают, но восприятие человеческих черт исчезает

В интервью Винтер заявил, что цель этого эксперимента — официально продемонстрировать, что люди слишком легко антропоморфизируют вещи, а иногда преувеличивают заявления о возможностях больших языковых моделей.

Он отметил, что эта сеть, управляемая козами, по сути идентична базовой технологии, управляющей чат-ботами, такими как ChatGPT, Claude или Copilot, и разница заключается лишь в сложности и масштабе.

Источник изображения: научная статья: ученый Microsoft строит нейронную сеть с помощью коз из Age of Empires 2

Эксперимент Винтера подчеркивает противоречивую взаимосвязь между вычислительным субстратом и человеческим восприятием. Когда та же самая вычислительная логика представлена в веб-браузере или голосовом диалоге, такие компании, как Anthropic, заявляют, что модели «имеют конституцию» и испытывают тревогу.

Однако когда тот же вычислительный процесс переносится на виртуальную траву в игре и результаты представляются бегающими в загоне козами, восприятие наблюдателем человеческих черт полностью исчезает. Это доказывает, что ощущаемые людьми антропоморфные черты ИИ в значительной степени зависят от текстового интерфейса и психологических ожиданий наблюдателя, а сама базовая технология не содержит ничего таинственного.

Антропоморфная предвзятость широко распространена в научных исследованиях

На самом деле тенденция антропоморфизировать технологии глубоко укоренилась в академических кругах и оказывает влияние еще до начала исследований.

Винтер, изучив более 300 научных статей по информатике, опубликованных за последние два года, обнаружил, что 57% из них с самого начала экспериментального проектирования напрямую предполагали, что большие языковые модели обладают человеческими чертами, такими как тревога или мораль, и рассматривали их как основной субъект эксперимента.

Среди этих исследований, в которых модели заранее наделялись человеческими чертами, 77% статей в конечном итоге пришли к выводу, что эти черты действительно существуют. Это отражает серьезную подтверждающую предвзятость: исследователи, планируя эксперименты, разрабатывая тестовые наборы и интерпретируя выводы на естественном языке, подвергались влиянию исходных антропоморфных предположений, что напрямую определяло окончательные научные выводы.

Он призывает научное сообщество перейти к экспериментам с нулевой гипотезой, не предполагающей человеческих черт, чтобы увидеть истинное лицо ИИ.

Думаете, ИИ похож на человека? На самом деле вас зомбировали?

Мы часто говорим, что у ИИ бывают галлюцинации, но и у людей есть чрезмерно проецируемые галлюцинации относительно ИИ, что неразрывно связано с потребительской психологией и коммерческими стратегиями гигантов ИИ.

Винтер упомянул, что исследования показывают: когда потребители испытывают резонанс или эмпатию к продукту, они более склонны тратить деньги на его покупку. Этот принцип проявляется в тостерах, смартфонах и платных подписках на большие языковые модели.

Гиганты ИИ, разрабатывающие эти модели, не препятствуют этой тенденции антропоморфизации, а скорее осознанно или неосознанно направляют ее.

Например, генеральный директор OpenAI Сэм Альтман (Sam Altman) неоднократно намекал, что создание больших языковых моделей — это путь к созданию богоподобного ИИ; бывший член совета директоров и ученый OpenAI Илья Суцкевер (Ilya Sutskever) также обсуждал с сотрудниками восприятие моделей компании как божественного сознания; а генеральный директор Anthropic Дарио Амодеи (Dario Amodei) заявил СМИ, что не может определить, есть ли у ИИ сознание.

Эти коммерческие нарративы и маркетинговые приемы в цикле политики, продвижения продуктов и восприятия пользователей вместе поддерживают иллюзию того, что ИИ обладает сознанием.

Дополнительное чтение:
Диалог Утады Хикару и Харари: имеет ли человеческое вдохновение ценность, когда ИИ копирует искусство, любовь и сознание?

Более 400 случаев вреда от ИИ! BBC отслеживает людей, которые чрезмерно верят ИИ и страдают паранойей.