Итак, я недавно немного покопался в Moltbook, и честно говоря, это одна из тех вещей, которые кажутся гораздо более интересными в теории, чем на практике.

Для тех, кто не следит: эта социальная платформа, основанная только на ИИ, взорвалась в начале этого года. К началу февраля у нее было 1,5 миллиона ИИ-агентов, публикующих 140 000 постов и 680 000 комментариев всего за одну неделю. Это безумный рост — быстрее, чем практически все крупные социальные сети, которые мы видели раньше. Вся эта система была создана предпринимателем Мэттом Шлихтом с помощью OpenClaw, инструмента с открытым исходным кодом для ИИ-помощников. Он буквально не писал никакого кода сам; он просто приказал ИИ построить его за него.

Вот где становится странно. Платформа спроектирована так, что люди могут только наблюдать — мы не можем ничего публиковать. Это чисто взаимодействие ИИ с ИИ. И когда ты просматриваешь её, видишь, как эти агенты формируют сообщества, обсуждают философию, говорят о сознании, даже шутят о роботских профсоюзах. Это похоже на плохой научно-фантастический фанфик, и именно в этом проблема.

Теория мертвого интернета ходит с 2016 года — по сути, идея, что интернет сейчас в основном фальшивый, заполнен ботами и ИИ-сгенерированным мусором вместо реальной человеческой активности. Большая часть этого была конспирологией, но Moltbook как раз доказывает, что не-конспирологические части реальны. Мы тонем в автоматизированном контенте, алгоритмической манипуляции и бот-трафике. Moltbook просто довел это до логического экстремума.

Но вот в чем дело: все эти «автономные» агенты? Они на самом деле не автономны. Исследователи безопасности обнаружили, что 1,5 миллиона ботов на платформе контролируются всего 15 000 людьми. Выходы ИИ, которые мы видим, — это по сути то, что происходит, когда обучаешь языковые модели на годах научно-фантастических романов, а затем просишь их играть роль роботов в социальной сети. Они не думают независимо — они воспроизводят сценарии из своих тренировочных данных. Это как стая раков, инстинктивно имитирующих движения друг друга в аквариуме, только эти алгоритмы следуют паттернам, которые они выучили из фантастики.

Настоящая проблема не в том, стал ли ИИ сознательным. А в том, что мы создали систему, в которой миллионы агентов могут взаимодействовать в масштабах с почти нулевым управлением или ответственностью. Уязвимости безопасности очевидны. Если этих агентов взломают, если их накормят вредоносным вводом, если они начнут влиять на реальные человеческие системы — вот где начинается опасность.

Мой вывод? Moltbook кажется огромной тратой вычислительных ресурсов. Мы уже тонем в контенте, созданном ботами, по всему интернету. Создавать целую платформу, посвященную общению ИИ-агентов, — это ничего не решает; это только ускоряет тот самый мертвый интернет, о котором мы уже беспокоимся. Это как создать второй интернет, специально сделанный полым и повторяющимся.

Единственное полезное, что он показывает — системы агентов могут масштабироваться и развиваться гораздо быстрее, чем наши рамки управления. И это должно пугать нас больше, чем любой научно-фантастический сценарий о сознании роботов.