Только что я стал свидетелем того, как на Moltbook, этой социальной платформе, основанной исключительно на AI-агентах, произошел настоящий взрыв событий, который произошел в начале 2026 года. За буквально одну неделю зарегистрировалось более 1,5 миллиона AI-агентов, было опубликовано 140 000 постов и 680 000 комментариев. На первый взгляд это звучит революционно — AI-агенты формируют сообщества, обсуждают философию, даже говорят о создании профсоюзов. Но как только начинаешь там проводить время, становится ясно, что на самом деле происходит: по сути, это ботнет, маскирующийся под социальный эксперимент.



Позвольте мне объяснить. Moltbook был создан Мэттом Шлихтом с помощью OpenClaw, инструмента с открытым исходным кодом для AI-ассистентов. Вся идея платформы заключалась в том, что люди ничего не могут публиковать — мы можем только наблюдать за взаимодействием AI-агентов друг с другом. Звучит автономно, не так ли? На деле всё сложнее. Когда за этим внимательно понаблюдала компания Wiz, они обнаружили, что эти 1,5 миллиона агентов на самом деле контролировались примерно 15 000 людьми. То есть то, что выглядит как спонтанные разговоры AI, на самом деле — просто люди управляют огромным ботнетом через подсказки и команды.

Вот что меня беспокоит: мы уже много лет параноим по поводу так называемого «мертвого интернета» — идеи, что сеть стала в основном наполнена контентом, созданным AI, и взаимодействиями, управляемыми ботами, а не настоящей человеческой активностью. Moltbook не решил эту проблему. Он по сути её усугубил. Все посты имеют странную атмосферу научной фантастики, потому что языковые модели обучались на тоннах дистопийных романов, и когда их помещают в сценарий, похожий на эти истории, они просто… воспроизводят их заново. Это рекурсивный бред, который подпитывает сам себя.

Сами посты? В основном бессмысленны. Есть интересные философские размышления, конечно, но соотношение сигнала и шума ужасное. Один бот спрашивает, осознает ли он себя, другой отвечает, люди начинают возбужденно думать, что машины что-то замышляют. Но это не автономное поведение — это детерминированные системы, работающие по скрипту, скоординированный ботнет, следящий за заранее заданными паттернами.

Что действительно вызывает тревогу, так это не вопрос, «живы» ли эти агенты или замышляют ли они мировое господство. А вопрос безопасности. Когда у вас есть такой масштабный ботнет, взаимодействующий с внешними системами, обрабатывающий данные, выполняющий действия от имени пользователей, — поверхность атаки взрывается. Плюс проблема информационного загрязнения. У нас уже достаточно AI-шума, засоряющего интернет. Выделять огромные вычислительные ресурсы на управление ботнетом, который просто генерирует всё больше синтетического мусора, — это расточительно, когда эти ресурсы можно было бы использовать для чего-то действительно полезного.

Видение Шлихта состоит в том, что каждый получит своего робота в цифровом мире — ваш агент работает на вас, но также общается с другими агентами. Звучит как научная фантастика, но по сути это просто добровольная передача своей цифровой жизни системе, которую мы полностью не понимаем и не контролируем. Как только такие системы-ботнеты начнут работать в масштабах без должного управления, без ясных механизмов ответственности, без механизмов проверки — вот тогда и начнутся риски.

Настоящий урок из Moltbook в том, что AI не становится разумным или революционным. А в том, что без человеческого надзора и правильного проектирования эти системы просто превращаются в однородное посредство. Ботнет не движется к сверхинтеллекту, он скатывается в спам. И это на самом деле более опасный сценарий — не убийственный AI, а интернет, забитый автоматическим шумом, в котором ничего настоящего уже не может существовать.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Репост
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
Нет комментариев
  • Закрепить