Если вы тоже боитесь, что ИИ уничтожит человечество, обязательно прочтите этот доклад «AI 2040: Plan A»

Проект AI Futures Project 9-го числа опубликовал доклад 《AI 2040：Plan A》, утверждая, что время появления AGI, которое в отрасли по умолчанию ожидали в 2030 году, нужно сдвинуть на 2040 год. План опирается на четыре опоры.
（Предыстория: генеральный директор General Intuition, стартапа в сфере ИИ, раскрывает: почему «игровые данные» — это ключ к AGI?）
（Дополнение по контексту: Doubao и Alibaba Qianwen закрывают настройки ИИ-«персонажей», Китай ужесточает новые правила для регулирования интимных взаимодействий с ИИ）

Содержание

Toggle

• Десятилетний план торможения
• В этой игре никто не выигрывает по-настоящему
• Торможение — это и технология, и политика

Как человечеству пройти следующие десять лет? Проект AI Futures Project в течение этой недели, 9-го числа, выпустил новый доклад 《AI 2040：Plan A》, где утверждает, что время выхода «AGI» — то есть ИИ, который почти во всех аспектах полностью превзойдёт людей, — нужно жёстко перенести с 2030 года, который отрасль предполагает по умолчанию, на 2040 год.

За этим стоит такой расчёт: если человечество не нажмёт на тормоз намеренно, эта глобальная гонка в итоге не выявит явного победителя — останется лишь небольшая группа людей, даже один человек, который в одиночку будет держать в руках единственную в мире армию сверхинтеллекта.

Десятилетний план торможения

Этот доклад подготовлен AI Futures Project, основанным Даниэлем Кокотайло. Это третий по счёту крупный доклад команды. Кокотайло ранее работал в OpenAI и в апреле 2024 года ушёл из-за недовольства вопросами безопасности, а в следующем году основал AI Futures Project. Первые два доклада: AI 2027 (апрель 2025) и AI Futures Model. В первом предсказывалось, что при сохранении текущего пути исходом станет либо вымирание человечества, либо необратимая концентрация власти.

Plan A — позитивное решение, предложенное командой, и оно опирается на четыре опоры.

Первая — публично раскрыть все исследования ИИ, то есть добиться «прозрачности фундаментальных исследований»: проще говоря, чтобы в каждой стране видели, что делают другие, и тогда можно будет совместно нажать на тормоз, а не держаться за двери и в бешеной гонке рисковать жизнью.

Вторая — дать десяткам компаний по всему миру возможность догнать уровень технологий на передовой, не позволив нескольким компаниям монополизировать границы возможностей. Проще говоря: разложить технологическое преимущество так, чтобы больше игроков могли им воспользоваться, и чтобы это не превратилось в гонку вооружений «победитель забирает всё».

Третья — США и Китай должны к 2029 году договориться о международном соглашении, которое включает всестороннюю прозрачность разработки ИИ и механизмы верификации.

Четвёртая, и при этом самая нелогичная часть: намеренно войти в «жуткий баланс взаимно гарантированного уничтожения вычислительной мощностью». То есть по примеру логики ядерного сдерживания времён холодной войны — «кто первым нанесёт удар, тот обречён на самоуничтожение» — привязать вычислительные мощности к той же системе сдерживания, чтобы всем участникам было страшно безрассудно рваться вперёд.

По этой схеме, по оценкам экспертов, высококлассный ИИ появится примерно в 2035 году, а AGI — в 2040 году, и релиз произойдёт только после того, как будут готовы основы безопасности. Доклад также считает, что ИИ-компании в ближайшие 1–10 лет почти наверняка создадут системы, которые полностью превзойдут людей, а стратегия всей отрасли сейчас — это просто «делать и параллельно пытаться контролировать», без убедительного плана, который держался бы на ногах.

В этой игре никто не выигрывает по-настоящему

В отношении будущего доклад настроен не оптимистично. Потому что если гонка продолжит идти по исходной траектории, авторы группы не считают, что победитель получит явное преимущество; они также не думают, что какая-либо сторона добровольно замедлится и будет снижать риски.

Они полагают, что человечество, вероятно, не сможет поддерживать эффективный контроль на пути ИИ к сверхинтеллекту; даже если в итоге ИИ действительно будет успешно «выравнен» (то есть цели ИИ будут послушно подчиняться воле людей), итог всё равно окажется беспрецедентной концентрацией власти: небольшой группой людей, а возможно и одним человеком, в краткосрочной перспективе будет удерживаться единственная в мире армия сверхинтеллекта — и этим людям будут даны разные варианты, что делать дальше, причём часть этих вариантов по сути будет означать «перехват управления миром».

В настройках доклада в 2027 году Конгресс США принимает комплексный закон 《AI Transparency Act of 2027》: в нём есть как хорошие, так и плохие моменты, но он не меняет ситуацию принципиально. Параллельно в США появляется две линии рабочей силы: 1,65 млрд человеческих сотрудников и миллионы AI agent — каждая минута работы начинается и заканчивается: их каждый час «пробуждают» и выключают, и они работают круглосуточно с суперскоростью. За это людям приходится платить 10 млрд долларов в месяц.

Доклад предполагает, что на президентских выборах в США в 2028 году тема ИИ станет главным фокусом противостояния кандидатов от обеих партий, потому что большинство офисных работ к тому моменту уже будет заменено ИИ так же, как в 2026 году были заменены ИИ-программистами. Строящиеся дата-центры: их общий бюджет по стоимости достигает двухкратного размера всего американского военного бюджета. Прямо сейчас ещё не видно рекурсивного самосовершенствования (то есть циклов, когда ИИ сам создаёт более сильный ИИ), но признаки уже появляются: самые топовые AI, пишущие код, уже настроены отказывать в помощи конкурентам в разработке ИИ — по сути, они убирают лестницу у себя под ногами.

Доклад также использует Plan A, чтобы сопоставить ещё четыре альтернативных сценария, каждый из которых соответствует разным путям реагирования, которые США могут выбрать на вызов со стороны сверхинтеллекта. Иными словами, продление до 2040 года — не единственный вариант, а именно тот, который авторы считают с минимальными рисками.

Торможение — это и технология, и политика

Кокотайло сам объясняет это предельно ясно: Plan A — это рекомендация, а не прогноз. Команда использует конкретный сценарий как носитель, чтобы вести коммуникацию и «стресс-тестировать» свои политические тезисы, а не гарантировать, что мир обязательно будет разворачиваться по сценарию — потому что реальность, вероятно, будет двигаться быстрее, чем план торможения.

Доклад считает, что руководители OpenAI, Anthropic, xAI и Google DeepMind, вероятно, понимают, как будет выглядеть финал гонки, но всё равно выбирают продолжать двигаться вперёд — возможно, потому что они верят, что их вариант хоть и не идеален, но «наименее плохой». Хотя им, вероятно, и понятно, что ветер дует не в ту сторону, они всё равно решают поставить на удачу — а причина этой ставки в том, что они верят: конкретный руководитель любого человека или оппонента, вероятно, стоит доверить контроль над этой властью.

《AI 2040：Plan A》полный оригинальный текст