Бывший сотрудник OpenAI предложил притормозить ИИ-гонку до 2040 года - ForkLog

# Бывший сотрудник OpenAI предложил притормозить ИИ-гонку до 2040 года

Авторы прогноза о вымирании человечества из-за ИИ выпустили новый сценарий — на этот раз с шансом на спасение. Документ AI 2040: Plan A представили экс-исследователь OpenAI Дэниел Кокотайло и AI Futures Project.

Кокотайло покинул OpenAI в апреле 2024 года. Он ушел из-за разногласий по вопросам безопасности искусственного интеллекта, а в 2025 году основал проект AI Futures Project.

В апреле того же года организация выпустила прогноз AI 2027. В нем говорилось, что ИИ-гонка между США и Китаем может привести к исчезновению человечества или диктатуре. При этом авторы уточнили: вероятность вымирания варьируется в диапазоне от 10% до 30%.

AI 2040: Plan A специалисты назвали рекомендацией: описанным набором шагов, который может снизить риски.

Как это должно работать

Согласно сценарию, в 2029 году США и Китай заключают международное соглашение, что в 2029 году США и Китай заключат международное соглашение об отказе от гонки за сверхинтеллектом. Без сделки автоматизация ИИ-разработок произошла бы уже в 2030 году.

Вместо этого страны развивают нейросети постепенно — до уровня лучших экспертов-людей. К 2035 это приостанавливают, чтобы сохранить контроль человека над системами, а в 2040 году паузу снимают, и ИИ достигает уровня сверхинтеллекта.

План опирается на четыре принципа:

• выиграть время для исследований безопасности;
• полностью раскрыть ИИ-разработки;
• распределить искусственный интеллект между разными компаниями и странами;
• сохранить обратимость процесса.

Чтобы стороны доверяли друг другу, Plan A опирается на верификацию. Крупные дата-центры видно из космоса, поэтому их сложно скрыть.

На этом строится первый шаг: страны публично декларируют покупки ИИ-чипов. Дальше вводят временную паузу на новые обучающие прогоны — датчики на дата-центрах подтверждают ее соблюдение. Когда доверие подтверждено, ограничение снимают, но исследования остаются полностью прозрачными: любая страна и компания видит, что делают остальные.

От срыва сделки должно защитить «взаимно гарантированное уничтожение вычислительных мощностей», которое авторы сравнили с логикой ядерного сдерживания. Новые дата-центры Китая по плану строят в Канаде, а объекты США — в Монголии, то есть на территории, которую в случае конфликта проще всего атаковать сопернику.

Если соглашение провалится, принимающая страна попытается захватить чужие мощности на своей территории, а владелец уничтожит их сам, чтобы они не достались противнику.

Экономика плана

По расчетам авторов, мировые вычислительные мощности вырастут с 20 млн H100-эквивалентов в 2026 до 60 млрд к 2034 году. Реальный рост ВВП США в отдельные периоды 2030 годов достигнет 50% в год — против обычных 3%.

Из-за автоматизации занятость в Соединенных Штатах упадет с 62% в 2027 до 12% к 2040 году. Для компенсации потери рабочих мест эксперты предложили ввести «гражданские дивиденды» — выплаты каждому взрослому американцу из доходов, которые государство собирает с компаний за разрешения на вычисления и роботов.

Согласно прогнозам AI Futures Project, в 2032 году дивиденд составит $45 000 на человека. К 2035 он вырастет до $1 млн, а к 2039 году — до $10 млн.

Четыре запасных сценария

Специалисты противопоставили Plan A четырем другим путям развития событий. По их словам, это сюжетные линии одного сценария — иллюстрация того, что произойдет при других решениях властей.

• План B — США создают коалицию союзников и давят на Китай, вплоть до кибератак и точечных ударов по чужим ИИ-проектам. Сценарий заканчивается выбором между потерей контроля над ИИ и войной.
• План C — Вашингтон пытается договориться с Пекином и ввести внутреннее регулирование, но под давлением компаний паузу быстро снимают. Финал несет риск постоянной олигархии небольшой группы, контролирующей сверхинтеллект.
• План D — власти делают ставку на минимальное регулирование и гонку. Риски — потеря контроля над ИИ, крайняя концентрация власти и третья мировая война.
• План S — полная бессрочная остановка передовых ИИ-разработок. Главная опасность — сделка рано или поздно распадется, и гонка возобновится в менее контролируемых условиях.

Напомним, в феврале эксперты Citrini Research предсказали крах экономики из-за искусственного интеллекта.