Колишній співробітник OpenAI запропонував пригальмувати гонку ШІ до 2040 року - ForkLog

# Колишній співробітник OpenAI запропонував призупинити гонку ШІ до 2040 року

Автори прогнозу вимирання людства через ШІ випустили новий сценарій — цього разу із шансом на порятунок. Документ AI 2040: Plan A представили колишній дослідник OpenAI Деніел Кокотайло та AI Futures Project.

Кокотайло залишив OpenAI у квітні 2024 року. Він пішов через розбіжності щодо питань безпеки штучного інтелекту, а у 2025 році заснував проєкт AI Futures Project.

У квітні того ж року організація випустила прогноз AI 2027. У ньому йшлося, що гонка ШІ між США та Китаєм може призвести до зникнення людства або диктатури. При цьому автори уточнили: імовірність вимирання коливається в межах від 10% до 30%.

Фахівці AI 2040: Plan A назвали рекомендацією: описаним набором кроків, який може знизити ризики.

Як це має працювати

Згідно зі сценарієм, у 2029 році США та Китай укладають міжнародну угоду, що в 2029 році США та Китай укладуть міжнародну угоду про відмову від гонки за надінтелектом. Без угоди автоматизація розробок ШІ стала бся б уже в 2030 році.

Натомість країни розвивають нейромережі поступово — до рівня найкращих експертів-людей. До 2035 це зупиняють, щоб зберегти контроль людини над системами, а в 2040 році паузу знімають, і ШІ досягає рівня надінтелекту.

План спирається на чотири принципи:

• виграти час для досліджень безпеки;
• повністю розкрити розробки ШІ;
• розподілити штучний інтелект між різними компаніями та країнами;
• зберегти оборотність процесу.

Щоб сторони довіряли одна одній, Plan A спирається на верифікацію. Великі дата-центри видно з космосу, тому їх складно приховати.

На цьому будується перший крок: країни публічно декларують покупки AI-чипів. Далі вводять тимчасову паузу на нові навчальні прогонки — датчики на дата-центрах підтверджують її дотримання. Коли довіру підтверджено, обмеження знімають, але дослідження залишаються повністю прозорими: будь-яка країна і компанія бачить, що роблять інші.

Від зриву угоди має захистити «взаємно гарантоване знищення обчислювальних потужностей», яке автори порівняли з логікою ядерного стримування. Нові дата-центри Китаю за планом будують у Канаді, а об’єкти США — у Монголії, тобто на території, яку в разі конфлікту найпростіше атакувати супернику.

Якщо угода провалиться, країна, що приймає, спробує захопити чужі потужності на своїй території, а власник знищить їх сам, щоб вони не дісталися противнику.

Економіка плану

За розрахунками авторів, світові обчислювальні потужності зростуть з 20 млн H100-еквівалентів у 2026 до 60 млрд до 2034 року. Реальне зростання ВВП США в окремі періоди 2030-х років досягне 50% на рік — проти звичайних 3%.

Через автоматизацію зайнятість у Сполучених Штатах впаде з 62% у 2027 до 12% до 2040 року. Для компенсації втрати робочих місць експерти запропонували запровадити «громадянські дивіденди» — виплати кожному повнолітньому американцю з доходів, які держава збирає з компаній за дозволи на обчислення та роботів.

Згідно з прогнозами AI Futures Project, у 2032 році дивіденд становитиме $45 000 на людину. До 2035 він зросте до $1 млн, а до 2039 року — до $10 млн.

Чотири запасні сценарії

Фахівці протиставили Plan A чотирьом іншим шляхам розвитку подій. За їхніми словами, це сюжетні лінії одного сценарію — ілюстрація того, що станеться за інших рішень влади.

• План B — США створюють коаліцію союзників і тиснуть на Китай, аж до кібератак і точкових ударів по чужих AI-проєктах. Сценарій завершується вибором між втратою контролю над ШІ та війною.
• План C — Вашингтон намагається домовитися з Пекіном і запровадити внутрішнє регулювання, але під тиском компаній паузу швидко знімають. Фінал несе ризик постійної олігархії невеликої групи, що контролює надінтелект.
• План D — влада робить ставку на мінімальне регулювання і гонку. Ризики — втрата контролю над ШІ, крайня концентрація влади та третя світова війна.
• План S — повна безстрокова зупинка передових розробок ШІ. Головна небезпека — угода рано чи пізно розпадеться, і гонка поновиться в менш контрольованих умовах.

Нагадаємо, в лютому експерти Citrini Research спрогнозували крах економіки через штучний інтелект.