Керівники великих технологічних компаній, які грають у «російську рулетку» у гонці озброєнь штучним інтелектом, можуть ризикувати людським вимиранням, попереджає провідний дослідник

Глобальна боротьба за домінування в галузі штучного інтелекту досягла апогею, але один із провідних комп’ютерних науковців світу попередив, що великі технологічні компанії безвідповідально ризикують майбутнім людства.

Рекомендоване відео

Найгучніші голоси в галузі ШІ зазвичай поділяються на два табори: ті, хто хвалить технології як змінювач світу, та ті, хто закликає до обережності — або навіть стримування — перш ніж вони стануть неконтрольованою загрозою. Стюарт Рассел, піонер у галузі штучного інтелекту з Каліфорнійського університету в Берклі, твердо належить до другого табору. Одним із його головних занепокоєнь є те, що уряди та регулятори не встигають за швидким впровадженням технологій, залишаючи приватний сектор у гонитві до фінішу, яка може перерости у небезпечну конкуренцію, не бачену з часів холодної війни.

«Для урядів дозволяти приватним компаніям фактично грати в російську рулетку з кожною людиною на Землі — на мою думку, це повна зневага обов’язками», — сказав Рассел AFP на Саміті з впливу ШІ в Нью-Делі.

Поки керівники технологічних компаній змагаються у «гонці озброєнь» за створення найкращої моделі ШІ, що, за їхніми словами, згодом принесе значні прориви у медичних дослідженнях та підвищить продуктивність, багато хто ігнорує або зменшує значення ризиків, зазначає Рассел. У найгіршому випадку, він вважає, що швидкість інновацій без регулювання може призвести до зникнення людської раси.

Рассел має знати про екзистенційні ризики, що лежать в основі швидкого впровадження ШІ. Британський вчений-комп’ютерник досліджує ШІ понад 40 років і ще у 1995 році опублікував один із найавторитетніших підручників з цієї теми. У 2016 році він заснував дослідницький центр у Берклі, який зосереджений на безпеці ШІ, що пропагує «доказово корисні» системи штучного інтелекту для людства.

У Нью-Делі Рассел висловився щодо того, наскільки далекі від цілі компанії та уряди. Його критика зосереджена на швидкому розвитку систем, які з часом можуть перевершити своїх творців, залишаючи людську цивілізацію «побічним ефектом у цьому процесі».

Керівники великих компаній, що займаються ШІ, усвідомлюють ці екзистенційні небезпеки, але опиняються у пастці через ринкові сили. «Кожен із керівників основних компаній у галузі ШІ, я вважаю, прагне роззброїтися», — сказав Рассел, але вони не можуть зробити це «односторонньо», оскільки їхню позицію швидко захоплять конкуренти, і вони можуть бути негайно усунені інвесторами.

Нова холодна війна

Розмови про екзистенційний ризик і потенційне зникнення людства колись були зарезервовані для страху неконтрольованого ядерного розповсюдження під час холодної війни, коли великі держави накопичували зброю через страх, що конкуренти їх перевищать. Але скептики, такі як Стюарт Рассел, все частіше застосовують цю ж саму модель до епохи штучного інтелекту. Конкуренція між США та Китаєм часто описується як «гонка озброєнь» у галузі ШІ, з секретністю, терміновістю та високими ставками, що визначали ядерне протистояння між Вашингтоном і Москвою у другій половині 20 століття.

Володимир Путін, президент Росії, майже десять років тому коротко підсумував величезні ставки: «Хто стане лідером у цій сфері, той стане правителем світу», — сказав він у 2017 році.

Хоча сучасна гонка озброєнь не вимірюється ядерними боєголовками, її масштаб відображають величезні суми капіталовкладень. Країни та корпорації наразі витрачають сотні мільярдів доларів на енергоємні дата-центри для навчання та роботи ШІ. В США, за оцінками аналітиків, капітальні витрати на ШІ цього року перевищать 600 мільярдів доларів.

Але агресивні дії корпорацій ще не були збалансовані стриманістю через регуляторні заходи, зазначив Рассел. «Дуже важливо, щоб кожна з урядових структур усвідомлювала цю проблему. І саме тому я тут», — сказав він, маючи на увазі саміт в Індії.

Китай та ЄС — серед тих держав, що активно регулюють технології ШІ. В інших країнах ситуація більш ліберальна. В Індії уряд обрав переважно дерегулятивний підхід. У США адміністрація Трампа підтримувала ідеї про відкритий ринок для ШІ і прагнула скасувати більшість регіональних правил, щоб дати компаніям свободу дій.

**Приєднуйтесь до нас на Саміті інновацій у сфері праці Fortune Workplace Innovation Summit 19–20 травня 2026 року в Атланті. Наступна ера інновацій у сфері праці вже тут — і старий сценарій переписується заново. На цьому ексклюзивному, енергійному заході найінноваційніші лідери світу зберуться, щоб дослідити, як ШІ, людство і стратегія знову переформатовують майбутнє роботи. Реєструйтеся зараз.