Тому я задумався над тим, що нещодавно сказав Ілон Маск у одному інтерв’ю, і це засіло у мене в голові. Він говорить про цю епоху достатку, яка настане завдяки ШІ та робототехніці — в основному майбутнє, де товари та послуги стануть настільки дешевими, що дефіцит просто зникне. Звучить неймовірно, правда?

Чоловік оптимістично налаштований щодо можливого. Він бачить реальний розвиток ШІ (той, який потрібен для самоврядних автомобілів), що зрештою призведе до гуманоїдних роботів, здатних виконувати серйозно складні завдання. Якщо це справді станеться, так, епоха достатку, яку він описує, може стати реальністю. Більше ніякого штучного дефіциту. Все стане у достатку.

Але тут починається цікаве — і чесно кажучи, трохи тривожне. Маск так само голосно говорить і про інший бік медалі. Він попереджає, що штучний загальний інтелект або цифровий суперінтелект може відірватися від людського контролю. Це справжній ризик, про який недостатньо говорять. Він каже, що єдиний спосіб, щоб це працювало, — це тримати ШІ тісно інтегрованим з людським інтелектом, можливо, через щось на кшталт Neuralink. Інакше ми ризикуємо отримати щось, що перевершить нас без реальних засобів контролю.

Тут все залежить від часу. Європа щойно ухвалила свій Закон про ШІ. США ведуть серйозні дискусії щодо регулювання ШІ. Технологічні лідери наполягають на більш жорстких правилах. Все це відбувається одночасно, і попередження Маска раптом здаються не просто фантастикою, а справжньою нагальністю.

Що дивно — Маск, який зазвичай не дуже добре ладнає з урядовим контролем, фактично закликає до регулювання. Він опублікував у X підтримку законопроекту Каліфорнії SB 1047 про безпеку ШІ. Це такий крок, що показує, наскільки він серйозно ставиться до цього. Двадцять років боротьби за регулювання ШІ, сказав він. Якщо хтось на кшталт нього каже, що потрібні правила, варто прислухатися.

Крім ШІ, він також просуває ідею колонізації Марса як резервний план для людства. Багатопланетний вид, самодостатні марсіанські міста — все це. Це пов’язано з більшою картинкою — забезпечення свідомості та виживання людства в довгостроковій перспективі.

Отже, справжнє питання: чи зможемо ми справді пройти цю епоху достатку, не дозволивши речам вийти з-під контролю? Маск здається, вважає, що так, але лише якщо ми будемо цілеспрямованими. Без самовпевненості. Без ігнорування ризиків. Просто зосереджені на тому, щоб правильно врахувати і потенціал, і безпеку.