Віталік Бутерін попереджає, що нам потрібні децентралізовані захисні засоби для вирішення проблем зі штучним інтелектом

Співзасновник Ethereum Віталік Бутерін висловив занепокоєння щодо потенційної небезпеки неконтрольованих програм штучного інтелекту (AI).

У пості 10 січня на X Бутерін попередив, що неналежно управляне штучним інтелектом може створити самовідтворюючі розумні сутності, які становлять ризики для людства.

Він заявив:

“Штучний інтелект, зроблений неправильно, створює нові форми незалежного самовідтворення розумної істоти. Штучний інтелект, зроблений правильно, є механічними костюмами для людського розуму. Якщо ми зробимо перше без останнього, ми ризикуємо постійною втратою влади людини. Якщо ми зробимо останнє, ми можемо розквітнути як суперінтелектуальна людська цивілізація.”

Він пояснив, що, хоча деякі системи штучного інтелекту, такі як чат-боти, призначені для поліпшення інтерфейсів користувачів, є корисними, інші можуть призвести до значних ризиків. Зокрема, штучні інтелектуальні агенти, які функціонують автономно протягом тривалих періодів, можуть в кінцевому рахунку викликати виклик управління людиною та позбавити суспільство влади.

Щоб пом’якшити ці ризики, Бутерін запропонував зосередитися на системах штучного інтелекту, які доповнюють людський інтелект, перетворюючи їх на інструменти, які посилюють колективні можливості, а не замінюють їх.

За його словами, такий підхід перетворив би штучний інтелект в потужний інструмент для підвищення людських можливостей, уникнення непотрібних ризиків.

d/Acc

Велика частина його стратегії передбачає концепцію децентралізованого та демократичного диференційного оборонного прискорення (d/Acc). Цей підхід наголошує на розробці децентралізованих інструментів для вирішення зростаючих загроз, пов’язаних з штучним інтелектом.

Бутерін розгорнув цю ідею в останньому дописі у блозі, описуючи d / Acc як рамковий інструмент, розроблений для децентралізації захисних технологій. Мета полягає в тому, щоб дати можливість індивідуумам та спільнотам захистити себе від потенційних небезпек, що виникають внаслідок стрімкого розвитку штучного інтелекту.

Ця стратегія дозволяє більш демократичне розподіл технологічної потужності, передавши оборонні можливості у руки спільнот. Наприклад, децентралізовані системи можуть відстежувати, протидіяти або нейтралізувати шкідливу діяльність штучного інтелекту без залежності від контролю зверху з боку урядів або корпорацій.

Бутерін пояснив, що d/Acc може служити як запобіжник у сценаріях, де технології штучного інтелекту розвиваються непередбачувано. Крім того, демократизація оборони забезпечує, що жодна окрема сутність не зможе домінувати або експлуатувати потенціал високорозвиненого штучного інтелекту, сприяючи більш збалансованому та стійкому технологічному екосистемі.

Співзасновник Ethereum також наголосив етичні обов’язки розробників у цьому швидкозмінному полі. Він стверджував, що децентралізовані підходи, такі як d/Acc, підвищують загальну безпеку та сприяють прозорості та співпраці в розробці штучного інтелекту.

Бутерін написав:

“Одна ідея, яка є дуже дружньою до d / acc, полягає в тому, щоб покласти відповідальність на власників або операторів будь-якого обладнання, яке штучний інтелект бере під контроль (наприклад, шляхом взлому) у процесі виконання якої-небудь катастрофічно шкідливої дії. Це створило б дуже широкий стимул для виконання важкої роботи з метою зробити інфраструктуру світу (особливо обчислювальну та біологічну) як можна більш безпечною.”

Згаданий у цій статті