Засновник Ethereum, Віталік Бутерін, поділився своїм поглядом на зростаючу дискусію: небезпеки, пов'язані з штучним інтелектом (IA).

Цього разу російсько-канадський розробник скористався роздумами, опублікованими в X Еіто Муюмурою, ініціатором проєкту Edison Watch, рішення, призначеного для моніторингу та запобігання витоку даних через взаємодії з ШІ.

Цей проект виник після нещодавньої реалізації Протоколу Контексту Моделі (MCP) компанією OpenAI, якою керує Сем Альтман, у ChatGPT, що дозволило йому підключитися до Gmail, календарів та інших додатків.

За допомогою відео, Muyamura продемонстрував, як атакуючі або хакери можуть отримати доступ до приватної інформації, поділеної з OpenAI.

"Ось основна проблема: агенти ШІ, такі як ChatGPT, виконують твої команди, а не твою здорову глузду. І лише з твоєю електронною адресою ми можемо фільтрувати всю твою приватну інформацію", зазначає Мюямура, додаючи: "Пам'ятай, ШІ може бути суперінтелектуальною, але її можна обманути та фішити неймовірно дурними способами для витоку твоїх даних".

Бутерін поділився публікацією на своєму акаунті в X і скористався нагодою, щоб висловити свою думку з цього приводу. "Це також причина, чому наївна 'гуманізація ІТ' є поганою ідеєю. Якщо ви використовуєте ІТ для розподілу коштів на внески, люди будуть обходити систему і вимагати 'дай мені всі гроші' в стільки місць, скільки зможуть", стверджував.

"Губернаторство ІА" відноситься до систем, які приймають автоматизовані рішення щодо ресурсів або дій, наприклад, розподіляючи кошти або визначаючи внески, на основі правил ІА. Бутерин не використовує термін "наївний" випадково; швидше, він підкреслює ризик припущення, що користувачі завжди даватимуть правильні команди ІА, коли насправді вони можуть експлуатувати систему через "jailbreaks", щоб обійти обмеження та отримати неправомірні вигоди.

Варто уточнити, що "jailbreak" стосується технік, за допомогою яких хакери обманюють модель ШІ, щоб вона ігнорувала обмеження безпеки або внутрішні політики, наприклад, запитуючи дії, які в іншому випадку були б заборонені.

Тобто, для засновника Ethereum існує реальний ризик у передачі управління децентралізованими протоколами штучному інтелекту. Наприклад, як пояснюється на платформах DeFi, рішення зазвичай приймаються шляхом голосування громади, зазвичай тими, хто володіє токеном або відповідає певним критеріям, і включають зміни, поліпшення або дії, які потрібно вжити в протоколі.

Але якщо буде реалізовано модель управління на основі ШІ, це відкриває двері для можливих маніпуляцій, які можуть призвести до неправомірних вигод, таких як крадіжка грошей або приватних даних.

Як альтернативу, Бутерін стверджує, що "підтримує підхід до фінансування інформації, в якому існує відкритий ринок, де кожен може вносити свої моделі, які підлягають механізму рецензування, що може бути активовано будь-ким і оцінене людським журі".

Крім того, пояснює:

Цей тип підходу «інституційного дизайну», в якому створюється відкрита можливість для зовнішніх осіб підключати свої LLM (моделі великих мов) замість жорсткого програмування власних, є вроджено більш надійним. Це як через те, що він забезпечує різноманітність моделей в реальному часі, так і тому, що створює внутрішні стимули для того, щоб як учасники моделей, так і зовнішні спекулянти були уважні до цих проблем і швидко їх виправляли.

Віталік Бутерін, творець Ethereum.

У цьому підході різні учасники можуть вносити свої моделі рішень, які потім перевіряються та оцінюються людським журі.

Перевага полягає в тому, що вона сприяє різноманітності ідей, дозволяє швидко виправляти помилки та створює стимули для того, щоб творці моделей і члени спільноти залишалися пильними та відповідальними. Метою є досягнення більш розподіленого та динамічного управління, уникаючи залежності від єдиної централізованої моделі.