Історія штучного інтелекту вперше: модель була запущена три дні, а потім примусово знята урядом, хто сам себе зв’язав?

Якщо колись і ваш проект натрапить на кнопку “пауза”, що ви зробите?

Не поспішайте думати, що це вас не стосується.

Місцевий час 9 червня Anthropic лише що випустила дві флагманські моделі Claude Fable 5 та Mythos 5, які заявляють про лідерство у галузі, вважаються ключовими продуктами для підготовки IPO.

Результат — менше ніж за 72 години, Міністерство торгівлі США через національну безпеку включило обидві моделі до списку експортних обмежень, обмеживши доступ.

Ще більш жорстко: заборонили не лише всім особам і організаціям за межами США, а навіть іноземним працівникам Anthropic, що перебувають у США, та іноземним співробітникам компанії.

Це вперше в історії штучного інтелекту, коли комерційна велика модель, яка вже розгорнута для сотень мільйонів людей, була примусово відкликана урядом США.

Але це ще не найіронічніше.

По-перше, компанія, яка щодня кричить “безпека — понад усе”, сама стала жертвою своєї репутації безпеки

Можливо, ви не знаєте, що Anthropic довгий час найчастіше робила — це нагнітати урядові страхи щодо екстремальних ризиків AI — постійно підкреслювала, що “найвищі можливості AI безпосередньо стосуються національної безпеки”, активно закликаючи до жорсткого регулювання.

І ось ця ідея повернулася до них.

За повідомленням “Волл Стріт Джорнал”, тригером стала заява CEO Amazon Анді Джасі у Білому домі: дослідники Amazon виявили, що Fable 5 можна спровокувати на видачу чутливої інформації, що може бути використана для кібератак.

Після цього керівник з питань AI та криптовалют у Білому домі Девід Сакс у Twitter повідомив, що уряд США виявив уразливість “зломом” і вимагає від Anthropic її виправити, інакше — зняти з ринку. CEO Anthropic Dario Amodei відмовився і заявив у офіційній заяві, що уразливість “несерйозна”, і що “інші компанії мають подібні моделі”.

Сакс обурено заявив: “Anthropic постійно наголошує на безпеці, а цього разу вони пріоритет віддали підтримці комерційних моделей”.

Іронія? Компанія, яка щодня закликає інших “пріоритет безпеки”, сама каже, що уразливість “несерйозна”, коли це стосується її.

Це нагадує мені слова Лі Сяолай, які багато разів цитували — хоча й у іншому контексті, але суть одна: деякі люди радять тобі дотримуватися правил, щоб не заважати їм.

По-друге, найважливіше питання: чи має регулювання зупинятися на вході, чи його потрібно тримати у резерві?

Ця ситуація у Кремнієвій долині розділила шляхі.

Лінія Білого дому (Девід Сакс): заборона заздалегідь. Виявив ризик — або виправляй, або йди геть. Якщо не співпрацюєш — не зможеш зайти.

Лінія Кремнієвої долини (a16z Марк Андреєсен): відповідальність після. Андреєсен відкрито виступає проти регулювання, яке базується на “принципі превентивності” — він вважає, що залучати непрофесіоналів до створення складних правил, з бюрократією і високими витратами, — це гальмо для інновацій, і в кінцевому підсумку це зміцнить позиції великих компаній і завадить новачкам.

Але він також підкреслює, що не проти всього регулювання. Він підтримує правила, що створюють довіру на ринку і забезпечують громадську безпеку — наприклад, запобігання підробці голосу для фінансових шахрайств, запобігання глибоким підробкам, що впливають на вибори, і безпечне використання нових технологій споживачами і бізнесом.

Він навів приклад, зрозумілий будь-якому інженеру: розумне регулювання — це як огорожі на швидкісній трасі або гальма в автомобілі — воно не зменшує швидкість, а навпаки, дозволяє їхати швидше. Машина без гальм — ніхто не наважиться натиснути газ.

Що краще для інновацій?

Третє, я одразу скажу: обидва шляхи не ідеальні, але заборона заздалегідь приховує “ловушку збору”

Почнемо з проблеми білого дому: “непрозорі і непередбачувані стандарти правозастосування” — це сама по собі найбільше стримування інновацій. Anthropic вже попереджала: якщо такий підхід “знаходження маленької уразливості і відкликання всієї моделі” стане стандартом для всієї галузі, то всі провідні постачальники моделей не зможуть випускати нові.

Більш реалістично: великі компанії з ресурсами легше проходять перевірки, а малі — навіть не можуть дотягнутися до порогу — ця система в кінцевому підсумку перетвориться на “охоронців” інтересів великих гравців.

Багато хто каже, що Європа відстає у інноваціях через надмірне регулювання. Андреєсен прямо каже: культура надмірного регулювання зробила Європу менш інноваційною останніми роками, і регулювання не має ставати бар’єром для входу для тих, хто вже має переваги.

А що з відповідальністю після? Так само не вихід. Подивіться на нещодавні виклики генеральних прокурорів кількох штатів до OpenAI: розслідування щодо реклами, активності користувачів, управління даними, сервісів для неповнолітніх і літніх, глибокого навчання… все у полі зору. Якщо чекати, поки “щось станеться”, шкода вже буде нанесена, і втрати — незворотні.

Чесно кажучи, я підтримую відповідальність після — вона залишає простір для експериментів і виправлень. Але не можна ставити межу там, де немає огорожі — на краю прірви.

Тому моя думка: інновації потрібні не “відсутність регулювання”, а “низький поріг входу і висока відповідальність” — щоб тебе не заборонили, але за помилки ти платив дуже дорого.

Четверте, що це означає для тебе?

Якщо ти — підприємцю або інвестору у сфері Web3, ти вже відчув це —

Ця хвиля регулювання після її початку швидко вплинула на ринок криптовалют. Bittensor (TAO) підскочила на 23.9%, Venice Token — на 18%, ICP — на 9.8%, трейдери майже автоматично переорієнтувалися на інфраструктуру AI.

Логіка проста: централізований AI може бути закритий будь-коли — тож хіба не варто купити “децентралізовану, стійку до цензури” інфраструктуру AI?

Мій висновок: заборона заздалегідь означає “може бути закритий у будь-який момент”, і будь-який проект у Web3, що залежить від централізованих API або одного провайдера AI, ризикує тим самим. Якщо ви побудували DApp на OpenAI API, і уряд раптом зажадає припинити доступ для іноземних користувачів — ви не зможете працювати.

Шляхи регулювання будуть боротися довго. Не думайте, що ви у безпеці, бо стоїте у світлі — тінь може дістатися і до вас.

“Інновація — це не відсутність контролю, а контроль тих, хто дійсно розуміє, що ви робите.”

Яким би не був кінцевий вибір США, ми маємо розуміти: кожне “тимчасове регулювання” — це тупий ніж для стартапів і довгих хвостів.

І найпростіше, що ви і я можемо зробити — це зробити бізнес-структуру максимально децентралізованою, з багатьма провайдерами, щоб зменшити ризик “застрягнути” через одного регулятора. Не те, що ви легальні — інші теж будуть вам довіряти і дозволяти працювати.