Клод Фейбл 5 заборонено та знято з продажу! Консультант Білого дому розкрив закулісся заборони, Ян Лікунь засуджує за власні наслідки

Клод Фейбл 5, Міфос 5 заборонені! Раптовий указ уряду США про експортний контроль спричинив їх зняття з продажу, викликавши хвилю обурення, радник Білого дому Девід Сак розкрив внутрішню інформацію, зазначивши, що компанія відмовилася виправляти ключові вразливості, що може серйозно зашкодити її планам щодо IPO цієї осені.

Клод Фейбл 5, Міфос 5 заборонені до експорту та зняті з продажу

Минулого тижня у американському світі штучного інтелекту з'явилася сенсаційна новина! Оскільки найновіша модель Anthropic, Клод Фейбл 5 та Міфос 5, були несподівано піддані експортному контролю урядом США, що призвело до тимчасового припинення сервісу по всьому світу та зняття з продажу, викликавши великий резонанс серед американців і технологічної спільноти.

Зі з'явленням у відкритий доступ звіту про безпеку, поданого Amazon, та висловлювань кількох високопосадовців і провідних експертів, ця заборона, яка торкнулася приблизно 18,9 мільйонів активних користувачів щомісяця, розкриває складний внутрішній конфлікт щодо безпеки та прийняття рішень, що стоять за цим рішенням.

Причини заборони Fable 5: попередження Amazon спровокувало тривогу в Білому домі?

Минулого п’ятниці Anthropic несподівано випустила прес-реліз, у якому зазначила, що уряд США на підставі національної безпеки офіційно видав указ про експортний контроль, що зобов’язує Anthropic тимчасово припинити доступ іноземних осіб до моделей Fable 5 і Міфос 5.

Цей указ має дуже широкий спектр застосування, включаючи іноземних працівників, що працюють у США. Щоб забезпечити відповідність, Anthropic одразу вирішила тимчасово закрити доступ усім користувачам.

Ключовий момент у прийнятті цього рішення тісно пов’язаний із Amazon. Газета The Wall Street Journal повідомила, що генеральний директор Amazon Енді Джессі звернувся до високопосадовців уряду США після того, як дослідники компанії виявили спосіб обійти системи безпеки Fable 5, що може призвести до витоку чутливої інформації, яка може бути використана для кібератак.

Джерело зображення: Anthropic. Минулого тижня Anthropic випустила Клод Фейбл 5 і Міфос 5, але через обмеження уряду США їх зняли з продажу.

Цей попереджувальний сигнал викликав підвищену тривогу у Білому домі. Хоча Anthropic згодом заявила, що вразливість обмежена і інші відкриті моделі мають подібні можливості, тестування британського Інституту безпеки штучного інтелекту показало, що модель у 73% випадків може обійти системи захисту, що змусило владу вжити рішучих заходів.

Консультант Білого дому: Anthropic відмовляється виправляти вразливості, влада змушена діяти

У відповідь на цю ситуацію, співголова Ради з науки і технологій Білого дому Девід Сакс відкрито заявив, що Клод Фейбл по суті є моделлю Міфос із доданими системами безпеки, і коли ці системи виходять з ладу, її здатність до складних кібератак стає очевидною.

Після отримання попереджень від надійних партнерів, уряд США вимагав від генерального директора Anthropic Дарио Амоді виправити вразливість або самостійно зняти модель з продажу, але отримав відмову.

Сакс повідомив, що уряд був дуже здивований відмовою Anthropic співпрацювати з цим обґрунтованим безпековим запитом, і тому був змушений видати указ про експортний контроль.

Він також критикував PR-операцію Anthropic, яка намагається зменшити серйозність вразливості, вважаючи, що це йде врозріз із довгостроковою корпоративною політикою компанії, яка прагне ставити безпеку на перше місце. Позиція уряду дуже ясна: якщо Anthropic вирішить належним чином вирішити питання безпеки, влада дуже сподівається швидко зняти заборону і повернути Fable 5 і Міфос 5 в онлайн.

Ян Лікун: Anthropic самі собі нашкодили

Крім Сакса, відкрито критикував цю ситуацію і лауреат премії Тюрінга 2018 року, відомий французький науковець Ян Лікун.

Він зазначив, що Амоді раніше поширював абсурдні страхи щодо AI, Міфос і Фейбл, і тепер, коли ці побоювання підтвердилися, уряд США заборонив використання цих моделей іноземцями, навіть працівникам за кордоном у США, — і все це є наслідком власних дій.

Насправді, Девід Сакс ще 8 місяців тому попереджав, що Anthropic веде складну «стратегію регулювання, засновану на поширенні страхів», і вважає, що надмірне наголошення на ризиках серйозно руйнує екосистему стартапів.

Пов’язані новини:
Спільне попередження Anthropic: ймовірність настання технологічної сингулярності 50%, і вона може вплинути на якості працівників у всіх сферах?

Генеральний директор Anthropic попереджає: Міфос виявив десятки тисяч вразливостей у програмному забезпеченні, і залишилось 6-12 місяців на їх усунення

Саме 11 червня Anthropic опублікувала пропозицію щодо політики, яка б допомогла уряду діяти у ситуації, коли швидкий розвиток AI випереджає регулювання, що викликало широкий резонанс у спільноті.

Шлях Anthropic до IPO під тінню

Раніше міністр оборони США Піт Хегсетх позначив Anthropic як ризик для ланцюга постачання і подав позов проти Міноборони, а також нещодавній указ про заборону ще більше ускладнили ситуацію для компанії.

• Пов’язані новини: Anthropic звинуватила уряд США! Судовий процес щодо чорного списку Міноборони — основні спірні питання

У той час як минулого місяця Anthropic таємно подала заявку на IPO, сподіваючись на вихід на американський фондовий ринок цієї осені, раптовий указ уряду США про заборону призвів до зняття з продажу її ключових продуктів. Під тиском державного регулювання і конкуренції на ринку, шлях до виходу Anthropic на біржу і її глобальна стратегія тепер під великим питанням.

Додаткові матеріали:
OpenAI та CEO Anthropic — надто неприємні! Апокаліптичні сценарії і відчуття відчуження викликають антипатію у американців щодо AI

OpenAI розглядає зниження цін! Щоб боротися за клієнтів з Anthropic, чому це може стати першим пострілом у AI-бульбашці?