Anthropic стверджує, що немає «вимикача» для моделей ШІ, розгорнутих у Пентагоні

Згідно з моніторингом від Beating, Anthropic подав документи до Віргінського федерального апеляційного суду, в яких стверджується, що після розгортання своїх моделей ШІ в середовищі Пентагону компанія не має ні видимості, ні технічних засобів для контролю або вимкнення моделей, і в наявності немає «кнопки вимикання». Anthropic також зазначив, що Пентагон мав можливість протестувати моделі перед їх розгортанням. Цей документ є останнім розвитком у спорі між Anthropic і Пентагоном щодо позначки «ризик ланцюга поставок». У березні цього року Пентагон класифікував Anthropic як ризик ланцюга поставок, посилаючись на неправильне втручання компанії у спосіб використання її технологій у чутливих військових операціях. Основою спору є політика використання Anthropic, яка забороняє Claude використовуватися для автономної зброї або масового спостереження, що Пентагон вважає «димовою завісою». Судовий процес призвів до розколу між двома судами: суд у Вашингтоні відхилив прохання Anthropic призупинити позначку «ризик ланцюга поставок», тоді як суд у Каліфорнії схвалив його. Практичний ефект полягає в тому, що Anthropic не може брати участь у нових контрактах із Пентагоном, але може продовжувати надавати послуги іншим урядовим агентствам. Тим часом адміністрація Трампа наполягає на розгортанні нової моделі Anthropic, Mythos, у федеральних агентствах, при цьому керівники агентств досліджують, як використовувати Mythos для захисту від кібератак, суперечачи позиції Пентагону, що Anthropic становить загрозу національній безпеці. Наступне слухання заплановане на 19 травня.