OpenAI и Anthropic ограничивают новые модели ИИ для клиентов, одобренных Трампом, во время проверки кибербезопасности

ChatGPT maker OpenAI заявил в пятницу, что ограничивает выпуск своей новой модели искусственного интеллекта по запросу администрации президента Дональда Трампа, что стало очередным шагом в беспрецедентной проверке продуктов ИИ на кибербезопасность со стороны правительства.

Его главный конкурент, Anthropic, объявил несколькими часами позже, что администрация Трампа одобрила ограниченный выпуск его самой мощной модели кибербезопасности, спустя две недели после того, как Минторговли США фактически запретил её.

Обе компании заявили, что их новейшие модели будут доступны небольшим группам доверенных партнёров. OpenAI сообщил, что его новый продукт ИИ, названный GPT-5.6 Sol, будет доступен только клиентам, одобренным администрацией Трампа.

«Мы не считаем, что такой процесс государственного контроля должен стать долгосрочным стандартом», — заявил OpenAI. Компания назвала период тестирования временным шагом на «пути к более широкой доступности в ближайшие недели».

Поэтапный выпуск мощной новой системы ИИ от OpenAI последовал за действиями правительства, предпринятыми ранее в этом месяце в отношении Anthropic, создателя чат-бота Claude. Anthropic отключил две новые модели ИИ, известные как Fable 5 и Mythos 5, всего через несколько дней после их анонса, чтобы выполнить директиву Трампа, блокирующую их использование иностранными гражданами. В пятницу правительство сняло ограничения на одну из этих моделей, Mythos 5, что позволило «переразвернуть её для небольшой группы киберзащитников и поставщиков инфраструктуры», сообщил Anthropic.

                        Связанные истории
                    
                

        
    
    
    
    







    
        

                
                    



    
        


  




    




    




    




    




    




    




    




    



    




    
    
    
    

    

    





    
        

            
            
            Модель Mythos от Anthropic выявила уязвимости в засекреченных правительственных системах США, заявляет чиновник
        

    

  

    

    
    







    
    
        
        
    
    
    
    
        

            2 МИНУТЫ ЧТЕНИЯ
        

    
    
    
    







    

    

    

    

    




                
            

    
        

                
                    



    
        


  




    




    




    




    




    




    




    




    



    




    
    
    
    

    

    





    
        

            
            
            Президент Франции призывает США делиться передовым ИИ и демократии сотрудничать в регулировании
        

    

  

    

    
    







    
    
        
        
    
    
    
    
        

            4 МИНУТЫ ЧТЕНИЯ
        

    
    
    
    







    

    

    

    

    




                
            

    
        

                
                    



    
        


  




    




    




    




    




    




    




    




    



    




    
    
    
    

    

    





    
        

            
            
            SpaceX покупает стартап по ИИ-кодингу Cursor за $60 миллиардов в гонке за преимуществом над Anthropic и OpenAI
        

    

  

    

    
    







    
    
        
        
    
    
    
    
        

            1 МИНУТА ЧТЕНИЯ

Белый дом заявил в пятницу, что продолжает сотрудничать с ведущими лабораториями ИИ для решения проблем масштабирования быстрорастущей технологии.

Официальные лица всё больше обеспокоены с тех пор, как Anthropic ранее в этом году предупредил, что его модель Mythos была способна находить программные ошибки таким образом, что это могло быть использовано злоумышленниками и угрожать критическим компьютерным сетям по всему миру.

Читать далее 

Новые мощные модели ИИ привлекли внимание Белого дома

Трамп ранее в июне подписал указ о надзоре за ИИ, который установил рамки для проверки федеральным правительством рисков для национальной безопасности, связанных с наиболее продвинутыми системами ИИ, на срок до 30 дней до их публичного выпуска. Указ описывал участие разработчиков ИИ как добровольное, но рамки ещё не полностью разработаны.

Некоторые союзники Трампа возложили вину на базирующуюся в Сан-Франциско Anthropic и её генерального директора Дарио Амодея за необходимость усиленного правительственного контроля.

«Дарио приезжал в Вашингтон несколько месяцев назад, ещё в апреле, и по сути сказал, что создал кибероружие под названием Mythos», — сказал инвестор Дэвид Сакс, который является соруководителем совета технологических и научных советников Трампа, в недавнем подкасте. «И он поднял уровень кортизола, заставив всех сильно волноваться. И в этом была доля правды в том смысле, что эта модель обладала продвинутыми кибервозможностями».

OpenAI, также базирующийся в Сан-Франциско, заявил, что его новая модель Sol (произносится как ‘СОЛ’, как испанское слово «солнце») «лучше помогает находить и исправлять уязвимости», чем осуществлять кибератаки, и не превышает собственный порог риска компании. Но он признал, что могут существовать непредвиденные риски, особенно если его модель будет объединена с другими инструментами.

**Подпишитесь на Morning Wire:**
Наш флагманский бюллетень разбирает главные заголовки дня.








  

    Адрес электронной почты
    
  

  
    Подписаться
  




  
    
    
      Устанавливая этот флажок, вы соглашаетесь с Условиями использования AP
      и признаёте, что AP может собирать и использовать ваши данные в соответствии с нашей Политикой конфиденциальности.

«Эта неопределённость, а также более широкий скачок возможностей модели — вот почему мы сочетаем её возросшие возможности с более строгими мерами защиты и поэтапным выпуском», — заявила компания в пятницу.

OpenAI пока не назвал ни одного из примерно 20 клиентов, которые уже одобрены для использования новой модели.

Критики предупреждают, что непредсказуемое государственное вмешательство может сдерживать американские компании

Член Палаты представителей США Лори Трахан, демократ от Массачусетса и соавтор двухпартийного законопроекта о регулировании ИИ, заявила в своём заявлении, что её беспокоит, «что администрация Трампа решает для каждой компании, кто получает доступ к новейшей модели ИИ. Ни закона. Ни процедуры. Ни контроля. Просто назначенные чиновники в Вашингтоне решают, кто входит, а кто нет».

Широкая группа технических экспертов также раскритиковала действия правительства, которые привели к тому, что Anthropic отключил Fable, которую компания позиционировала как более безопасную версию Mythos. Сейчас она недоступна уже две недели, даже после того, как правительство в пятницу сняло ограничения на более мощную Mythos.

«Я просто хочу сказать, что практически никто в индустрии кибербезопасности не считает, что для таких действий есть какие-либо фактические основания», — заявил эксперт по кибербезопасности из Стэнфордского университета Алекс Стамос на звонке с журналистами ранее на этой неделе.

Стамое, главный директор по продуктам компании по безопасности ИИ Corridor и бывший главный директор по безопасности в Meta, материнской компании Facebook, сказал, что он изучил анализ исследований Fable, проведённый основным поставщиком облачных вычислений Anthropic — Amazon, и не обнаружил рисков, которые не были бы присущи другим публично доступным моделям ИИ, включая те, что созданы в Китае.

«Если администрация честна в своём желании, чтобы США победили Китай в этой гонке, то это, пожалуй, самое глупое, что они могли бы сделать», — сказал Стамос.

Усиление контроля по мере того, как компании ИИ движутся к IPO

Генеральный директор OpenAI Сэм Альтман в среду говорил с министром торговли США Говардом Лютником о выпуске модели, что стало частью серии переговоров в последние недели между руководителями индустрии ИИ и чиновниками Трампа.

Anthropic также участвовал в этих переговорах, но у Амодея сложились более конфликтные отношения с администрацией Трампа. Пентагон признал Anthropic угрозой национальной безопасности за поднятие этических и безопасностных вопросов об использовании ИИ в войне, а сам Трамп приказал федеральным агентствам прекратить использование Claude. Anthropic ответил иском, который всё ещё рассматривается в федеральных судах.

Anthropic заявил в пятницу, что «рад» частичному выпуску Mythos в пятницу вечером и будет «продолжать работу с правительством для расширения доступа» и сделать Fable снова доступным для обычных пользователей. Лютник сообщил Anthropic в письме от пятницы, что их работа по устранению опасений правительства «принесла значительный прогресс».

Усиление контроля за ИИ со стороны правительства добавляет ещё одно осложнение к исследовательским шагам OpenAI, а также Anthropic по выводу своих компаний на биржу, после рекордного первичного публичного размещения акций SpaceX 12 июня.

Трамп высказал возможность того, что правительство США может владеть долей в ведущих компаниях ИИ, описав концепцию, при которой «доли могут быть переданы американской общественности, где американская общественность по сути становится партнёром компаний».

—-

Автор Associated Press Джонатан Дж. Купер внёс вклад в этот репортаж.