Ньюсом приказывает правительству учитывать вред от ИИ в правилах контрактов

2026-04-02 23:18:59

В следующий раз, когда федеральное правительство будет маркировать бизнес как риск для цепочки поставок — как в прошлом месяце поступило Министерство обороны в отношении производителя ИИ-инструментов Anthropic из Сан-Франциско, — штат Калифорния рассмотрит это обозначение и примет собственное решение о том, стоит ли иметь с ними дело.

Так говорится в распоряжении (executive order), подписанном в понедельник губернатором Гэвином Ньюсомом. Распоряжение последовало за спором между Anthropic и Министерством обороны по условиям контракта, которые запрещают военным использовать системы Anthropic для внутренней массовой слежки и для полностью автономного вооружения.

Обозначив Anthropic как риск для цепочки поставок, Министерство обороны фактически запретило стартапу участвовать в некоторых военных контрактах и субподрядах. Недавно судья вынес временный судебный запрет, чтобы заблокировать это обозначение.

Более широкая цель распоряжения Ньюсома заключалась в том, чтобы установить ограждения (guardrails) для использования ИИ сотрудниками штата, одновременно побуждая их ускорить внедрение этой технологии.

Многие крупнейшие компании в сфере ИИ в мире базируются в Калифорнии, и штат также занимает лидирующие позиции в стране по объему регулирования ИИ.

                        Связанные истории

            Грязная предвыборная гонка в Калифорнии усиливает опасения демократов из‑за возможной потери
        

    

  

    

    
    







    
    
        
        
    
    
    
    
        

            4 МИН ЧТЕНИЯ

            Министерство юстиции расследует Калифорнию и Мэн по обвинениям в содержании трансгендерных женщин вместе с заключенными-женщинами
        

    

  

    

    
    







    
    
        
        
    
    
    
    
        

            2 МИН ЧТЕНИЯ

            День Сесара Чавеса: мероприятия переименованы, перенесены или отменены после обвинений в сексуальном насилии
        

    

  

    

    
    







    
    
        
        
    
    
    
    
        

            5 МИН ЧТЕНИЯ

The order requires state agencies to:

Develop recommendations for state contract standards relating to AI and its ability to generate child sexual abuse material, violate civil liberties and civil rights laws or infringe upon legal “protections against unlawful discrimination, detention, and surveillance.” Help employees gain access to “vetted GenAI tools.”
Update the State Digital Strategy to identify ways generative AI can “strengthen government transparency and accountability, improve performance, and make government services easily accessible for every Californian.”
Develop generative AI for Californians to gain access to government services.
Issue guidance on how state employees should place watermarks on AI-generated imagery and videos.

Those mandates come at a time when more than 20 California departments and agencies are working to develop or use Poppy, a generative AI assistant for state employees, and when half a dozen state agencies are testing AI to do things like assist state employees and help homeless people and businesses. They also come as state courts and city governments are increasing their use of the technology.

Читать далее — AP

Newsom’s office said President Donald Trump and Republicans in Washington D.C. have rolled back protections or ignored the ways AI can harm people.

“Unlike the Trump administration, California remains committed to ensuring that AI solutions adopted and deployed by (California)… cannot be misused by bad actors,” the governor’s office said in a press release announcing the order.

На федеральном уровне Трамп подписал распоряжения, чтобы отговорить штаты от регулирования ИИ, и призвал федеральные ведомства внедрять ИИ для таких вещей, как сокращение федерального регулирования и ускорение решений, принимаемых по программе Medicare. Белый дом представил в прошлом месяце рамочную политику по ИИ, которую президент хочет, чтобы Конгресс взял на рассмотрение. Этот प्रस्ताव предлагает мягкий подход к регулированию и не затрагивает вопросы, связанные с предвзятостью, дискриминацией или гражданскими правами.

Это второе распоряжение Ньюсома, подписанное для решения вопросов, связанных с искусственным интеллектом. Распоряжение 2023 года, направленное исключительно на генеративный ИИ (тот самый, который лежит в основе систем вроде ChatGPT и Midjourney), аналогично требовало более широкого использования ИИ со стороны органов власти штата и предписывало установить ограждения (guardrails).

Вопросы с ИИ, которыми занимается Ньюсом, внимательно отслеживаются как лидерами профсоюзов — в феврале они пообещали, что не будут поддерживать его выдвижение в президенты без дополнительных мер защиты работников от этой технологии, — так и крупными техно-донаторами, которые вливают деньги в попытки повлиять на политику Калифорнии до осенних выборов в середине срока полномочий.

Эта история первоначально была опубликована CalMatters и распространена в рамках партнерства с The Associated Press.

Посмотреть Оригинал

На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .