Newsom наказує уряду враховувати шкоду від ШІ у правилах контрактів

Наступного разу, коли федеральний уряд назве бізнес ризиком ланцюга постачання — як Міністерство оборони зробило минулого місяця щодо виробника AI-інструментів Anthropic із Сан-Франциско, — штат Каліфорнія перегляне це визначення і ухвалить власне рішення щодо того, чи вести з ними справи.

Так сказано в указі, підписаному в понеділок губернатором Ґевіном Ньюсомом. Рішення стало наслідком спору між Anthropic і Міністерством оборони щодо умов контракту, які забороняли військовим використовувати системи Anthropic для внутрішнього масового спостереження та повністю автономного озброєння.

Шляхом позначення Anthropic як ризику ланцюга постачання Міністерство оборони фактично усунуло стартап від участі в певних військових контрактах і субконтрактах. Нещодавно суддя видав тимчасову заборону, щоб зупинити це визначення.

Загальніший намір указу Ньюсома полягав у тому, щоб встановити запобіжні обмеження щодо використання AI державними службовцями, водночас заохочуючи їх прискорити його застосування.

Багато з найбільших компаній у сфері AI у світі базуються в Каліфорнії, і штат також очолює країну за обсягом регулювань AI.

Суміжні матеріали

            Безладна кампанія губернаторських виборів у Каліфорнії підвищує страхи демократів щодо можливої втрати
        

    

  

    

    
    







    
    
        
        
    
    
    
    
        

            4 ХВ НА ЧИТАННЯ
        

    
    
    
    
        38

            Міністерство юстиції розслідує Каліфорнію та Мен щодо розміщення трансгендерних жінок з ув’язненими-жінками
        

    

  

    

    
    







    
    
        
        
    
    
    
    
        

            2 ХВ НА ЧИТАННЯ

            Події з нагоди Дня Сезара Чавеса перейменували, перенесли або скасували після звинувачень у сексуальному насильстві
        

    

  

    

    
    







    
    
        
        
    
    
    
    
        

            5 ХВ НА ЧИТАННЯ

The order requires state agencies to:

1. Develop recommendations for state contract standards relating to AI and its ability to generate child sexual abuse material, violate civil liberties and civil rights laws or infringe upon legal “protections against unlawful discrimination, detention, and surveillance.” Help employees gain access to “vetted GenAI tools.”

2. Update the State Digital Strategy to identify ways generative AI can “strengthen government transparency and accountability, improve performance, and make government services easily accessible for every Californian.”

3. Develop generative AI for Californians to gain access to government services.

4. Issue guidance on how state employees should place watermarks on AI-generated imagery and videos.

Those mandates come at a time when more than 20 California departments and agencies are working to develop or use Poppy, a generative AI assistant for state employees, and when half a dozen state agencies are testing AI to do things like assist state employees and help homeless people and businesses. They also come as state courts and city governments are increasing their use of the technology.

Читати далі — AP 

Newsom’s office said President Donald Trump and Republicans in Washington D.C. have rolled back protections or ignored the ways AI can harm people.

«На відміну від адміністрації Трампа, Каліфорнія залишається відданою тому, щоб AI-рішення, ухвалені та запроваджені (Каліфорнією)… не могли бути використані зловмисниками», — йдеться в повідомленні пресслужби губернатора, яке оголошувало ухвалення цього указу.

На федеральному рівні Трамп підписав укази, щоб стримувати штати від регулювання AI, і закликав федеральні агентства впроваджувати AI для того, щоб, зокрема, зменшити федеральне регулювання та прискорити ухвалення рішень щодо Medicare. Біла домівка минулого місяця представила рамковий документ з AI-політики, який президент хоче, щоб Конгрес розглянув. У цій пропозиції використано легкий підхід до регулювання, і вона не торкається питань, пов’язаних зі упередженістю, дискримінацією або громадянськими правами.

Це другий указ Ньюсома, підписаний для врегулювання питання штучного інтелекту. Указ 2023 року, спрямований виключно на генеративний AI — той, що живить системи на кшталт ChatGPT і Midjourney, — так само закликав до більшого використання AI державними агентствами та наказував їм встановити запобіжні обмеження.

Проблеми, пов’язані з AI, які розглядає Ньюсом, перебувають під пильною увагою як з боку лідерів профспілок, які в лютому пообіцяли, що не підтримають його кандидатуру на посаду президента без додаткових захистів працівників від цієї технології, так і з боку великих донорів у сфері big tech, які вливають гроші в те, щоб впливати на політику Каліфорнії напередодні виборів у листопаді цього року.

Цю історію спочатку опублікував CalMatters, а згодом поширили в межах партнерства з The Associated Press.