纽森命令政府在合同规则中考虑人工智能危害

联邦政府下次将一家企业标为供应链风险时——正如国防部上个月对总部位于旧金山的AI工具制造商Anthropic所做的那样——加利福尼亚州将对该指定进行审查，并自行决定是否与他们开展业务。

这是加州州长加文·纽瑟姆（Gavin Newsom）周一签署的一项行政令所称。该行政令源于Anthropic与国防部之间的一场争议：双方在合同条款上存在分歧，这些条款禁止军方使用Anthropic系统进行本土大规模监控以及完全自主的武器装备。

通过将Anthropic指定为供应链风险，国防部实际上禁止该初创公司参与某些军事合同及分包项目。近期，一名法官发布了临时禁令，以阻止该指定生效。

纽瑟姆这项行政令的更广泛目的，是在对州政府雇员使用AI设置护栏的同时，鼓励他们加速使用这项技术。

世界上许多最大的AI公司都位于加利福尼亚州，而且该州在AI监管的数量方面也走在全国前列。

                        相关报道

            一场混乱的加州州长选举引发民主党对可能失利的担忧
        

    

  

    

    
    







    
    
        
        
    
    
    
    
        

            4 分钟阅读

38

            美国司法部调查加州和缅因州：关于将跨性别女性安置在女性监狱中的问题
        

    

  

    

    
    







    
    
        
        
    
    
    
    
        

            2 分钟阅读

            César Chavez（塞萨尔·查韦斯）日活动因性虐待指控而被改名、推迟或取消
        

    

  

    

    
    







    
    
        
        
    
    
    
    
        

            5 分钟阅读

该命令要求州级机构：

1. 制定关于AI及其生成儿童性虐待材料能力的州合同标准建议，违反民权与公民权法律，或侵犯“防止非法歧视、拘押和监视”的法律“保护”。帮助员工获得“经过审查的GenAI工具”。

2. 更新《州数字战略》，以识别生成式AI如何“加强政府透明度与问责，提高绩效，并让每一位加利福尼亚人都能轻松获得政府服务”。

3. 为加州民众开发生成式AI，以便他们获得政府服务。

4. 发布指导，说明州政府雇员应如何在AI生成的图像与视频上加水印。

这些要求出台之际，当时已有20多个加州部门与机构正在着手开发或使用Poppy——面向州政府雇员的生成式AI助手——同时还有半打州级机构正在测试AI，去做诸如协助州政府雇员、帮助无家可归者以及帮助企业等事情。它们的出台也发生在州法院与市政府正在增加使用该项技术的背景下。

阅读更多 - AP 

纽瑟姆办公室表示，唐纳德·特朗普总统以及华盛顿特区的共和党人已撤回保护措施或忽视了AI可能伤害人们的方式。

“与特朗普政府不同，加利福尼亚州仍然致力于确保（加州……）所采用并部署的AI解决方案不会被恶意行为者滥用，”该州长办公室在一份宣布该命令的新闻稿中表示。

在联邦层面，特朗普已签署行政令以劝阻各州对AI进行监管，并敦促联邦机构采用AI来做诸如减少联邦监管、加速就Medicare（医疗保险）所作决定等事。白宫上个月推出了一个AI政策框架，总统希望由国会来审议。该提案对监管采取了相对温和的方式，并未处理与偏见、歧视或公民权利相关的问题。

这是纽瑟姆为应对人工智能问题签署的第二份行政令。2023年的一项命令专门针对生成式AI（如支持ChatGPT和Midjourney这类系统的那种），同样要求州级机构更广泛使用AI，并命令他们设置护栏。

纽瑟姆处理AI相关问题的方式，受到工会领袖与大型科技捐助者的密切关注。工会领袖在今年2月曾承诺：在没有来自该技术的更多劳动者保护之前，他们不会支持他竞选总统；而大型科技捐助者则正在向加州政治施加影响，投入资金以影响今年秋季的期中选举。

该报道最初由CalMatters发布，并通过与美联社（The Associated Press）的合作关系进行了分发。