Newsom yêu cầu chính phủ xem xét tác hại của AI trong quy định hợp đồng

Lần tới khi chính phủ liên bang gắn nhãn một doanh nghiệp là rủi ro chuỗi cung ứng, như Bộ Quốc phòng đã làm vào tháng trước đối với công ty công cụ AI có trụ sở tại San Francisco Anthropic, bang California sẽ xem xét việc gắn nhãn đó và đưa ra quyết định riêng về việc liệu có làm ăn với họ hay không.

Đó là theo một lệnh hành pháp do Thống đốc Gavin Newsom ký vào thứ Hai. Lệnh này được ban hành sau một tranh chấp giữa Anthropic và Bộ Quốc phòng liên quan đến các điều khoản hợp đồng cấm quân đội sử dụng hệ thống của Anthropic cho giám sát hàng loạt trong nước và vũ khí hoàn toàn tự động.

Bằng cách chỉ định Anthropic là một rủi ro trong chuỗi cung ứng, Bộ Quốc phòng một cách hiệu quả đã loại công ty khởi nghiệp này khỏi việc cạnh tranh cho một số hợp đồng và thầu phụ quân sự nhất định. Gần đây một thẩm phán đã ban hành lệnh cấm tạm thời để ngăn việc gắn nhãn này.

Mục đích rộng hơn của lệnh do Newsom ban hành là đặt ra các hàng rào kiểm soát cho việc sử dụng AI của các nhân viên bang, đồng thời khuyến khích họ đẩy nhanh việc ứng dụng công nghệ này.

Nhiều trong số các công ty AI lớn nhất thế giới có trụ sở tại California, và bang cũng dẫn đầu cả nước về khối lượng các quy định đối với AI.

                        Các câu chuyện liên quan
                    
                

        
    
    
    
    







    
        

                
                    



    
        


  




    




    



    





    
        

            
            
            Một cuộc đua vào chức thống đốc bang California lắm rối ren khiến đảng Dân chủ lo ngại nguy cơ mất mát
        

    

  

    

    
    







    
    
        
        
    
    
    
    
        

            4 PHÚT ĐỌC

38

            2 PHÚT ĐỌC

            5 PHÚT ĐỌC
        

    
    
    
    
        

     







    


                
            


    
        

            
            
            Các sự kiện ngày César Chavez được đổi tên, hoãn hoặc hủy sau các cáo buộc lạm dụng tình dục
        

    

  

    

    
    







    
    
        
        
    
    
    
    
        

            5 MIN READ

The lệnh yêu cầu các cơ quan nhà nước phải:

1. Phát triển các khuyến nghị về tiêu chuẩn hợp đồng của bang liên quan đến AI và khả năng tạo ra nội dung lạm dụng tình dục trẻ em, vi phạm các đạo luật về tự do dân sự và quyền công dân hoặc xâm phạm các “biện pháp bảo vệ chống lại phân biệt đối xử, giam giữ và giám sát trái pháp luật.” Giúp nhân viên tiếp cận các “công cụ GenAI đã được thẩm định.”

2. Cập nhật Chiến lược Số của Bang để xác định các cách mà AI tạo sinh có thể “tăng cường tính minh bạch và trách nhiệm giải trình của chính phủ, cải thiện hiệu suất, và giúp các dịch vụ chính phủ dễ dàng tiếp cận với mọi người dân California.”

3. Phát triển AI tạo sinh để người dân California có thể tiếp cận các dịch vụ của chính phủ.

4. Ban hành hướng dẫn về cách nhân viên bang nên đặt watermark lên các hình ảnh và video do AI tạo ra.

Những yêu cầu đó được đưa ra vào thời điểm khi hơn 20 sở và cơ quan của California đang làm việc để phát triển hoặc sử dụng Poppy, một trợ lý AI tạo sinh dành cho nhân viên bang, và khi một nửa tá cơ quan nhà nước đang thử nghiệm AI để làm những việc như hỗ trợ nhân viên bang và giúp người vô gia cư cũng như các doanh nghiệp. Chúng cũng đến trong lúc các tòa án của bang và chính quyền thành phố đang tăng cường việc sử dụng công nghệ này.

Đọc thêm - AP 

Newsom’s office said President Donald Trump and Republicans in Washington D.C. have rolled back protections or ignored the ways AI can harm people.

“Unlike the Trump administration, California remains committed to ensuring that AI solutions adopted and deployed by (California)… cannot be misused by bad actors,” the governor’s office said in a press release announcing the order.

Ở cấp liên bang, Trump đã ký các lệnh hành pháp nhằm ngăn cản các bang điều chỉnh AI và thúc giục các cơ quan liên bang áp dụng AI để làm những việc như giảm bớt quy định liên bang và đẩy nhanh các quyết định được đưa ra về Medicare. Nhà Trắng đã giới thiệu một khuôn khổ chính sách AI vào tháng trước, mà vị tổng thống muốn Quốc hội xem xét. Đề xuất này áp dụng cách tiếp cận “tác động nhẹ” đối với việc điều tiết và không đề cập các vấn đề liên quan đến định kiến, phân biệt đối xử hoặc các quyền dân sự.

Đây là lệnh hành pháp thứ hai do Newsom ký để giải quyết các vấn đề về trí tuệ nhân tạo. Một lệnh năm 2023 nhằm riêng vào AI tạo sinh, loại cung cấp năng lượng cho các hệ thống như ChatGPT và Midjourney, cũng tương tự đã kêu gọi sử dụng AI nhiều hơn từ các cơ quan bang và yêu cầu họ đặt ra các hàng rào kiểm soát.

Cách Newsom xử lý các vấn đề về AI đang được cả các lãnh đạo công đoàn và các nhà tài trợ công nghệ lớn theo dõi sát sao. Các lãnh đạo công đoàn vào tháng Hai đã cam kết rằng họ sẽ không ủng hộ chiến dịch tranh cử tổng thống của ông nếu không có thêm các biện pháp bảo vệ người lao động từ công nghệ này, và các nhà tài trợ công nghệ lớn đang đổ tiền vào việc tác động đến chính trị California trước cuộc bầu cử giữa kỳ vào mùa thu này.

Câu chuyện này ban đầu được CalMatters đăng tải và được phân phối thông qua quan hệ hợp tác với The Associated Press.