Newsom memerintahkan pemerintah untuk mempertimbangkan bahaya AI dalam aturan kontrak

Kali berikutnya pemerintah federal memberi label sebuah bisnis sebagai risiko rantai pasok, seperti yang dilakukan Departemen Pertahanan bulan lalu terhadap pembuat alat AI berbasis San Francisco, Anthropic, negara bagian California akan meninjau penetapan itu dan membuat keputusan sendiri tentang apakah akan menjalani kerja sama dengan mereka.

Demikian menurut sebuah perintah eksekutif yang ditandatangani oleh Gubernur Gavin Newsom pada hari Senin. Perintah itu menyusul perselisihan antara Anthropic dan Departemen Pertahanan mengenai ketentuan kontrak yang melarang militer menggunakan sistem Anthropic untuk pengawasan massal domestik dan persenjataan yang sepenuhnya otonom.

Dengan menetapkan Anthropic sebagai risiko rantai pasok, Departemen Pertahanan secara efektif melarang perusahaan rintisan tersebut untuk bersaing memperebutkan kontrak militer dan subkontrak tertentu. Seorang hakim baru-baru ini mengeluarkan penetapan perintah sementara untuk mencegah penetapan tersebut.

Tujuan yang lebih luas dari perintah Newsom adalah memberi pagar pengaman pada penggunaan AI oleh pegawai negara bagian, sekaligus mendorong mereka untuk mempercepat pemanfaatan teknologi tersebut.

Banyak perusahaan AI terbesar di dunia berbasis di California, dan negara bagian ini juga memimpin negara dalam volume peraturan AI.

                        Kisah Terkait

            Kontestasi gubernur California yang berantakan memicu kekhawatiran Demokrat atas potensi kehilangan
        

    

  

    

    
    







    
    
        
        
    
    
    
    
        

            4 MENIT BACA

38

            Departemen Kehakiman menyelidiki California dan Maine terkait penempatan perempuan transgender dengan narapidana perempuan
        

    

  

    

    
    







    
    
        
        
    
    
    
    
        

            2 MENIT BACA

            Acara peringatan Hari César Chavez diubah namanya, ditunda, atau dibatalkan setelah tuduhan kekerasan seksual
        

    

  

    

    
    







    
    
        
        
    
    
    
    
        

            5 MENIT BACA

The order requires state agencies to:

1. Develop recommendations for state contract standards relating to AI and its ability to generate child sexual abuse material, violate civil liberties and civil rights laws or infringe upon legal “protections against unlawful discrimination, detention, and surveillance.” Help employees gain access to “vetted GenAI tools.”

2. Update the State Digital Strategy to identify ways generative AI can “strengthen government transparency and accountability, improve performance, and make government services easily accessible for every Californian.”

3. Develop generative AI for Californians to gain access to government services.

4. Issue guidance on how state employees should place watermarks on AI-generated imagery and videos.

Those mandates come at a time when more than 20 California departments and agencies are working to develop or use Poppy, a generative AI assistant for state employees, and when half a dozen state agencies are testing AI to do things like assist state employees and help homeless people and businesses. They also come as state courts and city governments are increasing their use of the technology.

Baca Lebih Lanjut - AP 

Berikut

Kantor Newsom mengatakan Presiden Donald Trump dan Partai Republik di Washington D.C. telah mencabut perlindungan atau mengabaikan cara-cara AI dapat membahayakan orang.

“Tidak seperti pemerintahan Trump, California tetap berkomitmen untuk memastikan bahwa solusi AI yang diadopsi dan dikerahkan oleh (California)… tidak disalahgunakan oleh pelaku jahat,” kata kantor gubernur dalam sebuah rilis pers yang mengumumkan perintah tersebut.

Pada tingkat federal, Trump telah menandatangani perintah eksekutif untuk mencegah negara bagian mengatur AI dan mendesak badan-badan pemerintah federal untuk mengadopsi AI untuk hal-hal seperti mengurangi regulasi federal dan mempercepat keputusan yang dibuat terkait Medicare. Gedung Putih memperkenalkan kerangka kebijakan AI bulan lalu yang ingin dibahas oleh Kongres. Usulan tersebut mengambil pendekatan pengaturan yang ringan dan tidak membahas isu-isu terkait bias, diskriminasi, atau hak-hak sipil.

Ini adalah perintah eksekutif kedua yang ditandatangani Newsom untuk menangani kecerdasan buatan. Sebuah perintah pada 2023 yang ditujukan secara eksklusif pada AI generatif, jenis yang menggerakkan sistem seperti ChatGPT dan Midjourney, secara serupa menyerukan penggunaan AI yang lebih besar oleh lembaga-lembaga negara bagian dan memerintahkan mereka untuk memasang pagar pengaman.

Penanganan Newsom atas isu AI mendapat perhatian ketat dari para pemimpin serikat, yang pada bulan Februari berjanji bahwa mereka tidak akan mendukung pencalonannya sebagai presiden tanpa perlindungan pekerja tambahan dari teknologi tersebut, serta dari para penyumbang big tech, yang menuangkan uang untuk memengaruhi politik California menjelang pemilihan paruh waktu musim gugur ini.

Kisah ini awalnya diterbitkan oleh CalMatters dan didistribusikan melalui kemitraan dengan The Associated Press.