Ratusan di Google dorong kepemimpinan untuk menghentikan kerjasama AI Pentagon

Lebih dari 600 karyawan Google (GOOGL, GOOG) memberi tahu Sundar Pichai pada hari Senin untuk menjauhkan Pentagon dari AI Google untuk pekerjaan rahasia.

Surat itu berasal dari pekerja di dalam DeepMind dan Google Cloud, yang menunjuk pada laporan dari The Information yang mengatakan bahwa Google dan Departemen Pertahanan AS sedang dalam pembicaraan tentang penggunaan Gemini di dalam sistem rahasia.

Karyawan Google menguraikan berbagai alasan untuk memblokir Gemini dari pekerjaan rahasia Pentagon

Surat itu dimulai dengan peringatan langsung kepada Sundar, yang dikatakan oleh para pekerja, “Kami adalah karyawan Google yang sangat peduli tentang negosiasi yang sedang berlangsung antara Google dan Departemen Pertahanan AS. Sebagai orang yang bekerja di bidang AI, kami tahu bahwa sistem ini dapat memusatkan kekuasaan dan bahwa mereka memang membuat kesalahan.”

Para karyawan mengatakan mereka percaya bahwa kedekatan mereka dengan teknologi memberi mereka “tanggung jawab untuk menyoroti dan mencegah penggunaan yang paling tidak etis dan berbahaya.”

“Kami meminta Anda untuk menolak menjadikan sistem AI kami tersedia untuk beban kerja rahasia. Jika tidak, penggunaan tersebut dapat terjadi tanpa pengetahuan kami atau kekuatan untuk menghentikannya,” kata karyawan Google. Surat itu kemudian menjelaskan bahwa mereka menginginkan AI untuk membantu orang, bukan mendukung kerusakan. Mereka menyebutkan senjata otonom mematikan dan pengawasan massal sebagai kekhawatiran utama. Mereka juga mengatakan bahwa risiko melampaui kedua bidang tersebut, karena pekerjaan rahasia dapat menyembunyikan apa yang sebenarnya sedang terjadi.

Argumen mereka adalah jika Google menerima beban kerja militer rahasia, pekerja mungkin tidak memiliki cara untuk memeriksa penggunaan tersebut, mempertanyakannya, atau menghentikannya, dan satu-satunya jaminan nyata adalah menolak pekerjaan rahasia sebelum kesepakatan selesai.

Mereka juga memperingatkan bahwa pilihan yang salah dapat merusak nama, bisnis, dan posisi Google di dunia. Para karyawan mengatakan bahwa keselamatan mereka sendiri dan infrastruktur kritis menghadapi ancaman aktif, sementara nyawa dan hak sipil sudah berada dalam risiko dari penyalahgunaan teknologi yang dibuat oleh orang seperti mereka.

Pentagon Trump memaksa masuk ke dalam akses AI besar-besaran untuk militer AS

Pemimpin Pentagon telah mengatakan bahwa militer harus bebas menggunakan AI komersial untuk “semua penggunaan yang sah.” Pejabat mengatakan bahwa frasa itu memberi ruang bagi pemerintah untuk menggunakan teknologi tersebut dalam berbagai kasus sambil tetap dalam hukum dan aturan militer AS.

Para pekerja AI tidak melihat itu sebagai perlindungan yang cukup. Kekhawatiran mereka meningkat karena bahasa dan tindakan Trump sendiri. Awal bulan ini, Presiden Donald Trump mengancam akan mengebom “setiap” jembatan dan pembangkit listrik di Iran. Para ahli mengatakan kepada The Post bahwa serangan seperti itu akan melanggar hukum internasional. Serangan pemerintahannya terhadap kapal yang diklaim membawa narkoba juga telah diperdebatkan oleh para ahli hukum internasional.

Surat Google muncul saat perusahaan AI lain sudah terlibat dalam pertarungan dengan Pentagon. Anthropic, perusahaan swasta di balik Claude, tahun lalu menempatkan teknologi mereka di dalam sistem militer AS. Alat tersebut membantu mengelola data dan mengidentifikasi target potensial.

Kemudian Pentagon memutuskan hubungan dengan Anthropic dari semua pekerjaan Departemen Pertahanan pada bulan Februari. Perusahaan tersebut mencoba menambahkan ketentuan kontrak yang menyatakan bahwa AI mereka tidak boleh digunakan untuk pengawasan massal atau senjata otonom mematikan.

Anthropic dan pemerintah kini sedang di pengadilan tentang apakah pemutusan hubungan itu legal. Kasus tersebut menarik perhatian lebih terhadap Google dan OpenAI, karena keduanya bekerja sama dengan militer AS.

OpenAI adalah perusahaan swasta, jadi tidak ada kode saham. Mereka menandatangani kesepakatan pada bulan Februari untuk menyediakan AI untuk beban kerja rahasia tak lama setelah Anthropic dihapus. Sam Altman, CEO OpenAI, mengatakan dia yakin kontrak pemerintah melarang penggunaan untuk pengawasan massal AS dan senjata otonom mematikan.

Google pernah mengalami hal ini sebelumnya. Pada tahun 2018, para pekerja memprotes proyek Pentagon yang menggunakan AI Google untuk mengidentifikasi objek dalam rekaman drone. Ratusan menandatangani petisi menentang pekerjaan tersebut, dan Google kemudian memutuskan untuk tidak memperpanjang kesepakatan itu.

Setelah pertarungan itu, Google membuat janji bahwa teknologi AI-nya tidak akan digunakan untuk senjata atau pengawasan. Tetapi perusahaan telah menghabiskan tahun-tahun terakhir mencari lebih banyak kontrak militer. Tahun lalu, Google menghapus batasan tersebut. Pada bulan Desember, mereka menandatangani kesepakatan yang memungkinkan Departemen Pertahanan menggunakan Gemini.

Jika Anda menginginkan titik masuk yang lebih tenang ke dalam DeFi crypto tanpa hype biasa, mulai dengan video gratis ini.