Kesepakatan Pentagon OpenAI menimbulkan pertanyaan baru tentang AI dan pengawasan massal

Pada hari Jumat, hanya beberapa jam setelah secara terbuka mendukung pesaing Anthropic karena teguh melawan tuntutan Pentagon, CEO OpenAI Sam Altman mengumumkan bahwa perusahaannya telah mencapai kesepakatan sendiri dengan Pentagon. Langkah ini datang tak lama setelah pemerintah AS mengambil langkah yang sangat tidak biasa dengan menetapkan Anthropic sebagai “risiko rantai pasokan.”

Keputusan OpenAI menuai kritik dari banyak peneliti AI dan pakar kebijakan teknologi, meskipun OpenAI mengatakan telah mencapai batasan dalam kesepakatannya terkait pengawasan warga AS dan senjata otonom mematikan yang diinginkan Anthropic dalam kontraknya tetapi ditolak Pentagon.

Salah satu poin utama yang diperdebatkan adalah pengawasan massal domestik. Para ahli telah lama memperingatkan bahwa AI canggih mampu mengambil data yang tersebar dan tampaknya tidak berbahaya—seperti lokasi seseorang, keuangan, riwayat pencarian—dan menyusunnya menjadi gambaran lengkap tentang kehidupan seseorang secara otomatis dan dalam skala besar. CEO Anthropic Dario Amodei mengatakan bahwa pengawasan massal berbasis AI semacam ini menimbulkan risiko serius dan baru terhadap “kebebasan dasar” dan “hukum belum mengikuti kemampuan AI yang berkembang pesat.”

Namun, meskipun OpenAI menyatakan dalam sebuah posting blog bahwa mereka telah mencapai kesepakatan dengan Pentagon bahwa teknologi mereka tidak akan digunakan untuk pengawasan massal domestik atau sistem senjata otonom langsung, dua batas keras yang ditolak Anthropic, beberapa pakar hukum dan kebijakan mengajukan pertanyaan tentang kemungkinan adanya celah dalam hukum.

Sebagian dari sengketa ini berkaitan dengan legalitas kabur dari analisis data skala besar terhadap warga AS yang secara hukum diperbolehkan berdasarkan undang-undang AS saat ini, meskipun terasa tidak berbeda dari pengawasan massal.

“Saat ini, berdasarkan hukum AS, pemerintah diperbolehkan membeli informasi yang tersedia secara komersial dari broker data dan pihak ketiga lainnya,” kata Samir Jain, wakil presiden Kebijakan di Center for Democracy & Technology. “Jika Anda membeli data dalam jumlah besar dan membiarkan AI menganalisisnya, Anda mungkin secara efektif melakukan pengawasan massal terhadap warga AS melalui proses tersebut. Saat ini, hal itu tidak dibatasi atau dilarang oleh hukum.”

OpenAI mengatakan “garis merah” mereka ditegakkan melalui sistem teknis yang akan mereka bangun serta melalui bahasa dalam kontrak mereka dengan Pentagon. Menurut sebuah blog yang dirilis perusahaan, kontrak tersebut mengizinkan Departemen Pertahanan menggunakan AI “untuk semua tujuan yang sah, sesuai dengan hukum yang berlaku, kebutuhan operasional, dan protokol keselamatan serta pengawasan yang sudah mapan,” sambil secara tegas melarang pengawasan tanpa batas terhadap informasi pribadi warga AS.

Masalahnya adalah apa yang dianggap “sah” bisa berubah. Kontrak OpenAI mengacu pada undang-undang dan kebijakan Departemen Pertahanan yang ada, tetapi kebijakan tersebut bisa diubah di masa depan. “Tidak ada dalam apa yang mereka rilis yang akan mencegah perubahan kebijakan tersebut ke depan,” kata Jain.

Beberapa kritikus berpendapat bahwa otoritas intelijen yang ada saat ini sudah mengizinkan bentuk pengawasan yang menurut OpenAI dilarang. Mike Masnick, pendiri Techdirt, menulis di media sosial bahwa kesepakatan tersebut “benar-benar memungkinkan pengawasan domestik,” menunjuk pada Executive Order 12333, sebuah otoritas lama yang mengizinkan badan intelijen mengumpulkan komunikasi di luar Amerika Serikat, yang dapat mencakup data warga AS jika secara tidak sengaja diperoleh.

Beberapa perdebatan berfokus pada bagian tertentu dari hukum AS yang mengatur berbagai kegiatan keamanan nasional. Tindakan militer AS umumnya diatur oleh Title 10 dari Kode Federal AS. Ini mencakup pekerjaan yang dilakukan oleh Defense Intelligence Agency dan U.S. Cyber Command untuk mendukung operasi militer. Tetapi sebagian dari pekerjaan DIA termasuk dalam bagian hukum AS yang berbeda, Title 50 dari Kode AS, yang umumnya mengatur pengumpulan intelijen rahasia dan tindakan rahasia. Pekerjaan CIA dan NSA juga biasanya termasuk dalam Title 50. Beberapa kegiatan paling sensitif dari Title 50, terutama tindakan rahasia, dilakukan sebagian besar di balik layar dan memerlukan penemuan presiden.

Dalam sebuah posting blog yang dipublikasikan akhir pekan lalu, OpenAI berbagi rincian tentang kesepakatannya dengan Pentagon dan, menurut sebuah posting di media sosial oleh peneliti OpenAI terkenal Noam Brown, kepala kemitraan keamanan nasional OpenAI, Katarina Mulligan, memberitahu Brown bahwa kontrak OpenAI tidak mencakup pekerjaan Title 50 oleh komunitas intelijen, salah satu penyebab utama kekhawatiran dari para kritikus. Perwakilan OpenAI tidak segera menanggapi permintaan komentar dari Fortune.

Namun, para ahli hukum mencatat bahwa perbedaan antara kegiatan Title 10 dan Title 50 semakin kabur. Dalam praktiknya, keduanya bisa sangat mirip, dan keduanya bisa melibatkan analisis data tentang aktor asing atau pelacakan pola. Tetapi tumpang tindih ini menciptakan area abu-abu bagi perusahaan seperti OpenAI: kontrak yang melarang pekerjaan Title 50 tidak secara otomatis mencegah agensi Title 10 seperti DIA menggunakan AI untuk menganalisis dataset komersial atau tidak berlabel.

“Jika mereka mengatakan bahwa sistem mereka tidak dapat digunakan untuk kegiatan Title 50 apa pun, maka itu membatasi ruang lingkup kegiatan yang dapat dilakukan oleh sistem AI tersebut,” kata Jain. “Tapi itu tidak menyelesaikan masalah.”