Anthropic Klaim Tidak Ada 'Tombol Mati' untuk Model AI yang Diterapkan di Pentagon

Menurut pemantauan oleh Beating, Anthropic mengajukan dokumen ke Pengadilan Banding Federal Washington yang menyatakan bahwa setelah model AI-nya diterapkan di lingkungan Pentagon, perusahaan tidak memiliki visibilitas maupun sarana teknis untuk mengendalikan atau mematikan model tersebut, dan tidak ada ‘tombol mati’ yang disediakan. Anthropic juga mencatat bahwa Pentagon memiliki kesempatan untuk menguji model sebelum penerapan. Dokumen ini merupakan perkembangan terbaru dalam sengketa antara Anthropic dan Pentagon mengenai label ‘risiko rantai pasokan’. Pada bulan Maret tahun ini, Pentagon mengklasifikasikan Anthropic sebagai risiko rantai pasokan, dengan alasan adanya campur tangan yang tidak semestinya dari perusahaan dalam penggunaan teknologi mereka dalam operasi militer yang sensitif. Inti dari sengketa ini terletak pada kebijakan penggunaan Anthropic, yang melarang Claude digunakan untuk senjata otonom atau pengawasan massal, sebuah ketentuan yang dipandang Pentagon sebagai ‘penutup asap.’ Gugatan ini menyebabkan perpecahan di antara kedua pengadilan: pengadilan Washington menolak permintaan Anthropic untuk menangguhkan label risiko rantai pasokan, sementara pengadilan California menyetujuinya. Dampak praktisnya adalah bahwa Anthropic tidak dapat berpartisipasi dalam kontrak Pentagon yang baru tetapi dapat terus menyediakan layanan kepada lembaga pemerintah lainnya. Sementara itu, pemerintahan Trump mendorong penerapan model baru Anthropic, Mythos, di lembaga federal, dengan kepala lembaga mengeksplorasi bagaimana menggunakan Mythos untuk melindungi dari serangan siber, bertentangan dengan sikap Pentagon yang menganggap Anthropic sebagai risiko keamanan nasional. Sidang berikutnya dijadwalkan pada 19 Mei.