Klaim yang diajukan Anthropic terhadap pemerintah menunjukkan situasi yang cukup menarik. Perusahaan mengatakan bahwa mereka telah dimasukkan ke daftar hitam oleh Departemen Pertahanan dan kehilangan kontrak federal mereka. Lalu, mengapa? Alasan resmi adalah "risiko rantai pasokan" tetapi Anthropic mengklaim bahwa itu jauh dari alasan sebenarnya.

Pembelaan perusahaan adalah: Mereka dihukum karena menolak menempatkan batasan etika pada teknologi mereka. Artinya, mereka kehilangan kepercayaan karena tidak menghapus pembatasan keamanan. Anthropic melihat ini sebagai hak yang dilindungi oleh Amandemen Pertama — yaitu mereka harus bisa memutuskan sendiri bagaimana mengembangkan teknologi mereka.

Hal menarik dalam kasus ini adalah: Sebuah perusahaan teknologi berpendapat bahwa menempatkan batasan etika tidak seharusnya menyebabkan mereka kehilangan kontrak federal. Dengan kata lain, mereka dihukum oleh pemerintah karena standar keamanan yang mereka tetapkan sendiri.

Situasi ini bisa menjadi preseden penting bagi industri AI. Jika Anthropic menang, perusahaan AI lain juga bisa lebih mudah menghindari daftar hitam dalam situasi serupa. Jika mereka kalah, maka akan terbentuk titik awal baru tentang seberapa banyak kontrol yang bisa diberikan pemerintah kepada perusahaan teknologi.