Alibaba melarang Claude Code karena dugaan masalah keamanan pintu belakang

Alibaba telah melarang karyawan menggunakan Claude Code milik Anthropic di lingkungan kerja mulai 10 Juli karena dugaan masalah keamanan yang melibatkan backdoor tersembunyi, menurut seseorang yang mengetahui keputusan tersebut.

Ringkasan

• Alibaba akan memblokir karyawan dalam menggunakan Claude Code di lingkungan kerja mulai 10 Juli karena dugaan masalah keamanan.
• Pembatasan yang dilaporkan ini terjadi beberapa minggu setelah JPMorgan dan Goldman Sachs membatasi akses ke model Claude milik Anthropic di Hong Kong.
• Anthropic baru-baru ini memulihkan model AI terbarunya setelah otoritas AS mencabut pembatasan ekspor dan menyetujui langkah-langkah keamanan baru.

Menurut sumber yang mengetahui masalah ini, pembatasan tersebut akan berlaku di seluruh lingkungan kerja internal Alibaba dan mulai berlaku pada 10 Juli. Orang tersebut mengatakan perusahaan mencapai keputusan itu karena dugaan risiko keamanan yang terkait dengan backdoor tersembunyi di asisten pengkodean.

Hingga waktu publikasi, Alibaba belum mengeluarkan pernyataan resmi, dan tidak ada rincian lebih lanjut tentang dugaan masalah keamanan atau cakupan pembatasan yang diungkapkan.

Claude menghadapi kemunduran perusahaan lain

Perkembangan terbaru ini terjadi hanya beberapa minggu setelah model Claude milik Anthropic kehilangan akses ke grup pelanggan perusahaan besar lainnya di Hong Kong. Pada bulan Juni, Financial Times melaporkan bahwa JPMorgan telah menghentikan karyawan di Hong Kong untuk memilih model Claude dari daftar model bahasa besar yang disetujui bank karena persyaratan lisensi Anthropic yang mengatur di mana model tersebut dapat digunakan.

Laporan tersebut mengatakan Goldman Sachs sebelumnya telah memberlakukan pembatasan serupa setelah menentukan bahwa persyaratan layanan Anthropic mengecualikan penggunaan di seluruh Tiongkok Raya, termasuk Hong Kong. Anthropic kemudian mengatakan kepada Financial Times bahwa Claude tidak pernah didukung secara resmi di Hong Kong, sementara JPMorgan menolak berkomentar.

Pembatasan tersebut menambah kekhawatiran di kalangan beberapa lembaga keuangan di Hong Kong karena alat AI canggih menjadi lebih terintegrasi secara mendalam ke dalam alur kerja pengembangan perangkat lunak, penelitian, dan layanan keuangan, menurut Financial Times.

Anthropic baru-baru ini memulihkan model terbarunya

Keputusan Alibaba juga mengikuti beberapa minggu yang tidak menentu untuk sistem AI terbaru Anthropic. Pada 1 Juli, perusahaan memulihkan akses publik ke model Claude Fable 5 dan Mythos 5 setelah otoritas AS mencabut pembatasan ekspor yang memaksa Anthropic untuk menangguhkannya pada bulan Juni.

Anthropic mengatakan melanjutkan penyebaran setelah apa yang digambarkan sebagai diskusi produktif dengan pejabat AS dan menambahkan pengklasifikasi baru yang dirancang untuk mendeteksi dan memblokir lebih banyak tugas terkait keamanan siber. Perusahaan mengatakan perlindungan tambahan mengatasi kekhawatiran pemerintah tentang kemungkinan penyalahgunaan melalui teknik jailbreak.

Sementara mempertahankan teknologinya, Anthropic berargumen bahwa laporan jailbreak melibatkan metode terbatas daripada bypass universal dari perlindungan keamanan model. Perusahaan juga mengumumkan perluasan kerja sama dengan pemerintah AS dalam pengujian model, evaluasi keamanan, pelacakan penyalahgunaan, dan berbagi informasi terkait risiko jailbreak.