Apa yang sebenarnya ada di balik saga keselamatan AI milik Anthropic

Analisis oleh Lisa Eadicicco, David Goldman, CNN

Kamis, 26 Februari 2026 pukul 10:48 PM GMT+9 waktu baca 5 menit

Rekan pendiri dan CEO Anthropic, Dario Amodei. - Chance Yeh/Getty Images

Anthropic telah mencapai titik balik yang sudah familiar bagi perusahaan teknologi yang kian berkembang: bagaimana melakukan penskalaan tanpa mengorbankan prinsip-prinsip yang membuatnya berbeda.

Perusahaan AI itu menjadikan keselamatan sebagai prinsip pandunya. Ia mendorong regulasi AI dan menyerukan perlindungan bagi pekerja saat AI menggantikan beberapa tugas manusia. Anthropic telah bekerja keras untuk menyampaikan pesan tertentu kepada para pelanggan: Kami adalah orang baik.

Namun pagar pengaman yang dipasang sendiri oleh perusahaan untuk membangun citra merek itu kini mungkin mulai menjadi hambatan bagi keberhasilannya.

Pekan ini, Pentagon memberi Anthropic ultimatum: Hentikan pembatasan etika AI Anda atau kehilangan kontrak senilai $200 juta dan menghadapi daftar hitam. Secara terpisah, juga pekan ini, Anthropic melonggarkan kebijakan keselamatan intinya untuk memberi perusahaan lebih banyak kebebasan agar bisa tumbuh di pasar yang kompetitif dan bergerak cepat.

Belum jelas bagaimana minggu ini akan berjalan bagi bisnis dan reputasi Anthropic, tetapi keputusan-keputusannya akan berdampak besar.

Kami tahu itu, karena dilema Anthropic adalah persoalan yang sudah familiar di industri teknologi. Banyak perusahaan mengumandangkan nilai dan moral mereka, hanya untuk kemudian berhadapan dengan keputusan sulit yang memaksa mereka memilih antara pertumbuhan dan mempertahankan cita-cita tersebut.

Anthropic mungkin perlu memperhatikan.

OpenAI dan akhir pekan Sam

Sam Altman, CEO OpenAI. - Andrew Harnik/Getty Images

Lebih dari dua tahun lalu, rival terbesar Anthropic bergulat dengan perbedaan pendapat soal pertumbuhan dengan mengorbankan keselamatan.

Dalam salah satu drama ruang rapat perusahaan yang paling aneh dalam sejarah korporat, rival utama Anthropic, OpenAI, tiba-tiba memecat pendiri sekaligus CEO-nya, Sam Altman, pada Jumat di bulan November 2023, hanya untuk mempekerjakannya kembali pada Selasa berikutnya.

Saga itu melibatkan struktur korporat unik yang menempatkan perusahaan berorientasi laba yang berkembang cepat, dengan ChatGPT, di bawah naungan dewan nirlaba. Empat tahun sebelumnya, perusahaan telah menuliskan dalam anggaran dasarnya bahwa OpenAI tetap “prihatin” tentang potensi AI untuk “menyebabkan perubahan cepat” bagi umat manusia. Para pengawas perusahaan khawatir Altman bergerak terlalu cepat sehingga ia berisiko mengikis keselamatan yang dijanjikan untuk diberikan perusahaan.

Namun memecat Altman memicu ancaman eksodus besar-besaran karyawan—situasi yang tak terbayangkan dan bisa berujung pada kehancuran perusahaan. Jadi, dewan hanya beberapa hari kemudian mempekerjakan kembali Altman. Dewan dibubarkan tak lama setelah itu, dan Altman mengubah struktur korporat tahun lalu untuk membebaskan diri dari pengawas nirlabanya.

Sejak itu, OpenAI kesulitan menyeimbangkan kecepatan dan keselamatan, menghadapi beberapa gugatan yang mengklaim produk-produknya membuat anak muda melukai diri sendiri. OpenAI membantah klaim-klaim tersebut.

Apple dan pelaku penembakan San Bernardino

CEO Apple, Tim Cook. - Godofredo A. Vásquez/AP

Syed Farook dan istrinya, Tashfeen Malik, membunuh 14 orang di Inland Regional Center di San Bernardino, California, pada bulan Desember 2015. Pasangan itu kemudian tewas dalam baku tembak dengan polisi.

Cerita berlanjut  

Para penyelidik memperoleh izin untuk mengambil data dari iPhone Farook, tetapi mereka tidak bisa masuk karena perangkat itu dikunci dengan kode sandi. Seorang hakim di California memerintahkan Apple untuk membantu aparat penegak hukum mengakses telepon tersebut.

Tetapi dalam surat terbuka, yang ditandatangani oleh CEO Apple Tim Cook, perusahaan itu menolak. Cook mengatakan perintah hakim itu akan membuka “jalur belakang ke iPhone,” yang merupakan “sesuatu yang kami anggap terlalu berbahaya untuk dibuat.” Perusahaan itu mengatakan mereka tidak punya simpati terhadap teroris, tetapi mematuhi perintah itu akan memberi otoritas pemerintah “kekuatan untuk menjangkau perangkat siapa pun untuk menangkap data mereka.”

Apple mendapat kecaman besar atas keputusannya—termasuk dari kandidat presiden saat itu, Donald Trump. Tetapi sejak itu, Apple mendapat pujian luas karena berdiri membela privasi pelanggan, yang kemudian menjadi identik dengan merek perusahaan tersebut.

Perusahaan itu sekarang secara rutin menegaskan bahwa mereka tidak akan menjual data pelanggan atau menyimpan informasi pribadi tertentu di server mereka, berupaya membedakan diri dari Google, salah satu kompetitor utamanya.

Etsy vs. penjual tunggal

Markas Etsy di New York. - Michael M. Santiago/Getty Images

Saat kerajaan e-commerce Amazon baru mulai lepas landas pada awal 2000-an, Etsy muncul sebagai alternatif yang menarik, tempat para pembeli bisa menemukan barang-barang buatan tangan yang unik.

Tetapi pada 2013, Etsy membuat perubahan yang menuai kontroversi dan mengancam untuk menantang etos tersebut. Ia memperluas kebijakannya untuk mengizinkan penjual memakai manufaktur dan menyerahkan operasionalnya ke pihak lain, memicu kekhawatiran saat itu bahwa Etsy tidak lagi menyediakan “lapangan bermain” yang adil bagi penjual independen kecil tanpa sumber daya untuk mempekerjakan staf.

Namun keputusan itu sangat penting bagi Etsy untuk berkembang menjadi pasar seperti yang ada hari ini, yang kini menawarkan lebih dari 100 juta item untuk dijual dan sekitar 8 juta penjual aktif.

“Dari sudut pandang bisnis, itu berhasil untuk Etsy, tetapi itu adalah momen yang sulit bagi perusahaan,” kata Arun Sundararajan, direktur NYU Stern’s Fubon Center for Technology, Business and Innovation.

Apa langkah selanjutnya bagi Anthropic

Aplikasi AI Claude milik Anthropic. - Michael M. Santiago/Getty Images

Studi kasus ini menawarkan peta jalan peringatan untuk Anthropic.

Sekarang, konsekuensi terbesar dalam waktu dekat bagi Anthropic kemungkinan besar adalah bagaimana klien dan calon pelanggan menilai serta mempercayai perusahaan tersebut, kata Owen Daniels, asisten direktur analisis di Georgetown’s Center for Security and Emerging Technology.

Anthropic mengatakan langkah-langkah keselamatan yang dipasang sendiri selalu dimaksudkan agar fleksibel dan dapat berubah seiring AI berevolusi. Ia berjanji akan transparan soal keselamatan di masa depan dan mengatakan sebenarnya perusahaan itu tidak punya pilihan: Jika perusahaan berhenti tumbuh, para pesaing yang tidak terlalu menghargai keselamatan bisa melangkah lebih dulu dan membuat AI “secara keseluruhan menjadi kurang aman”.

Belum jelas apa yang akan terjadi akibat perubahan Anthropic itu, karena risiko eksistensial AI masih sebagian besar “konseptual,” catat Sundararajan.

Ia mengatakan ia akan skeptis terhadap setiap ahli yang menyebut ini sebagai momen penting dalam keselamatan AI. Tapi mungkin ini bisa menjadi momen penting bagi perusahaan.

“Menarik kembali janji keselamatan tertentu dari pihak Anthropic, bagi saya, lebih tentang Anthropic dan lebih sedikit tentang masa depan AI,” katanya.

Untuk berita dan buletin CNN lainnya buat akun di CNN.com

Ketentuan dan Kebijakan Privasi

Dasbor Privasi

Info Lebih Lanjut