CEO Anthropic Dario Amodei memperingatkan hari Selasa bahwa kecerdasan buatan telah menciptakan jendela sempit bagi perusahaan teknologi, pemerintah, dan bank di dunia untuk memperbaiki puluhan ribu kerentanan perangkat lunak yang ditemukan oleh model terbaru perusahaan.

Model AI tersebut, Mythos, telah diperlihatkan bulan lalu bersama dengan pengungkapan bahwa model itu telah menemukan kerentanan berusia puluhan tahun dalam perangkat lunak penting.

Karena model AI dari musuh geopolitik China “mungkin enam sampai 12 bulan” tertinggal dari produk Anthropic, ada “sekitar waktu tersebut” untuk memperbaiki masalah ini, kata Amodei.

Komentar tersebut disampaikan selama acara Anthropic di mana Amodei berbagi panggung dengan CEO JPMorgan Chase Jamie Dimon dan memperkenalkan rangkaian agen baru yang bertujuan mengotomatisasi pekerjaan keuangan.

“Bahaya utamanya adalah peningkatan besar-besaran dalam jumlah kerentanan, pelanggaran, dan kerusakan keuangan yang disebabkan oleh ransomware di sekolah, rumah sakit, belum lagi bank,” kata Amodei.

Anthropic membatasi Mythos hanya untuk beberapa perusahaan mitra karena kekhawatiran tentang apa yang bisa dilakukan penjahat atau negara adversarial dengan model tersebut. Beberapa pembaruan model terakhir perusahaan telah menggema di pasar, tetapi Mythos menimbulkan kekhawatiran terbesar dari perusahaan dan pembuat kebijakan.

Skala potensi eksploitasi siber telah membengkak dengan setiap generasi Claude, kata Amodei. Model Anthropic sebelumnya menemukan sekitar 20 kerentanan di browser Firefox. Mythos menemukan hampir 300, dan jumlah total di semua perangkat lunak kini mencapai puluhan ribu, katanya.

Sebagian besar kerentanan yang ditemukan oleh Mythos belum diungkapkan secara publik karena masih belum diperbaiki, dan “penjahat akan memanfaatkannya” jika mereka teridentifikasi, kata Amodei.

‘Sebuah dunia yang lebih baik’

Meskipun ada kekhawatiran, baik Amodei maupun Dimon juga menyampaikan nada optimisme bersyarat.

“Ini tentang momen bahaya di mana jika kita merespons dengan benar, dan saya rasa kita mulai mengambil langkah pertama, maka kita bisa memiliki dunia yang lebih baik di sisi lain,” kata Amodei. “Hanya ada beberapa bug yang harus ditemukan.”

Dimon juga mengatakan bahwa meskipun ketakutan siber tersebut dibenarkan, risiko keamanan siber yang diciptakan oleh AI adalah “periode sementara.”

Mengenai regulasi, Amodei mengatakan bahwa pengawasan AI harus menyerupai apa yang dilakukan di industri otomotif, menyeimbangkan keselamatan konsumen dan memungkinkan industri bersaing.

“Anda tidak bisa memulai perusahaan mobil tanpa ‘Apakah ada rem di kendaraan ini?’” katanya. “Kita perlu meraba-raba menuju proses yang memungkinkan industri beroperasi dengan cepat, adil, tetapi juga menempatkan pembatas pada hal-hal yang paling serius.”

Acara perusahaan ini, dan setting-nya bersama Dimon, yang merupakan juru bicara paling terkenal di industri keuangan, tampaknya menunjukkan keunggulan Anthropic atas OpenAI di pasar AI perusahaan saat kedua perusahaan menuju kemungkinan IPO.

Anthropic mengumumkan hari Selasa tentang perluasan platform layanan keuangannya, termasuk 10 agen AI baru untuk perbankan investasi dan pekerjaan back-office serta integrasi di seluruh berbagai program Office milik Microsoft. Perusahaan juga mengatakan model terbarunya yang tersedia secara luas — Claude Opus 4.7 — memimpin tolok ukur untuk tugas analisis keuangan.

tonton sekarang

VIDEO1:5101:51

Anthropic umumkan rangkaian alat AI baru yang dirancang untuk lembaga keuangan

Money Movers

Pilih CNBC sebagai sumber utama Anda di Google dan jangan pernah melewatkan momen dari nama yang paling terpercaya dalam berita bisnis.

Lihat Asli

Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.