Anthropic berkolaborasi dengan Microsoft(MSFT.US) dan para raksasa teknologi lainnya menguji model AI baru untuk menghadapi risiko keamanan siber

Aplikasi Zhitong Finance APP melaporkan bahwa pada hari Selasa, Anthropic mengumumkan akan bekerja sama dengan beberapa raksasa teknologi untuk meluncurkan program baru guna mengantisipasi lebih dini ancaman keamanan siber yang mungkin ditimbulkan oleh model AI yang lebih kuat.

Menurut penjelasan, Anthropic meluncurkan program kolaborasi bernama “Project Glasswing”, dan akan membuka sebuah model AI yang belum dirilis bernama “Mythos” kepada beberapa perusahaan teknologi, termasuk Amazon (AMZN.US), Apple (AAPL.US), Microsoft (MSFT.US), dan Cisco (CSCO.US). Perusahaan terkait akan memanfaatkan model tersebut untuk mengidentifikasi celah keamanan dalam produk mereka sendiri, serta berbagi hasil riset dengan industri.

Anthropic menyatakan, saat ini belum ada rencana untuk membuka Mythos kepada publik. Ke depan, berdasarkan hasil umpan balik proyek Glasswing, model tersebut akan diberi “pagar pengaman” keamanan yang lebih sempurna. Langkah ini mencerminkan meningkatnya kekhawatiran di industri teknologi bahwa model AI canggih berpotensi disalahgunakan oleh peretas atau aktor yang didukung negara.

Secara umum diyakini di kalangan industri bahwa seiring peningkatan kemampuan AI, kemampuan dalam analisis kode dan penggalian celah juga ikut meningkat, sehingga berpotensi digunakan untuk mengakali sistem pertahanan siber yang ada. Pesaing Anthropic, OpenAI, sebelumnya juga pernah menekankan risiko serupa dan meluncurkan proyek percontohan, dengan prioritas menyediakan alat AI kepada pihak pembela untuk digunakan.

Newton Cheng, kepala tim keamanan siber Anthropic, mengatakan bahwa ini bukan hanya masalah satu perusahaan, melainkan tantangan yang perlu dihadapi bersama oleh seluruh industri bahkan pemerintah. “Kami ingin melalui Glasswing agar pihak pembela memperoleh keunggulan lebih dulu sebelum teknologi menyebar.”

Perusahaan itu juga mengungkapkan bahwa mereka telah melakukan komunikasi terkait kemampuan keamanan Mythos dengan lembaga pemerintah AS yang relevan, serta bekerja sama dengan Cybersecurity and Infrastructure Security Agency (CISA) dan National Institute of Standards and Technology (NIST).

Meskipun Mythos tidak dikembangkan khusus untuk keamanan siber, kinerjanya telah menarik perhatian. Anthropic menyebut bahwa model tersebut telah menemukan beberapa celah penting, termasuk sebuah celah perangkat lunak perangkat lunak penting internet yang berlangsung hingga 27 tahun, serta sebuah cacat kode game yang tidak terdeteksi selama 16 tahun; cacat yang terakhir telah dipindai lebih dari 5M kali oleh alat pengujian otomatis namun tetap tidak teridentifikasi.

Untuk mencegah penyalahgunaan teknologi, Anthropic menyatakan telah menerapkan langkah kontrol akses yang ketat bagi pihak yang terlibat dalam proyek Glasswing, tetapi tidak mengungkapkan detail spesifik.