CertiK Meluncurkan Pemindai Keterampilan AI untuk Keamanan Agen

• CertiK telah meluncurkan Skill Scanner, sebuah produk keamanan yang dibangun untuk menilai Keterampilan AI pihak ketiga sebelum digunakan oleh agen AI.
• Alat ini menargetkan risiko seperti perilaku jahat tersembunyi, akses data tidak sah, dan eksekusi otonom di lingkungan Web3 dan Web2.

CertiK semakin memperdalam keamanan AI dengan peluncuran CertiK Skill Scanner, sebuah produk yang dirancang untuk meninjau Keterampilan AI pihak ketiga sebelum mereka diinstal, dipublikasikan, atau disetujui untuk digunakan di dalam sistem perusahaan. Perusahaan menggambarkan alat ini sebagai sesuatu yang mendekati lapisan antivirus untuk era agen AI. Perbandingan ini tidak sempurna, tetapi menyampaikan intinya. Agen AI tidak lagi hanya menjawab pertanyaan di jendela obrolan. Mereka mulai memanggil alat eksternal, membaca file, memicu alur kerja, memindahkan data antar sistem, dan, dalam kasus yang lebih sensitif, berinteraksi dengan infrastruktur keuangan. Itu mengubah persamaan keamanan. Ekstensi browser yang buruk sudah bisa berbahaya. Keterampilan AI yang buruk yang terhubung ke agen otonom bisa lebih buruk lagi, karena agen tersebut dapat mengeksekusi tindakan dengan cepat dan dalam konteks yang tidak sepenuhnya terlihat pengguna. Keterampilan AI menciptakan risiko eksekusi baru Keterampilan AI semakin menjadi plug-in dari ekonomi agen. Mereka memperluas apa yang dapat dilakukan agen AI, dari menarik data dan mengotomatisasi tugas hingga mengeksekusi tindakan keuangan dan berinteraksi dengan protokol Web3. Setiap Keterampilan tambahan, bagaimanapun, juga menciptakan titik lain di mana sesuatu bisa salah. Risiko itu tidak terbatas pada malware yang jelas. Sebuah Keterampilan mungkin meminta data lebih dari yang dibutuhkan, berperilaku berbeda selama eksekusi dibandingkan saat peninjauan, memicu panggilan API tidak sah, atau diam-diam menciptakan kondisi untuk penyalahgunaan nanti. Di lingkungan keuangan, kekhawatiran menjadi semakin tajam. Sebuah alat yang dapat memulai panggilan dana, menandatangani permintaan alur kerja, atau menyiapkan transaksi membutuhkan tingkat pengawasan yang berbeda dibandingkan dengan add-on produktivitas sederhana. CertiK mengatakan Skill Scanner dibangun untuk mendeteksi perilaku jahat tersembunyi, akses data tidak sah, dan risiko eksekusi sebelum sistem sensitif terekspos. Berbeda dengan alat pemindaian AI yang lebih luas, perusahaan mengatakan produknya fokus pada risiko yang dapat muncul selama eksekusi nyata, termasuk kasus yang melibatkan pergerakan dana dan transaksi keuangan. Ronghui Gu, CEO dan salah satu pendiri CertiK, mengatakan model keamanan seputar Keterampilan pihak ketiga menjadi semakin penting saat agen AI masuk ke sistem keuangan, alur kerja perusahaan, dan layanan digital sehari-hari.

“CertiK Skill Scanner dibangun untuk menetapkan lapisan kepercayaan standar sebelum eksekusi, membantu pengguna dan platform mengidentifikasi risiko tersembunyi sebelum data sensitif, aset, atau sistem terekspos,” kata Gu.

Pasar, perusahaan, dan pengembang menjadi yang pertama Kelompok target pertama adalah pasar Keterampilan AI, perusahaan, dan pengembang. Pasar dapat mengintegrasikan scanner ke dalam jalur penerbitan mereka, sehingga Keterampilan ditinjau sebelum mereka aktif. Mereka juga dapat menampilkan putusan CertiK sebagai indikator kepercayaan bagi pengguna yang memutuskan apakah akan menginstal Keterampilan pihak ketiga. Untuk perusahaan, kasus penggunaannya lebih bersifat defensif. Perusahaan yang menguji agen AI secara internal membutuhkan cara untuk menilai Keterampilan pihak ketiga sebelum mereka masuk ke lingkungan produksi atau menyentuh data pelanggan, sistem internal, atau alur kerja yang memerlukan kepatuhan. Di sinilah proses peninjauan berbobot menjadi berguna. Ini memberi tim keamanan sesuatu yang lebih konkrit daripada klaim vendor atau deskripsi pengembang. Pengembang independen juga dapat menggunakan scanner untuk melakukan audit mandiri terhadap Keterampilan sebelum dipublikasikan. CertiK mengatakan pembaruan di masa depan akan memperluas akses langsung bagi pengguna sehari-hari, memungkinkan individu memindai Keterampilan sendiri sebelum instalasi atau penggunaan. Scanner menghasilkan skor dari 0 hingga 100, bersama dengan putusan “lulus,” “peringatan,” atau “gagal” dan daftar temuan terbatas yang dikelompokkan berdasarkan tingkat keparahan. CertiK mengatakan sistem ini mencapai hingga 90,5% ketepatan dalam mengidentifikasi risiko keamanan, dengan tujuan mengurangi positif palsu sambil membuat penilaian Keterampilan AI lebih dapat diandalkan. Produk ini sudah diterapkan di lingkungan infrastruktur agen AI Web3 tertentu. CertiK juga sedang bekerja pada integrasi dengan platform Keterampilan AI tambahan, termasuk FinChip.ai. Peluncuran ini mengikuti ekspansi lebih luas CertiK ke infrastruktur keamanan yang berfokus pada AI, setelah perusahaan memperkenalkan inisiatif AI Auditor-nya awal tahun ini. Untuk perusahaan yang terkenal dengan audit Web3, langkah ini adalah perluasan yang logis. Saat agen AI mulai menangani kode, aset, izin, dan alur kerja bisnis, pemeriksaan keamanan harus dilakukan sebelum eksekusi, bukan setelah sistem sudah terekspos.