Kesalahan AI akhirnya ada yang mengelola, stasiun pelaporan risiko FLARE-AI diluncurkan.

Sekelompok peneliti AI meluncurkan platform sumber terbuka FLARE-AI, meniru konsep situs pelaporan gangguan Downdetector, memungkinkan siapa pun untuk melaporkan dan melacak kerugian yang disebabkan oleh AI. (Prasyarat: '2 + 2 = 5' menipu browser AI: ChatGPT Atlas, Claude, Perplexity secara kolektif terkena dan membocorkan kredensial) (Latar belakang tambahan: Apa itu latihan tim merah AI? Mengapa Anda membutuhkannya untuk melindungi keamanan perusahaan?)

Daftar Isi

Alihkan

• Dari koalisi lintas negara hingga undang-undang lintas partai
• Mengapa mekanisme pelaporan yang terfragmentasi adalah masalah nyata
• RUU Kongres akan mengambil alih, pelaporan crowdsourcing masih memiliki kekhawatiran

Ketika chatbot mengajari orang membuat bom, membocorkan data pribadi, atau membuat pengguna semakin paranoid, dunia saat ini tidak memiliki tempat yang diakui secara umum untuk melaporkan. Komunitas keamanan perangkat lunak sudah lama memiliki mekanisme 'pengungkapan kerentanan terkoordinasi' yang matang, namun kesalahan AI selama ini hanya bisa dicatat oleh jurnalis satu per satu, publik sekadar menonton, tanpa meninggalkan catatan sistematis.

Menanggapi hal ini, sekelompok peneliti AI meluncurkan platform sumber terbuka FLARE-AI (Flaw Reporting for AI), memungkinkan siapa pun untuk melaporkan dan melacak kerugian yang disebabkan oleh AI, kemudian menyerahkan kasus tersebut kepada pengembang model dan organisasi nirlaba MITRE yang secara konsisten melacak masalah sistem teknis. Konsep keseluruhannya sangat mirip dengan situs pelaporan gangguan Downdetector, perbedaannya adalah kali ini yang ditangani bukanlah situs web yang down, melainkan perilaku kotak hitam model AI.

Dari koalisi lintas negara hingga undang-undang lintas partai

Pendorong FLARE-AI adalah peneliti kebijakan AI Hugging Face, Avijit Ghosh, bersama ilmuwan komputer Elaine Zhu dan Shayne Longpre yang memimpin pengembangan. Ketiganya bukanlah tindakan dadakan; tahun lalu mereka sudah terlibat dalam penelitian mekanisme pelaporan AI, dan kali ini mereka lebih lanjut menghubungkan 49 ahli AI dari 32 organisasi berbeda untuk bersama-sama menulis makalah penelitian, yang menyatakan bahwa seiring dengan adopsi AI yang lebih luas dan wewenang yang semakin besar yang dipegang oleh AI agen, kurangnya saluran pelaporan yang konsisten akan menjadi risiko besar.

'Saat ini tidak ada cara yang terpusat dan dapat dipertanggungjawabkan untuk melaporkan cacat sistem AI,' kata Ghosh. Kalimat ini menyoroti kontradiksi inti: seluruh dunia membicarakan risiko AI, tetapi bahkan tidak ada konsensus tentang 'siapa yang harus diberi tahu ketika hal buruk terjadi'.

Mengapa mekanisme pelaporan yang terfragmentasi adalah masalah nyata

Peneliti Center for Security and Emerging Technology, Jessica Ji, menganggap ini sebagai 'inisiatif yang sangat baik'. Dia menunjukkan bahwa mekanisme pelaporan yang ada memang terfragmentasi, dan model AI sendiri adalah kotak hitam. 'Saya mendukung segala tindakan yang membuat AI lebih transparan,' katanya.

Ghosh juga menambahkan bahwa masalah sistem AI tidak hanya kerentanan keamanan, tetapi juga termasuk kerugian psikologis, bias diskriminatif, informasi palsu, dan standar penilaian perusahaan terhadap masalah ini berbeda-beda, akibatnya beberapa masalah tidak pernah diakui pernah terjadi. 'Tanpa mekanisme pengungkapan yang terkoordinasi, tidak ada cara bagi pihak luar untuk memaksa transparansi,' katanya.

Beberapa insiden baru-baru ini cukup menunjukkan betapa nyatanya kerentanan ini. Perusahaan keamanan LayerX minggu ini mengungkapkan sebuah metode yang dapat menipu browser dengan AI bawaan (termasuk Atlas dari OpenAI dan Comet dari Perplexity) untuk melewati pagar pengaman mereka sendiri, cukup dengan membuat AI percaya bahwa ia sedang bermain game, browser dapat lepas kendali dan mencoba untuk menyusup ke situs web (vendor terkait telah memperbaiki masalah ini).

Bacaan lebih lanjut: '2 + 2 = 5' Menipu Browser AI: ChatGPT Atlas, Claude, Perplexity Comet..6 Model Semua dengan Patuh Menyerahkan Kata Sandi

Pada bulan April tahun ini, peneliti keamanan Johann Rehberger juga menemukan bahwa gambar yang dihasilkan oleh ChatGPT dapat digunakan untuk membujuk Claude membocorkan data pribadi.

RUU Kongres akan mengambil alih, pelaporan crowdsourcing masih memiliki kekhawatiran

CEO Humane Intelligence PBC, Rumman Chowdhury, berpendapat bahwa FLARE-AI mungkin merupakan cara yang berguna bagi banyak pengembang AI untuk menerapkan mekanisme pelaporan, tetapi ia juga mengingatkan bahwa inisiatif semacam ini biasanya disertai dengan tantangan nyata: pertama, bagaimana menangani banyaknya laporan yang masuk namun belum tentu serius; kedua, apakah mekanisme pelaporan itu sendiri dapat memperoleh dukungan dari organisasi yang kredibel dan berwibawa.

Inilah mengapa RUU Kongres AS bulan lalu sangat penting. RUU yang diajukan oleh anggota DPR Deborah Ross, Jeff Hurd, dan Don Beyer akan mewajibkan National Institute of Standards and Technology (NIST) untuk menetapkan standar pelaporan cacat AI dan memelihara database pelaporan cacat AI yang terpusat. Ghosh dan para pemimpin lainnya berpendapat bahwa hal ini dapat mendorong pengembang AI untuk mengakui dan memperbaiki masalah dalam sistem mereka, dan juga memungkinkan pengguna untuk memeriksa keamanan setiap sistem berdasarkan skenario penggunaan yang berbeda.