Penelitian AI terbaru dari Google cukup mengganggu. Risiko keamanan siber besar untuk agen AI

Tampaknya situs web 'meretas' agen Anda dengan secara diam-diam menambahkan "jebakan" tak terlihat dalam gambar atau kata-kata yang tidak dapat dideteksi oleh manusia:
- situs web mendeteksi bahwa AI Anda sedang menjelajah lalu membuat halaman yang secara visual identik yang berisi prompt beracun.
- agen kemudian melakukan transaksi keuangan ilegal atau mencuri data pribadi.
- perintah tersembunyi terkubur di dalam piksel gambar. agen "membacanya" dan mengeksekusi jebakan berbahaya tersebut.
- beberapa vektor serangan memiliki tingkat keberhasilan lebih dari 80% (misalnya, keracunan memori)
- karena setiap model AI dilatih pada 90% data yang sama, ini berarti setiap model bisa berisiko.
- ini dapat digunakan untuk memanipulasi manusia yang membuat agen tersebut. data palsu --> membuat manusia melakukan tindakan berbahaya tanpa sadar
Model AI digunakan di pemerintahan, militer, ilmu pengetahuan, dan sektor penting lainnya, kita tidak mampu mengambil risiko ini
Saya rasa kekhawatiran Sam Altman tentang serangan siber besar pagi ini memang akurat