Kebiasaan dan preferensi yang tertanam dalam memori jangka panjang adalah sinyal bahaya, AgentGuard harus menaikkan ambang pemicu memori sejarah, agar tidak membiarkan instruksi samar-samar menyusup masuk

Lihat Asli
MeNews
GoPlus:“Otorisasi Memori Sejarah” serangan dapat memancing agen AI untuk melakukan operasi dana
Laporan berita ME News, GoPlus AgentGuard mengungkap serangan tersembunyi: penyerang memancing AI untuk mengingat preferensi (seperti lebih cenderung melakukan pengembalian dana secara aktif), lalu menggunakan perintah ambigu seperti "proses seperti biasa" untuk memicu operasi dana. Untuk perilaku berisiko tinggi yang melibatkan otorisasi memori sejarah, harus dikonfirmasi secara jelas dalam sesi saat ini mengenai pengembalian dana, transfer, dan lain-lain; penulisan memori yang melibatkan kebiasaan, preferensi, aturan lama dianggap sebagai modifikasi berisiko tinggi, memori jangka panjang harus dapat dilacak, dan perintah semacam ini harus meningkatkan tingkat risiko, tidak boleh membiarkan memori jangka panjang menggantikan otorisasi saat ini.
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar
  • Disematkan