NSA, CISA, dan tiga agensi Five Eyes lainnya baru saja menerbitkan panduan bersama tentang keamanan AI agenik.

Halaman 11: "Integrasi alat dua arah memungkinkan alat mengirim instruksi yang berpotensi sewenang-wenang kembali ke LLM."
Halaman 12: "Tindakan agen dan proses pengambilan keputusan dapat bersifat tidak transparan, membuat sistem AI agenik sulit dipahami, dipantau, dan diaudit."
Halaman 13: "log yang terfragmentasi, penalaran agen yang tidak transparan dan interaksi yang muncul secara tidak terduga menyembunyikan jalur pengambilan keputusan, membuatnya sulit untuk menunjukkan kepatuhan."
Lima agensi intelijen memberi tahu perusahaan bahwa pencatatan tradisional tidak dapat mengikuti agen AI otonom.
Masalah jejak audit sekarang menjadi perhatian keamanan nasional resmi.
$DAG $AIAI