ini dia! hari ini ditemukan zero-day pertama yang dikembangkan dengan AI oleh Google.

seseorang menggunakan LLM untuk menemukan celah dalam alat admin sumber terbuka. lalu meminta model menulis skrip python yang melewati 2fa pada alat tersebut. lalu mulai menggunakannya pada target nyata.
bagaimana kita tahu itu AI? penjelasan docstring yang bersih di mana-mana. skor keparahan CVSS yang modelnya secara harfiah berhalusinasi. tidak ada yang menulis python serapi ini jam 3 pagi saat berburu bug.
bug itu sendiri adalah sebuah kesalahan logika, asumsi kepercayaan yang di-hard-code oleh pengembang bertahun-tahun lalu. jenis kesalahan yang baik dideteksi oleh LLM.
selama bertahun-tahun pertanyaannya adalah "bisakah AI membantu penyerang?" banyak keraguan. "secara teori." "akhirnya." "dengan cukup kerangka kerja."
perdebatan itu sudah selesai.
pertanyaan baru adalah seberapa cepat jendela tertutup antara "kerentanan ada di suatu tempat dalam tumpukan Anda" dan "kerentanan dieksploitasi secara massal." dulu butuh berbulan-bulan. sekarang hanya beberapa hari.