ось ми й тут! перша відома уразливість нульового дня, створена за допомогою штучного інтелекту, щойно була виявлена Google.


хтось використав великий мовний модель (LLM), щоб знайти недолік у відкритому адміністративному інструменті. потім модель написала скрипт на Python, який обходить двофакторну автентифікацію на ньому. потім почали використовувати його на реальних цілей.
як ми знаємо, що це було штучний інтелект? чисті документаційні рядки скрізь. оцінка серйозності CVSS, яку модель буквально галюцинувала. ніхто не пише Python так акуратно о 3 ранку, шукаючи баги.
сам баг був логічною помилкою, припущенням довіри, яке деякий розробник заклав кілька років тому. той тип помилки, яку LLM добре вміють виявляти.
протягом років питання було: "чи може штучний інтелект допомогти зловмисникам?" багато обережних зауважень. "теоретично." "згодом." "з достатньою кількістю підготовки."
цей диспут завершено.
нове питання — наскільки швидко закривається вікно між "уразливість існує десь у вашому стеку" і "уразливість використовується масштабно." раніше це займало місяці. тепер — дні.
Переглянути оригінал
post-image
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріпити