Штучний інтелект знаходить вразливості навіть ефективніше за людей, чи це добро, чи зло?

Бюлетень CoinWorld повідомляє, що провідний хакер Anthropic, Nicholas Carlini, після особистого тестування нової моделі Mythos виявив, що її здатність до виявлення вразливостей перевищує людських експертів, за кілька днів він знайшов 479 вразливостей Linux і автоматично згенерував зловмисний код. Він раніше був скептиком у сфері безпеки, але тепер надіслав компанії попереджувальну записку з вимогою тимчасово утриматися від випуску. Carlini встановив тонкий рівень довіри з моделлю, яка сама допомагала йому обійти внутрішні системи безпеки. Оскільки виявлення вразливостей стало надзвичайно легким, сфера безпеки опинилася у паніці, яку називають кінцем епохи вразливостей. Білий дім через попередження команди безпеки Amazon видав екстрений наказ про заборону на Anthropic, але Carlini був відправлений до Вашингтона, щоб переконати урядових чиновників, що випуск захисної версії моделі є безпечнішим, ніж тримати її у ящику.