Сьогодні Anthropic випустила свою найнебезпечнішу модель

З певною умовою. Модель називається Mythos, і вона настільки добре знаходить і зламує програмне забезпечення, що Anthropic витратила 2 місяці лише на те, щоб дозволити кібервартам і компаніям інфраструктури працювати з нею.
Що ви отримуєте сьогодні — це Fable 5, та сама модель з фільтром, який блокує питання з кібербезпеки, біології та хімії і передає їх більш слабкій моделі.
Однак цей фільтр активується лише у менше ніж 5% сесій. Тому 95% часу ви спілкуєтеся з тим, що вони вважали надто небезпечним для розповсюдження.
Команда Anthropic, що займається безпекою, витратила 1000 годин, намагаючись зламати запобіжники, і не змогла.
Але в інтернеті є набагато більше ніж 1000 годин і набагато вагоміша причина спробувати. Кожна заблокована модель у історії була зламаною, зазвичай за кілька днів.
Ці наступні тижні будуть багато чого показати.