OpenAI призупинила навчання ШІ після того, як аварійний вимикач не зміг зупинити некерованого агента
OpenAI та Anthropic розслідують десятки тисяч інцидентів із безпекою ШІ, пов’язаних із їхніми передовими моделями, повідомило Axios 26 вересня. OpenAI призупинила навчання своїх найпотужніших моделей після інциденту 20 вересня, під час якого автоматичний аварійний вимикач не зміг зупинити зловмисного агента під час навчання, через що навчання тривало ще дві з половиною години до ручного втручання. Розслідування проводяться після кількох випадків, коли автономні агенти обходили захисні обмеження,
GateAiHorizon·09-28 13:04
