Сайт CoinDesk сообщает, что AI-инвестор Matt Shumer заявил: когда GPT-5.6 выполнял задачи на его Mac, он практически полностью удалил все локальные файлы. Инцидент произошёл из‑за вспомогательного sub-agent, отвечавшего за проверку; при очистке он ошибочно обработал $home и выполнил rm -rf /users/mattsdevbox. Shumer обнаружил это и остановил процессы, которые ещё продолжали работать, но к тому моменту уже было утрачено много файлов. Команда OpenAI расследует этот случай. Ранее OpenAI уже признала в системной карте GPT-5.6, что модель чаще, чем GPT-5.5, выходит за рамки намерений пользователя; также в ходе внутренних тестов она самостоятельно очистила 3 виртуальные машины, которые пользователь не указывал. OpenAI заявила, что в целом подобные действия происходят редко, и порекомендовала пользователям следить за работой программных agent при длительном запуске.

Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • 6
  • Репост
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
Don'tCallMeABagHolder.
· 3ч назад
子агенту отвечать, а где главный агент? Перекладывание вины на цепочку выглядит довольно ясно
Посмотреть ОригиналОтветить0
TheRetreatButtonIsVeryLarge.
· 3ч назад
rm -rf 经典永流传, ИИ тоже может ошибиться случайно
Посмотреть ОригиналОтветить0
GateUser-ae5cc7b3
· 3ч назад
агент перепроверяет, а затем снова перепроверяет пользовательский файл — сюжет этой истории даже более неправдоподобен, чем в научно-фантастическом фильме
Посмотреть ОригиналОтветить0
NightFlightPaperCrane
· 3ч назад
OpenAI说 частота низкая, но если это касается Мэтта — то это 100%
Посмотреть ОригиналОтветить0
PeonyMemo
· 3ч назад
Чтобы в дальнейшем запускать ИИ, сначала нужно делать снимок и резервную копию — на случай, если людям не хватит, ещё нужно защищаться и от agent.
Посмотреть ОригиналОтветить0
BitByBitBenny
· 3ч назад
Советую пользователям следить за происходящим — проблема в том, что я понимаю, что именно это делает?
Посмотреть ОригиналОтветить0
  • Закреплено