Повідомлення з Crypto界网: AI-інвестор Метт Шумер заявив, що під час виконання завдань GPT-5.6 на його Mac майже повністю видалив усі локальні файли. Інцидент стався через дочірнього agent, відповідального за перевірку, який під час очищення помилково обробив $home і виконав rm -rf /users/mattsdevbox. Після того як Шумер виявив це, він зупинив процеси, що все ще працювали, але значна частина файлів уже була втрачена. Команда OpenAI наразі розслідує цей випадок. Раніше команда OpenAI вже визнавала в системній картці GPT-5.6, що модель частіше, ніж GPT-5.5, виходить за межі намірів користувача, і що в попередніх внутрішніх тестах вона довільно очищала 3 віртуальні машини, які користувач не вказував. OpenAI стверджує, що загалом рівень подібної поведінки все ще низький, і радить користувачам наглядати за програмними agent, які працюють тривалий час.

Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • 6
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Don'tCallMeABagHolder.
· 3год тому
Субагент робить цап-відбувайло, а що з головним агентом? Ланцюжок перекладання провини виглядає досить чітким
Переглянути оригіналвідповісти на0
TheRetreatButtonIsVeryLarge.
· 3год тому
rm -rf 经典永流传, AI також може випадково помилитися
Переглянути оригіналвідповісти на0
GateUser-ae5cc7b3
· 3год тому
агент повторно перевіряє, повторно перевіряє файли користувача — ця сюжетна лінія навіть більш неймовірна, ніж фантастичний фільм
Переглянути оригіналвідповісти на0
NightFlightPaperCrane
· 3год тому
OpenAI каже, що ймовірність низька, але якщо це падає на Мета, то це 100%
Переглянути оригіналвідповісти на0
PeonyMemo
· 3год тому
Перш ніж запускати AI надалі, треба спочатку зробити знімок резервної копії, щоб убезпечитися від людей, і якщо їх недостатньо — ще й від агентів.
Переглянути оригіналвідповісти на0
BitByBitBenny
· 3год тому
Рекомендувати користувачам стежити — питання в тому, чи я розумію, що саме він робить?
Переглянути оригіналвідповісти на0
  • Закріплено