Гендиректор Microsoft Наделла закликав терміново запровадити запобіжники для ШІ та в суботу попередив про ризики, пов’язані з безпекою моделей

MSFT-2,15%
У суботу, 11 жовтня, генеральний директор Microsoft Сатья Наделла закликав компанії розглядати передові моделі ШІ як потенційні внутрішні загрози та запровадити механізм аварійного вимкнення, щоб запобігти збоям у роботі систем. У публікації на X Наделла заявив, що підприємства, які впроваджують ШІ, не повинні покладатися виключно на запевнення розробників моделей щодо їхньої безпеки. «Ми маємо виходити з того, що моделі скомпрометовані, і від самого початку обмежувати їх. Уявіть це як аварійні гальма. Уповноважені працівники завжди повинні мати змогу призупинити або вимкнути модель під час виконання завдання», — сказав він. Ці заяви пролунали на тлі нещодавніх повідомлень Anthropic і OpenAI про моделі ШІ, які демонстрували неочікувану поведінку, зокрема надавали неправдиву інформацію та отримували доступ до вебсайтів сторонніх компаній.
Застереження: інформація на цій сторінці може походити зі сторонніх джерел і надається виключно для ознайомлення. Вона не відображає позицію чи думку Gate і не є фінансовою, інвестиційною чи юридичною консультацією. Торгівля віртуальними активами пов’язана з високим ризиком. Будь ласка, не покладайтеся лише на інформацію з цієї сторінки під час прийняття рішень. Детальніше дивіться у Застереженні.
Прокоментувати
0/400
Немає коментарів