OpenAI переглядає угоду з Пентагоном щодо ШІ після публічної критики

(MENAFN) OpenAI переглядає поспішно укладену угоду щодо надання інструментів штучного інтелекту Міністерству оборони США, повідомила компанія у вівторок, після того, як ця угода викликала жорстку публічну критику, бунт співробітників і хвилю скасувань підписки на ChatGPT через побоювання, що це може сприяти внутрішньому спостереженню.

Генеральний директор Сэм Альтман визнав у внутрішньому повідомленні, що угода — укладена незабаром після того, як Пентагон звільнив попереднього постачальника ШІ, Anthropic — була сприйнята як погано керована.

“Ми не повинні були поспішати з цим,” написав Альтман у повідомленні, яке згодом було опубліковане на американській соціальній мережі X, додавши, що питання щодо військового використання ШІ є “дуже складними” і потребують більш чіткої комунікації.

Альтман описав запуск як “спекулятивний і недбалий.” За новими умовами, OpenAI явно заборонить використовувати свої технології для внутрішнього масового спостереження або доступу до них таких органів, як Агентство національної безпеки (NSA). Компанія з Сан-Франциско також підтвердила, що основною “червоною лінією” залишається заборона на використання її моделей для керування автономними озброєннями без людського контролю.

Перший договір викликав одразу багато тривог, частково через те, що він був укладений після звільнення Anthropic як постачальника ШІ для Пентагону — звільнення, яке сталося після того, як Anthropic заявила, що використання ШІ для масового внутрішнього спостереження суперечить демократичним цінностям. Президент США Дональд Трамп засудив Anthropic, назвавши їх “лівими екстремістами,” і наказав федеральним агентствам припинити використання їхніх технологій. Міністерства юстиції, казначейства та охорони здоров’я пізніше почали відмовлятися від продуктів Anthropic після того, як Міноборони визначило цю компанію як ризик у ланцюгу постачань. Трамп згодом наказав усім урядовим агентствам повністю відмовитися від систем Anthropic, слідуючи директиві міністра оборони Піта Хегсета.

Реакція на угоду OpenAI була швидкою і широкою. Заклики “видалити ChatGPT” поширилися в X і Reddit, тоді як майже 900 співробітників OpenAI і Google спільно підписали відкритого листа, закликаючи своїх роботодавців відмовитися від запитів Міністерства оборони щодо використання ШІ для внутрішнього масового спостереження або автономних летальних операцій без людського контролю. З підписантів 796 були співробітниками Google, а 98 — OpenAI. У листі йшлося, що уряд США тисне на компанії індивідуально, закликаючи керівників корпорацій “стояти разом” проти вимог, які можуть підривати демократичні норми.

Цей скандал також порівнювали з розкриттями Едварда Сноудена 2013 року, які викрили масштабні програми спостереження NSA. Критики, зокрема колишній керівник політичних досліджень OpenAI Майлз Брандейдж, публічно ставили під сумнів у X, як OpenAI вдалося укласти угоду щодо етичних меж, які Anthropic вважала непереборними — натякаючи, що деякі у компанії могли піддатися тиску уряду, водночас визнаючи внутрішню складність організації та різноманітність поглядів.

Незважаючи на запевнення OpenAI, що оновлений контракт має більш жорсткі етичні обмеження, ніж попередні таємні угоди щодо ШІ, увага до суджень компанії залишається високою. OpenAI, яка має понад 900 мільйонів користувачів ChatGPT у світі, заявила, що прагне забезпечити використання своїх технологій відповідно до демократичних принципів, балансуючи з легітимними потребами національної безпеки.