Безпековий напрям втратив ще одного: головний футуролог OpenAI звільнився, команда з вирівнювання місії також розпущена.

OpenAI首席未来学家Joshua Achiam оголосив про звільнення; його команда з узгодження місії, яку він очолював, була розформована в лютому цього року. Колишній радник Білого дому Дін Болл заступив на посаду цього тижня. (Попередній контекст: Директор з безпеки Google з болем заявив: керівництво «втратило моральні принципи», відмовилося від зобов’язань щодо вуглецевої нейтральності та підписало секретний контракт зі Штабом військових операцій США на ШІ) (Додатковий контекст: Відродження ШІ: філософи стали затребуваним товаром у ШІ-лабораторіях, вбудовуючи етику у ваші моделі)

Зміст статті

Toggle

• Від «узгодження місії» до «футуролога»
• Список звільнених з безпекового табору стає дедалі довшим
• Відстань між гігантом і місією

Майже дев’ять років — це час, який Джошуа Акіам провів в OpenAI, від стажера до головного футуролога. Але цього вівторка він оголосив, що покине компанію пізніше цього місяця. Час чутливий: компанія ретельно готується до IPO, а він — ще одне ім’я зі списку вищого керівництва безпекового табору, що зникає.

У внутрішньому листі до співробітників він написав: «Світ тепер знає цей секрет, і я відчуваю, що можу продовжувати рухати цю місію поза високими стінами передової лабораторії».

Від «узгодження місії» до «футуролога»

Акіам приєднався до OpenAI у 2017 році як стажер, пізніше ставши дослідником-науковцем, зосередженим на безпеці ШІ. У компанії його вважали вірним захисником місії безпеки, але він також був суперечливим через іноді критику ширшої спільноти з безпеки ШІ.

У 2024 році OpenAI створила команду з узгодження місії під керівництвом Акіама, завданням якої було забезпечити відповідність дій компанії її словам. У лютому цього року команду було розформовано, а Акіам перейшов на новостворену посаду головного футуролога, яка знаходилася на перетині команд з безпеки ШІ та політики, досліджуючи потенційну шкоду та вигоди від зростання ШІ. Він співпрацював зі старшими керівниками, зокрема з глобальним директором Крісом Ліном, виступаючи за державне регулювання, що відповідає місії OpenAI.

Наступник — колишній радник Білого дому з питань ШІ Дін Болл, який заступив на посаду цього тижня з титулом «стратегічний керівник майбутнього» і короткочасно передасть справи від Акіама. Команда розформована, потім реорганізована; одна людина приходить, інша йде — OpenAI, здається, ще не знайшла стабільної відповіді на те, «хто буде охороняти місію».

Список звільнених з безпекового табору стає дедалі довшим

Акіам не перший і не останній. У 2024 році Ян Лейке, який спільно керував командою з узгодження місії, звільнився та приєднався до Anthropic, публічно розкритикувавши компанію перед виходом: «Культура та процеси безпеки поступилися місцем яскравим продуктам».

Того ж року пішли також керівник відділу досліджень політики Майлз Брандейдж і Стівен Адлер, який вивчав небезпечні можливості ШІ-моделей, заснувавши некомерційні організації, що пропагують дотримання стандартів безпеки в лабораторіях ШІ. Наприкінці 2025 року Андреа Валлоне, яка досліджувала, як ChatGPT реагує на користувачів із психологічними та емоційними проблемами, також звільнилася та приєдналася до команди Лейке в Anthropic.

Якщо скласти ці імена разом, напрямок стає зрозумілим: фахівці з безпеки OpenAI не звільнені, а йдуть самі, і більшість з них прямують до одного місця — Anthropic або створюють власні некомерційні організації. Простіше кажучи, їхня готовність просувати безпеку всередині OpenAI знижується.

Відстань між гігантом і місією

OpenAI вже не та маленька дослідницька лабораторія, якою була в 2017 році. Після запуску ChatGPT у 2022 році компанія зазнала синхронного зростання масштабів і комерційного тиску. Безпекові, продуктові та дослідницькі команди неодноразово реорганізовувалися, а зараз вона готується до IPO, прямуючи до справжнього технологічного гіганта. У своєму листі Акіам сказав, що він вірить, що «ми зможемо досягти світу миру, безпрецедентного процвітання та неймовірних можливостей», і пообіцяв продовжувати працювати над цим баченням, чим би він не займався далі.

Але питання в тому: чи потрібно рухати це бачення зсередини стін, чи його можна реалізувати ззовні? Акіам обрав останнє. Його відповідь певною мірою також є колективною відповіддю всього безпекового табору за останні роки. Коли комерційний двигун працює на повну потужність, залишатися всередині високих стін, щоб охороняти місію, здається, більше не є найефективнішою позицією, на їхню думку.