Щойно я дізнався про один із найшкідливіших розслідувальних матеріалів щодо керівництва OpenAI за останній час, і чесно кажучи, важко відвести погляд від наслідків тут.

Отже, ще у 2023 році Ілля Сутскевер — головний науковець OpenAI — зібрав цей обширний меморандум, у якому викладені побоювання щодо довіри до Сема Альтмана. Ми говоримо про 70 сторінок, що базуються на логах Slack, кадрових записах, внутрішніх зустрічах. Відкриття було прямолінійним: Сем демонструє послідовну схильність до брехні. Перенесімося до сьогодні, і розслідування The New Yorker (Ронан Фарроу та Ендрю Маранц) оприлюднили цей меморандум разом із понад 200 сторінками приватних нотаток Даріо Амоді, який був керівником безпеки OpenAI перед заснуванням Anthropic.

Ось що мене дивує: OpenAI буквально було створено як неприбуткова організація саме для того, щоб безпека ставала пріоритетом перед прибутком. Вся ідея полягала в тому, що хтось має мати можливість закрити компанію, якщо ситуація стане небезпечною. Вся архітектура базувалася на одному припущенні — що керівник має бути радикально чесним.

Але згідно з меморандумом і інтерв’ю з понад 100 людьми, так не сталося. Є конкретні приклади: Альтман повідомив раду, що функції GPT-4 пройшли перевірки безпеки, хоча насправді ні. Члени ради дізналися про це важким шляхом. Був випадок із Microsoft та Індією, коли ChatGPT запустили без завершення необхідних перевірок безпеки. Коли його спитали, Альтман заявив, що генеральний юрисконсульт схвалив щось — але юрисконсульт сказав, що він не має уявлення, звідки взялося це.

Нотатки Амоді малюють картину компанії, яка поступово відмовляється від своєї первісної місії під тиском комерційних інтересів. Він задокументував, як Microsoft вставила пункт у угоду про інвестиції 2019 року — фактично, що якщо хтось знайде безпечніший шлях до AGI, OpenAI допоможе їм, а не конкуруватиме. Це був той самий захисний бар’єр безпеки, який його найбільше цікавив. Потім він виявив, що Microsoft узгодила вето на цей саме пункт. На папері все виглядало добре. Насправді — ні.

Є дивна деталь із командою Superalignment. OpenAI оголосила, що виділить 20% своїх обчислювальних потужностей — потенційно понад мільярд доларів. Мова йшла дуже серйозно: без вирішення проблеми узгодженості AGI може призвести до знищення людства. Але ті, хто реально працював над цим, сказали, що реальний розподіл становив 1-2% від загальної потужності, використовуючи найстарше обладнання. Команду розпустили, не завершивши нічого.

Коли журналісти запитали OpenAI про їхню команду з досліджень безпеки існуючої загрози, PR-відповідь була майже комічною: «Це не справжня команда». Сам Альтман сказав, що його інтуїція не співпадає з традиційними підходами до безпеки ШІ.

Тим часом, виникає ще одна історія. Фінансовий директор OpenAI, Сара Фріар, нібито сказала колегам, що вважає, що компанія не готова до IPO цього року — надто багато процедурної роботи, надто високий фінансовий ризик через обіцянку Альтмана витратити понад мільярд доларів на обчислювальні ресурси за п’ять років. Вона навіть не впевнена, що зростання доходів це підтримує. Але Альтман хоче просунути IPO у четвертому кварталі. І ось у чому суть: Фріар більше не підпорядковується Альтману. З серпня 2025 року вона підзвітна керівнику бізнесу застосунків OpenAI, який щойно пішов у медичну відпустку. Тобто у компанії, яка мріє про IPO на понад мільярд доларів, керівник і фінансовий директор у конфлікті, фіндиректор не підпорядковується керівнику, а її керівник у відпустці. Навіть керівники Microsoft, за повідомленнями, були розчаровані, один із них сказав, що існує реальна ймовірність, що Альтман запам’ятають так само, як Берні Мейдофф або SBF.

Один колишній член ради дав, можливо, найгостріший портрет характеру: у Альтмана рідкісне поєднання — він шалено прагне подобатися у кожній особистій зустрічі, водночас проявляючи майже соціопатичну байдужість до обману людей. Це ідеальний профіль для продавця. Джобс мав свою «реальність іскажаюче поле», але навіть він ніколи не казав клієнтам, що не купити його продукт — означає вбити їхніх близьких. Аль