10-річна особиста ворожнеча, якщо не «лицемірство» OpenAI, не призвела б до появи найсильнішої у світі компанії з штучного інтелекту Anthropic

Оригінальна назва: «Десятилітня ворожнеча, що формує майбутнє ШІ»

Оригінальний автор: Keach Hagey

Журналіст The Wall Street Journal Keach Hagey опублікував великий розслідувальний матеріал: на основі численних інтерв’ю з нинішніми співробітниками, колишніми працівниками та людьми з оточення керівників двох компаній він уперше системно розкрив, що між засновниками Anthropic та OpenAI десятиліттями тягнеться суто особиста ворожнеча. Формують глобальний ландшафт AI не лише суперечки щодо технологічних стратегій — існує ще історія приватної травми, яка так і не загоїлась.

Протягом останніх кількох місяців у внутрішніх формулюваннях Dario Amodei звучав значно різкіше, ніж у публічних виступах. Він порівняв судові розгляди Сема Альтмана та Ілона Маска з «конфліктом Гітлера зі Сталіним», а також заявив, що донат у 25 мільйонів доларів, який президент OpenAI Грег Брокман перерахував суперпартійному політичному комітету, що підтримує Дональда Трампа, — це «зло» (evil). Далі він ставив OpenAI та інших конкурентів в один ряд із «курильними компаніями», які «усвідомлюючи шкоду, все одно продають продукт».

Після ескалації суперечки з Пентагоном він знову в Slack назвав OpenAI «лицемірним» (mendacious) і написав: «Ці факти вказують на модель поведінки, яку я неодноразово бачив у Семі Альтмані».

В Anthropic цю стратегію бренду називали створенням для конкурентів «здорової альтернативи» (healthy alternative). Упродовж цього року, під час Суперкубка, рекламний матеріал без іменування, який висміював OpenAI за те, що в чат-ботах вбудовує рекламу, став одним із публічних проявів цієї концепції.

Точка відліку історії — вітальня в орендованій квартирі на вулиці Делано в Сан-Франциско у 2016 році. Dario та його сестра Daniela Amodei жили там, а співзасновник OpenAI Брокман часто заходив у гості через тісне спілкування з Daniela. Якось Брокман, Dario та їхній тодішній наречений Daniela, ефективний альтруїст і благодійник Holden Karnofsky, сиділи разом і сперечалися про правильний шлях розвитку AI: Брокман вважав, що слід повідомити всім американцям, що саме відбувається на передовій AI; Dario і Karnofsky натомість думали, що чутливу інформацію спершу треба доповідати уряду, а не розголошувати публіці. Згодом саме цей розрив став вододілом між філософськими підходами двох компаній.

Після того, як Dario був вражений командою талантів OpenAI, він приєднався в середині 2016 року й ночами тренував із Брокманом AI-агенти, граючи у відеоігри. Але за чотири роки спільної роботи суперечності навколо влади та відчуття приналежності тільки посилювалися. У 2017 році тодішній головний інвестор OpenAI Маск зажадав скласти список внеску кожного працівника і на його основі скоротити штат: у команді приблизно зі 60 людей 10% — 20% були звільнені поіменно. Dario вважав це жорстоким; серед тих, кого звільнили, згодом опинився один, який згодом став співзасновником Anthropic.

Того ж року етичний радник, якого найняв Dario, запропонував, щоб OpenAI виконувала роль координаційного посередника між AI-компаніями та урядами. З цього Брокман вивів ідею «продати AGI союзницьким ядерним державам у Раді Безпеки ООН». Dario сприйняв це майже як зраду й навіть певний час думав звільнитися.

Після виходу Маска в 2018 році керівництво перейшло до Альтмана. Вони з Dario дійшли згоди: працівники не мали довіри до лідерства Брокмана та головного науковця Іллі Суцкевера. Dario лишився за умови, що їх більше не призначатимуть керівниками, але швидко з’ясував: Альтман паралельно давав обом обіцянку, що вони мають право звільнити його самого. Ці дві обіцянки суперечили одна одній.

Після запуску розробок серії GPT керівництво влаштувало найжорсткіше протистояння довкола того, хто зможе долучитися до проєктів з мовними моделями. Тодішній директор з досліджень Dario не дозволяв Брокману втручатися, а Daniela, яка разом з Alec Radford керувала цим проєктом, загрожувала піти з посади й тим самим втягнула особисті наміри Radford у «війну за посередників» між керівниками.

Досвід Dario зростав разом із успіхом GPT-2 і GPT-3, але він вважав, що Альтман применшує його внесок. Коли Брокман прийшов на подкаст і говорив про статут OpenAI, Dario обурювався, що його вклад у статут був більшим, але запрошення його оминули. Коли він дізнався, що Брокман і Альтман мають піти на зустріч із колишнім президентом Обамою, але його самого знову не включили, він також був незадоволений.

Суперечності остаточно загострилися під час очного протистояння в переговорній. Альтман запросив до кімнати Amodei — брат і сестру — та звинуватив їх у тому, що вони підбурювали колег подавати до ради директорів негативні відгуки про нього. Обидва це заперечили. Альтман сказав, що повідомлення надійшло від іншого керівника; Daniela на місці викликала того керівника та поставила йому запитання напряму. Той відповів, що не знає про це зовсім.

Після цього Альтман одразу ж заперечив, що говорив ці слова, і сторони завели запеклу суперечку. На початку 2020 року Альтман попросив керівників взаємно надсилати матеріали для рецензування колегами: Брокман написав звіт із жорсткою формулою — відгук-звинувачення, в якому стверджувалося, що Daniela зловживала владою та через бюрократичні процедури відтісняла незгодних. Альтман заздалегідь переглянув оцінку «tough but fair». Daniela спростовувала за пунктами, а суперечка так розрослася, що Брокман навіть пропонував відкликати відгук.

Наприкінці 2020 року команда на чолі з Dario вирішила піти: Daniela взяла на себе роль у переговорах із юристами щодо умов звільнення. Альтман особисто приїхав до дому Dario, щоб його вмовити залишитися. Dario висунув умову: він погоджується лише на те, щоб звітувати безпосередньо раді директорів, і чітко заявив, що не зможе працювати разом із Брокманом. Перед тим як піти, він написав довгу службову записку, у якій поділив AI-компанії на «ринкові» та «орієнтовані на суспільне благо». Він вважав, що ідеальна пропорція — 75% на користь суспільного блага та 25% на користь ринку. Через кілька тижнів Dario, Daniela та майже дванадцять співробітників покинули OpenAI та заснували Anthropic.

Через п’ять років, станом на сьогодні, оцінки вартості обох компаній перевищують 300 мільярдів доларів, і вони змагаються, хто швидше вийде на IPO. Під час закриття AI-саміту в Нью-Делі в лютому цього року прем’єр-міністр Індії Нарендра Моді разом із присутніми лідерами технологічних компаній підняли руки вгору. Amodei та Альтман вирішили не брати участі — тож їм лишилося незграбно торкнутися ліктями.

Оригінальне посилання

Натисніть, щоб дізнатися про вакансії в律动 BlockBeats

Ласкаво просимо приєднатися до офіційної спільноти 律动 BlockBeats:

Telegram підписна група: https://t.me/theblockbeats

Telegram чат для спілкування: https://t.me/BlockBeats_App

Офіційний акаунт у Twitter: https://twitter.com/BlockBeatsAsia