Десятилетняя личная вражда, если не «лицемерие» OpenAI, не привела бы к появлению самой сильной в мире AI-компании Anthropic.

Заголовок оригинала: «Десятилетняя вражда, формирующая будущее ИИ»

Автор оригинала: Keach Hagey

Журналист «Уолл Стрит Джорнал» Кич Хейджи опубликовал длинное расследование, впервые систематически раскрывающее личную вражду, продолжающуюся десять лет между основателями Anthropic и OpenAI, на основе многочисленных интервью с нынешними и бывшими сотрудниками и руководителями обеих компаний. Формируют глобальный рынок ИИ не только споры о технологических направлениях, но и незажившие личные травмы.

В последние месяцы Дарио Амодеи в своих внутренних комментариях был гораздо более резок, чем на публике. Он сравнил юридические разборки Сэма Альтмана и Илона Маска с «войной Гитлера со Сталиным», назвав пожертвование президента OpenAI Грега Брокмана в 25 миллионов долларов в суперполитическую акцию, поддерживающую Трампа, «злом» и сравнив OpenAI и других конкурентов с «табачными компаниями, которые продолжают продавать вредные продукты, зная о их вреде».

После эскалации конфликта с Пентагоном он также написал в Slack, что OpenAI «лицемерна» (mendacious), заявив: «Эти факты свидетельствуют о поведении, которое я часто наблюдал у Сэма Альтмана».

Внутри Anthropic этот бренд был назван «здоровой альтернативой» (healthy alternative) для создания конкурентов; рекламный ролик, высмеивающий OpenAI за встраивание рекламы в чат-боты во время Супербоула, стал публичным продуктом этого подхода.

Начало истории берет свое начало в 2016 году в гостиной квартиры на Делано-стрит в Сан-Франциско. Дарио и его сестра Даниэла Амодеи жили здесь, и соучредитель OpenAI Брокман часто приходил в гости к Даниэле из-за их дружбы. Однажды Брокман, Дарио и тогдашний жених Даниэлы, эффективный альтруист и филантроп Холден Карнофски, сидели вместе и обсуждали правильный путь развития ИИ: Брокман считал, что нужно информировать всех американцев о том, что происходит на переднем крае ИИ, тогда как Дарио и Карнофски полагали, что чувствительную информацию сначала следует сообщать правительству, а не транслировать общественности. Этот раскол впоследствии стал рубежом в философских подходах двух компаний.

Впечатленный командой OpenAI, Дарио присоединился к компании в середине 2016 года и с Брокманом ночами тренировалась AI-агентов, играя в видеоигры. Но за четыре года работы конфликты вокруг власти и чувства принадлежности только углублялись. В 2017 году, когда тогдашний главный инвестор OpenAI Маск потребовал перечислить вклад каждого сотрудника и уволить людей на основе этого, около 10% до 20% команды из 60 человек были уволены, что Дарио считал жестоким; среди уволенных был один, кто впоследствии стал соучредителем Anthropic.

В том же году этический консультант, которого нанял Дарио, предложил сделать OpenAI координационным органом между ИИ-компаниями и правительством, из чего Брокман вывел идею «продажи AGI Совету Безопасности ООН ядерным державам», что Дарио считал почти предательством и на некоторое время задумался о том, чтобы уволиться.

После выхода Маска в 2018 году Альтман взял на себя руководство. Он и Дарио пришли к соглашению: сотрудники не доверяли руководству Брокмана и главного ученого Ильи Сутскевера. Дарио остался при условии, что оба больше не будут руководить, но вскоре обнаружил, что Альтман одновременно пообещал обоим, что они имеют право уволить его, что оказалось противоречием.

После запуска разработки серии GPT разгорелся самый яростный конфликт вокруг того, кто может участвовать в проекте языковых моделей. Тогдашний директор исследований Дарио не позволял Брокману вмешиваться, а Даниэла, совместно руководившая проектом с Алеком Радфордом, шантажировала, угрожая уйти с поста. Личные желания Радфорда оказались втянутыми в агентскую войну между руководством.

Квалификация Дарио возросла с успехом GPT-2 и GPT-3, но он чувствовал, что Альтман умалял его вклад. Когда Брокман говорил в подкасте о хартии OpenAI, Дарио был зол, что его не пригласили, хотя он сделал больший вклад в хартии; узнав, что Брокман и Альтман собираются встретиться с бывшим президентом Обамой и исключили его, он также был недоволен.

Конфликт окончательно обострился во время конфронтации в конференц-зале. Альтман вызвал братьев Амодеи в конференц-зал и обвинил их в подстрекательстве коллег к представлению негативной обратной связи о нем в совет директоров. Оба отрицали это. Альтман сказал, что информация исходит от другого руководителя, и Даниэла тут же позвала того руководителя, чтобы провести допрос, и тот сказал, что не в курсе.

Альтман сразу же отрицал, что произнес эти слова, и между ними завязалась жесткая ссора. В начале 2020 года Альтман потребовал от руководства написать взаимные рецензии, и Брокман написал жесткий отзыв, обвинив Даниэлу в злоупотреблении властью и использовании бюрократических процессов для устранения оппонентов; Альтман заранее посмотрел, оценив его как «жесткий, но справедливый». Даниэла опровергла каждую пункт, и спор escalated to the point where Brockman once proposed to retract his comments.

В конце 2020 года команда, сосредоточенная вокруг Дарио, решила уйти, и Даниэла возглавила переговоры с юристами о выходе. Альтман лично пришел к Дарио, чтобы уговорить его остаться, но Дарио потребовал, чтобы он подчинялся только совету директоров и четко заявил, что не может работать с Брокманом. Перед уходом он написал длинную записку, разделив ИИ-компании на «рыночные» и «общественные», считая идеальное соотношение 75% общественного блага и 25% рынка. Через несколько недель Дарио, Даниэла и почти двенадцать сотрудников покинули OpenAI и основали Anthropic.

Спустя пять лет обе компании оцениваются более чем в 300 миллиардов долларов и стремятся к IPO. В феврале этого года, в конце AI саммита в Дели, премьер-министр Индии Моди и присутствующие технологические лидеры подняли руки, в то время как Амодеи и Альтман выбрали не участвовать и лишь неловко столкнулись локтями.

Ссылка на оригинал

Нажмите, чтобы узнать о вакансиях в Rhythm BlockBeats

Добро пожаловать в официальное сообщество Rhythm BlockBeats:

Telegram подписной канал: https://t.me/theblockbeats
Telegram чат: https://t.me/BlockBeats_App
Twitter официальный аккаунт: https://twitter.com/BlockBeatsAsia