Погоня OpenAI за AGI - сложная концепция и контракт

НЬЮ-ЙОРК, 16 марта (Рейтер, Breakingviews) — Представьте себе очень успешное партнерство, которое распадается, как только происходит что-то. Но неясно, что именно за событие, произошло ли оно или вообще возможно ли такое. Это проблема, с которой сталкиваются OpenAI и Microsoft (MSFT.O), открывая новую вкладку, размышляя о возможном появлении искусственного общего интеллекта. Непрозрачность их соглашения и огромные суммы денег, находящиеся на кону, делают почти неизбежным превращение теоретической дискуссии в контрактный спор.

Концепция, известная как AGI, — это точка, когда автономные системы могут соперничать или превосходить человека в интеллектуальных задачах. В Кремниевой долине это одновременно и амбициозная цель, и экзистенциальная угроза. Создание самучащейся системы теоретически может привести к результатам, варьирующим от золотого века для человечества до его исчезновения.

Бюллетень Reuters Iran Briefing держит вас в курсе последних событий и аналитики по ситуации в Иране. Подписывайтесь здесь.

OpenAI был основан в 2015 году с этой явной целью. Сэм Альтман, Илья Сутскевер, Илон Маск и другие поставили задачу создать AGI, которую они определили как «высокоавтономные системы, превосходящие человека в большинстве экономически ценных работ, на благо всего человечества». В соответствии с идеей, что любовь к деньгам — корень зла, OpenAI был основан как некоммерческая организация.

Эго и доброжелательность были недостаточны: гонка за ИИ также требовала огромных финансовых ресурсов. Поэтому компания создала коммерческое подразделение в 2019 году и заключила партнерство с Microsoft. Гигант программного обеспечения инвестировал 1 миллиард долларов и предоставил вычислительную инфраструктуру в обмен на доступ к технологиям OpenAI. Старт-ап настаивал, что после достижения AGI исключительные права на технологию перейдут обратно к нему.

Это, вероятно, было легким компромиссом в то время. Однако по мере того, как системы ИИ становились все более способными, определение AGI стало менее абстрактным вопросом. По таким показателям, как визуальное мышление, понимание английского языка или математические задачи на уровне соревнований, продвинутые системы превзошли средние человеческие показатели, согласно Стэнфордскому институту человекоцентричного ИИ.

Здесь концептуальная дискуссия превращается в контрактную. Как субъективное объяснение судьи Верховного суда Поттера Стюарта о непристойности — «Я знаю это, когда вижу» — AGI было плохо определено. Положение OpenAI было ни конкретным, ни легко наблюдаемым, как указали исследователи Google в статье 2023 года, которая пыталась предложить рамки для таких заявлений.

Возьмем условие, что этап будет достигнут, когда системы смогут превосходить большинство людей в экономически ценных работах. Что означает «большинство людей»? Можно ли измерить это без внедрения в реальный мир или если использование замедлено по юридическим или этическим причинам? Наконец, экономическая ценность многих профессий трудно определить.

Между тем, обучение и развертывание моделей ИИ требуют огромных затрат. Microsoft, Alphabet (GOOGL.O), Meta Platforms (META.O) и Oracle (ORCL.N) резко увеличили капитальные расходы в ответ на эти потребности и планируют потратить более 700 миллиардов долларов в этом году. В качестве стартапа без существующих источников дохода OpenAI нуждался в поддержке.

В итоге Microsoft вложила в компанию в общей сложности 13 миллиардов долларов. Но этого было недостаточно для OpenAI, и все более сложное соглашение между двумя компаниями, часть которого зависела от положения о AGI, вызывало недовольство обеих сторон.

Другие отрасли уже поняли, что расплывчатые соглашения и большие суммы денег несовместимы. Возьмем катастрофические облигации, которые помогают компаниям снизить финансовый риск от ураганов, наводнений или пандемий. Эти события редки, но счет в 1,4 триллиона долларов за шторм, обрушившийся на крупный американский город, например Майами, может поставить под угрозу всю страховую индустрию. Поэтому компании привлекают сторонних участников, готовых взять на себя огромные, но маловероятные риски, взамен на выплаты. Изначально непрозрачные соглашения приводили к острым спорам, например, пятилетней судебной тяжбе между перестраховщиком и держателями облигаций по поводу того, что именно было покрыто после урагана 2008 года.

С тех пор катастрофические облигации перешли к более конкретным и легко наблюдаемым триггерам, снижая неопределенность и избегая споров. Например, измерение скорости ветра в конкретном месте, а не общие убытки страховой индустрии или решение правительства объявить чрезвычайное положение.

В биотехнологических слияниях компании используют условные платежи, чтобы сблизить оценки стоимости экспериментальных лекарств. Обычно они включают неоспоримые триггеры, например, одобрение лечения FDA США к определенной дате.

С тех пор OpenAI и Microsoft достигли некоторого согласия, вероятно, потому, что длительные переговоры могли бы привести к тому, что обе стороны потеряют. Новое соглашение, подписанное в конце прошлого года, предусматривает, что независимая комиссия должна подтвердить любой заявленный факт достижения AGI.

Microsoft сохраняет 27% долю в компании, недавно оцененной в 840 миллиардов долларов, и имеет право на некоторые технологии до 2032 года, даже если AGI будет достигнут. Компания Сэма Альтмана теперь может искать партнерства или провести первичное публичное размещение. Однако есть причины для напряженности. OpenAI переводит около 20% своих доходов Microsoft, и это практически исчезает, если достигнут AGI. Такой крупный финансовый сдвиг существенно повлияет на финансы OpenAI, поскольку она готовится к продаже акций на бирже.

До сих пор вопрос о том, как определить AGI, остается нерешенным. Сэм Альтман заявил в конце прошлого года в подкасте, что люди этого особо не заметили и это не изменило мир, но «мы создали AGI». Генеральный директор Microsoft Сатья Наделла, кажется, больше сосредоточен на масштабных эффектах, утверждая в прошлом году, что AGI будет «бессмысленным взломом эталонов», а настоящим мерилом успеха станет рост мировой экономики на невероятные 10%.

Дискуссия также продвинулась. Даже такие сторонники ИИ, как Альтман, признают, что ИИ все еще плохо справляется с некоторыми задачами, например, с сложным рассуждением и способностью учиться. Сейчас он продвигает идею сверхинтеллекта и систем ИИ, которые делают то, что человек не может, или выполняют работу, например, быть президентом США, лучше человека. Однако это все еще расплывчатое определение.

Альтман все еще преследует цель. Недавний сбор средств OpenAI на сумму 110 миллиардов долларов включал крупный вклад Amazon (AMZN.O), который, как сообщает The Information, может зависеть от того, выйдет ли компания на биржу или достигнет AGI.

В интервью CNBC после подписания соглашения Альтман заявил, что прогресс в области ИИ остается быстрым, и поскольку AGI — это «ближайшая перспектива», компания не заключает новых сделок, которые прекращаются после достижения. Этот срок может оказаться оптимистичным, но если так, то у спора еще есть время и стимул для повторного всплеска.

Следите за Робертом Сирэном в Bluesky.

Для получения дополнительных аналитических материалов нажмите здесь, чтобы бесплатно попробовать Breakingviews.

Редакция: Питер Талер Ларсен; Производство: Майя Нандхини