Оригинальный заголовок видео: Inside the Mind of Anthropic CEO Dario Amodei | The Circuit | Extended Interview

Источник видео: Bloomberg Original
Перевод: Web3 Небесный Город

Редакторский комментарий: Генеральный директор Anthropic Дарио Амодеи сейчас находится в очень неловком положении. С одной стороны, у компании есть модель ИИ №1 в мире, с другой — из-за запрета, введённого американским правительством, она была отключена по всему миру, и даже внутри команды не все могут её использовать.

Как закончится эта история — пока неизвестно. Говорят, Амодеи продолжает прилагать усилия, так что следите за новостями. Но из последнего интервью с Эмили мы можем понять, как мыслит этот спорный лидер в области AI-кодирования.

Anthropic занимает очень особое и напряжённое место в современной силовой структуре Кремниевой долины. Будучи самым сильным конкурентом OpenAI, она была основана группой ведущих исследователей, ушедших из-за разногласий по ценностям.

Когда CEO Амодеи говорит о стремительном росте ИИ под светом софитов, он демонстрирует редкую, хирургическую спокойствие. Это не просто соревнование технологий — это глубокая борьба за доверие, безопасность и то, как человечество будет вести себя при столкновении с интеллектуальным взрывом.

Обзор статьи

В последнем интервью подробно рассматривается внутренний путь Амодеи в условиях экспоненциального роста ИИ, включая закулисные причины ухода из OpenAI, выбор бизнес-модели компании и влияние ИИ на рынок труда, кибербезопасность и геополитику.

Генеральный директор подробно объяснил, как Anthropic балансирует власть через механизмы вроде «доверительных фондов на долгосрочные интересы», а также реализует ценности безопасности, устанавливая «красные линии» и задерживая выпуск высокорискованных моделей (например, Mythos).

Обратите внимание, что высказывания Амодеи неоднозначны и враждебны в отношении Востока — решайте сами.

Ключевые идеи

· Индустрия ИИ находится в состоянии «стабильного экспоненциального роста», при котором накопление количественных изменений приводит к качественному скачку.

· Доверие — основа сотрудничества в сфере ИИ. Anthropic выступает за объединение ответственных участников для установления отраслевых стандартов.

· Бизнес-модели корпоративного уровня и ценности безопасности ИИ более совместимы, что помогает избегать проблем, характерных для потребительского рынка, таких как зависимость и низкое качество контента.

· В отношении риска безработицы, вызванного ИИ, общество должно предвидеть и разрабатывать макроэкономические стратегии, стремясь к «использованию одних и тех же ресурсов для большего количества дел» — позитивная сумма.

· Военные приложения должны строго придерживаться принципа «человек в цепочке решений», избегая масштабного слежения и полностью автономных оружий.

Полный текст интервью:

Давление экспоненциального роста и его переживания

Эмили Чжан: Сколько у вас времени на сон?

Дарио Амодеи: Я всегда не был тем, у кого качество сна было хорошим. Можно сказать, я учусь искусству расслабляться и засыпать в условиях необычайного стресса.

Эмили Чжан: Всё развивается очень быстро. Что ощущается, когда ты в этом участвуешь?

Дарио Амодеи: Это ощущение экспоненциального роста. Представьте, что вы летите на космическом корабле со скоростью релятивистских скоростей, удаляясь от Земли. Согласно специальной теории относительности, когда вы просыпаетесь, на Земле прошло уже два дня. Значит, за один ваш сон — два дня на планете.

Потом вы снова засыпаете, и, поскольку ускоряетесь, на Земле прошло уже три дня. Следующий день — четыре дня. Это примерно так ощущается.

Эмили Чжан: Ты часто испытываешь тревогу, боясь, с чем проснёшься и что тебя ждёт?

Дарио Амодеи: У нас уже достаточно много срочных и ясных проблем, и я, решая их, думаю о том, как подготовиться к будущему. Но я считаю, что паранойя или страх перед тем, что проснёшься и столкнёшься с чем-то — бесполезны. Я изучал опыт людей, которые справлялись с подобным давлением. Нужно учиться рационально реагировать и не сравнивать опасности по степени.

Это состояние, когда ты то «не волнуешься», то «Боже, сегодня нужно паниковать» — я считаю, что это знак незрелых решений. Настоящее зрелое решение — ты не можешь игнорировать это, и при этом не можешь расслабляться.

На самом деле, ситуация становится всё более рискованной, и нам нужно реагировать рационально, как хирург, делающий операцию. Или как офицер, руководящий военными действиями. Или как любой человек, принимающий решения, влияющие на многих. Они должны понимать риски, но сохранять холодный рассудок.

Мой сын вчера спросил, можно ли ему использовать мой аккаунт Claude, я сказал — ни в коем случае, мне нужны мои токены. В потребительском сегменте всё больше таких приложений. Мы изначально хотели быть компанией корпоративного уровня, но даже без особых усилий потребительский сегмент начал быстро расти.

Эмили Чжан: Ты сейчас в центре ИИ-мира, как это ощущается?

Дарио Амодеи: Интересно, что за всё время карьеры, особенно после присоединения к Anthropic, я ощущаю стабильный экспоненциальный рост.

Это ощущение — ничего не происходит, ничего не происходит, ничего не происходит, и вдруг — взрыв. Так работает этот мир. Так ощущается масштаб компании по сравнению с другими и с глобальной ситуацией.

Я долго смотрел на график и говорил себе: примерно в этот момент мы станем самой доходной и самой ценимой компанией в области ИИ. И так и случилось. Всё произошло. Поэтому, в некотором смысле, я не удивлён — кривая на графике очень плавная.

Но с другой стороны, когда всё реально случается, ты видишь больше деталей и красок. И это, безусловно, удивительно.

Мы постоянно задаёмся вопросами: как тренировать хорошие модели? Как внедрять их в качественные продукты? Как обеспечить безопасность? Как управлять социальными рисками, возникающими вокруг этой технологии, помогая людям? Всё это — одни и те же вопросы, только в большем масштабе.

Фон и дух Кремниевой долины

Эмили Чжан: Каким ты был ребёнком, выросшим в Сан-Франциско? Я знаю, что твой отец был кожевником, а мама работала в библиотеке. Как это повлияло на тебя?

Дарио Амодеи: Тогда вокруг происходила интернет-революция, но мне было всё равно. Я интересовался математикой, рисованием, исследованием космоса, научной фантастикой. В целом, это был мой мир. Думаю, я был очень любопытен к миру.

Эмили Чжан: Ты вырос в месте, которое считается центром технологий, а сейчас — центром ИИ. Что в этом городе сформировало твоё мировоззрение?

Дарио Амодеи: Есть. Я считаю, что в нём присутствует дух — «неконформизм», индивидуализм и вера в то, что «чем чуть-чуть сумасшедше — тем лучше». Это, вероятно, повлияло на меня очень сильно.

Ты слышишь истории, что в некоторых европейских странах или регионах, где по-другому мыслят, такие идеи могут подавляться или восприниматься как странные, даже безумные.

Я критикую Кремниевую долину, но считаю, что в ней есть хорошее — она поощряет идею: даже если все эксперты против тебя, всё равно иди к своей цели, если у тебя есть последовательное видение и мировоззрение. Может, это и неправильно, но если это работает — у этого есть длинный хвост, и в какой-то области ты можешь найти огромную золотую жилу. Это очень важный дух.

Эмили Чжан: В 2016 году ты жил с Daniela, её мужем Holden Karnovsky и ещё кем-то в одной квартире. Чем вы тогда спорили?

Дарио Амодеи: Тогда как раз стартовал проект Open Philanthropy, Holden был его руководителем. Я был биологом, помогал им с вопросами здравоохранения в развивающихся странах и биологических исследований. Давал советы — в каких областях есть перспективы, а в каких — нет.

Разногласия при уходе из OpenAI

Эмили Чжан: Решение покинуть OpenAI стало легендой Кремниевой долины. Что там произошло? Вне всяких нарративов, в чем суть разногласий?

Дарио Амодеи: Слушайте, я скажу очень просто. Когда создаёшь мощные технологии, сталкиваешься с множеством проблем, и Anthropic ежедневно с этим сталкивается. Мы не знаем, правильны ли наши решения.

В вопросах безопасности есть много разумных споров. У нас были разногласия, но это не причина уходить. Люди здесь — и я с ними — расходятся во взглядах. И внутри компании есть разногласия.

Но когда ты не можешь доверять кому-то, когда ценности не совпадают, когда человек не честен, — это очень усложняет работу и доверие. В конце концов, если у вас нет общего видения и доверия — зачем спорить?

Решение — идти разными путями. Вы делаете своё, они — своё. Мы будем смотреть, кто выиграет на рынке, кто победит в общественном мнении. И я считаю, что эти факты важнее, чем спекуляции о причинах ухода или драматические версии.

Мы создаём пример ответственного внедрения технологий. Если у них есть возражения — пусть выскажут. Я считаю, что об этом не нужно много говорить.

Сотрудничество и доверие в отрасли

Эмили Чжан: На AI-форуме в Индии был момент, когда ты и Sam Altman, кажется, отказались пожать друг другу руки на сцене. Что там произошло?

Дарио Амодеи: Тогда всё было очень хаотично. Мы вышли на сцену в последнюю минуту, порядок выступлений изменили в последний момент. Потом сфотографировали нас и приказали держаться за руки. Если вы участвовали в подобных форумах — я не хочу никого обидеть — но организация подобных международных саммитов с участием глав государств — очень хаотична.

Эмили Чжан: Но все пожали руки. Ну, пожалуйста.

Дарио Амодеи: Послушайте, я не знаю, как вам объяснить, но на сцене был Нарендра Моди, он вдруг сказал — держитесь за руки.

Эмили Чжан: Ладно, ладно.

Наблюдаете, как Sam и Elon друг на друга жалуются? Похоже, вам не очень нравится Sam.

Эмили Чжан: Если самые важные разработчики технологий не могут пожать друг другу руки на сцене, как мы можем надеяться на сотрудничество по вопросам рисков выживания?

Дарио Амодеи: Вот что я хочу сказать. В команде, которая занимается созданием этой технологии, есть огромные различия в уровне доверия и компетентности. Я считаю, что это означает — разные люди, разные мнения, и я не считаю, что это неправильно.

Я знаю Demis Hassabis, создателя модели Gemini, конкурирующей с Claude. Я знаком с ним уже 15 лет. Мы вместе решали много вопросов, покупали вычислительные ресурсы у Google, постоянно обменивались идеями по безопасности.

Мой вывод — некоторые участники более заслуживают доверия, чем другие. И я доверяю не только Anthropic, но и другим участникам, которых считаю надёжными. И важно, чтобы заслуживающие доверия участники объединялись, чтобы противостоять недобросовестным — и требовать единых стандартов.

Из опыта я понял, что некоторые люди не всегда делают правильные вещи осознанно. Но если большинство в отрасли поступает правильно, остальные вынуждены идти за ними. Это — позитивный пример, мотивирующий других.

Это похоже на то, как Demis и я вдохновляем друг друга. Он занимается AlphaFold, мы — исследуем объяснимость в биологии. Они начали исследования объяснимости — это даже не конкуренция.

Это просто потому, что каждая компания делает что-то очень крутое. Другие компании видят — это круто. Мы тоже хотим попробовать, сделать что-то новое. Это — «морковка» в гонке за лидерство. А «кнут» — это понимание, что эти люди делают правильные вещи. Если кто-то не делает — это выглядит плохо.

Часто бывает так: они вроде делают правильно, но пытаются казаться, что делают что-то другое, намекают на злой умысел — это предсказуемо. Но я считаю, что так мы объединяем отрасль и стимулируем сотрудничество.

Бизнес-модель: корпоративные ценности и ценностное соответствие

Эмили Чжан: Раньше другие сосредотачивались на интересных, ярких потребительских приложениях. А вы сделали ставку на кодирование и корпоративный сегмент, и Claude Code, и Claude Co-work — очень успешны. Почему вы сделали такой выбор? Это было основано на ценностях или на бизнес-стратегии?

Дарио Амодеи: Когда мы создавали Anthropic, самое важное — это наши внутренние желания. Мы хотели делать всё правильно. Но нужно честно спросить себя: чтобы финансировать очень дорогой процесс создания моделей, нужна бизнес-модель. Может ли бизнес-модель мешать реализации ценностей?

Этот вопрос всегда актуален. Но из опыта работы в других компаниях я понял: если выбранная бизнес-модель противоречит ценностям — будет очень трудно. Можно предать свои ценности или быть вытесненным.

В итоге, ты попадаешь в дилемму; есть способы её обойти, но это очень сложно. Лучше выбрать бизнес-модель, которая совместима с ценностями.

Когда мы думали об этом, мы пришли к выводу: мы уже видели, как в соцсетях и в потребительском сегменте всё поощряет взаимодействие и даже зависимость. Контент, который создаётся — зачастую мусор, — это логика максимизации внимания, основанная на рекламных доходах.

Но в корпоративной сфере всё иначе. Мы хотим, чтобы модели приносили пользу. Если я думаю о позитивных применениях ИИ — и я постоянно напоминаю о возможных негативных последствиях — в целом, мы считаем, что позитив перевесит негатив. Многие позитивные кейсы — это именно бизнес-приложения.

Мы хотим использовать ИИ для лечения болезней, которые раньше было невозможно вылечить, — для этого сотрудничаем с биотехнологическими и фармацевтическими компаниями, университетами. Всё это — бизнес. Мы хотим сделать энергию дешевле и эффективнее — тоже бизнес.

Также мы хотим развивать образование, что — бизнес-приложение. Решать проблемы здравоохранения и развития в странах третьего мира — тоже бизнес. Хотя это некоммерческие организации, по сути, это бизнес. Мы хотим стимулировать экономический рост — и это тоже бизнес.

Есть ещё один фактор — доверие и долгосрочные отношения. В потребительском сегменте часто есть эффект «развлекательности», а в бизнесе важна стабильность сотрудничества: долгие отношения, выполнение обещаний, доверие. Это отлично сочетается с нашим желанием безопасно и ответственно внедрять модели. Поэтому наличие бизнес-модели, соответствующей нашим ценностям, очень важно.

Конечно, иногда бывают конфликты, и иногда приходится делать трудный выбор. Но я считаю, что таких случаев — гораздо меньше, чем в других сферах.

Конкурентные преимущества и «SaaS-апокалипсис»

Эмили Чжан: Разработчики могут за один день перейти с Claude на GPT или Gemini. Можно ли в этой индустрии сохранять долгосрочное лидерство? И сколько потребуется конкурентам, чтобы скопировать ваши решения?

Дарио Амодеи: Качество моделей — самое важное. Например, сейчас мы лидируем по качеству. Есть инерция, но я никогда не полагался на неё. Никогда не думал, что у нас есть «высокая привязка к продукту и лояльность пользователей».

Я считаю, что нужно иметь более качественную модель. Хотите лучше продукт. И рост у нас не показывает признаков замедления — наоборот, он ускоряется, по крайней мере, на момент интервью. Это — самое важное.

Эмили Чжан: После релиза Claude Co-Work рыночная капитализация за ночь упала на 285 миллиардов долларов, и трейдеры назвали это «SaaSpocalypse». Если ИИ продолжит так быстро развиваться, сколько рынка традиционного софта будет заменено и как быстро?

Дарио Амодеи: Это очень трудно предсказать. Если бы можно было точно предсказать — все давно бы заработали миллионы.

Никто не знает, что произойдёт, но я отмечу: у всех классических софтверных компаний есть свои «преимущества». Некоторые из них исчезнут, другие останутся. Способность быстро писать софт — точно исчезнет. Если ваше преимущество — «мы пишем сложное программное обеспечение, которое никто не умеет», — удачи. Его уже невозможно защитить.

Но у компаний есть клиентские отношения, есть экспертиза в области работы с конкретными задачами. Есть уникальные знания. Мой совет — не расслабляться. Не игнорировать это. Перечислите все свои преимущества и ясно поймите, какие исчезнут, а какие станут ещё важнее, потому что они — ограничивающие факторы. И могут появиться новые преимущества.

Те, кто сможет гибко реагировать, использовать существующие преимущества и создавать новые — у тех всё получится. Те, кто думает, что прошлое всегда будет работать — не ждите хороших новостей. Так что мой совет — не расслабляйтесь.

Я думаю, что в конечном итоге — и это, конечно, зависит от того, что считать SaaS — индустрия программного обеспечения станет больше, а не меньше, хотя и появятся крупные проигравшие.

Объясните, пожалуйста.

Дарио Амодеи: Я считаю, что размер рынка растёт. Например, с появлением ИИ этот «торт» становится больше. Старые компании могут уменьшиться в цене. Некоторые — даже исчезнуть, если не адаптируются правильно.

Когда рост очень быстрый, часто наблюдается ситуация: если рост ИИ увеличился в 10 раз, то существующие отрасли растут в 1,5 раза — это легко. Но в целом, с ростом рынка в 10 раз, всё равно — это очень много.

Это не значит, что не появятся крупные проигравшие. Те, кто не адаптируется, — столкнутся с серьёзными трудностями.

Мощность, финансирование и партнёры

Эмили Чжан: Ваши крупнейшие инвесторы — Amazon, Google, Microsoft и NVIDIA. Они одновременно конкуренты и партнёры. У вас есть крупные бизнес-цели, связанные с финансами. Кто в итоге управляет ситуацией?

Дарио Амодеи: Мы открыто выражали свои взгляды. Я всегда выступал за контроль экспорта чипов в Китай. Почему? Потому что, если Китай опередит в ИИ — это очень плохо для США и мира. Некоторые производители чипов не согласны, но я говорю прямо.

Даже после подписания новых соглашений я продолжаю это повторять. Они знают, что мы с ними сотрудничаем. Мы хорошие партнёры. Мы можем работать вместе. Они, наверное, не хотят, чтобы я это говорил, но я считаю, что так и есть.

Что делать? В конце концов, они договорятся. Они получают прибыль — и мы тоже. Мы взрослые люди. Можем сотрудничать в одних вопросах и расходиться в других.

Эмили Чжан: Согласно Bloomberg, ваша оценка превышает OpenAI. Это стартап за пять лет с оценкой почти в триллион долларов. Как вы это понимаете? И почему вам нужны такие деньги, если у вас более дисциплинированные ресурсы и более быстрый путь к прибыли?

Дарио Амодеи: Расширение вычислительных мощностей идёт очень быстро, и бизнес кажется стабильным. Но через год объём ресурсов может увеличиться в 3-4 раза — я не даю точных цифр, но рост вычислительных ресурсов очень быстрый.

Мы вполне можем ожидать, что доходы достигнут и превзойдут эти масштабы. А привлечение инвестиций — это страховка на случай неопределённости.

Это — полностью рациональный шаг. Это очень мало размывает долю акционеров, и по сути — не противоречит бизнес-основам. Наоборот, это — совместимо с ними.

Эмили Чжан: Есть сообщения о перегрузке серверов, проблемах с надёжностью и исчерпании токенов. Вы говорили, что другие компании вкладываются в инфраструктуру. Действительно ли у вас есть всё необходимое или вы просто торопитесь?

Дарио Амодеи: Что касается мощности — есть так называемая «маркетинговая мощность». Мой взгляд — со временем, даже через несколько месяцев, мы сможем получить много ресурсов. И важно, что я не считаю, что мы покупаем слишком мало.

Планировалось, что мощность будет расти в 10 раз в год.

Это — наш план. Но сейчас ситуация иная. В первом квартале 2026 года наш доход вырос более чем в 3 раза за квартал — это только квартальные показатели, а не годовые. Рост в 3 раза за квартал — это уже очень много, а 3 в 4-й степени — примерно 80-кратный рост за год.

Мы не ожидали такого. Планировать с целью 80-кратного годового роста — нереально, потому что, если в итоге получится только 10-кратный — это очень мало. Так что мы находимся в стадии локального взрыва мощности. Это — временно, и дальше всё стабилизируется.

Если это продолжится, к концу года доходы будут такими, что ни одна компания в мире не сможет их достичь. Я не думаю, что это произойдёт. Это — невозможно.

Но, возможно, вы переживёте такой короткий период, когда удивитесь — «Боже, это быстрее, чем мы ожидали». И вы уже видели соглашения с Google и Amazon по мощности. Мы можем и будем делать ещё больше.

Рынок — динамичен. Если вы умеете эффективно использовать мощность и есть спрос — вы получите всё, что нужно. Может, потребуется месяц-два.

Лидерство и корпоративная культура

Эмили Чжан: Каково это — обгонять конкурентов?

Дарио Амодеи: Послушайте, перед нами много сложных задач. У нас есть идея «гонки к вершине», чтобы подтолкнуть другие компании идти за нами. Мы уже видим, что это работает. Иногда они даже не признают этого.

Иногда они критикуют нас и одновременно подражают. Это очень ценно.

Я считаю, что — с точки зрения бизнеса и моделей — главное не победить конкурента, а уметь вести отрасль к развитию. Мы хотим делать это больше в будущем.

Эмили Чжан: Но, надо признать, победа — это приятное ощущение.

Дарио Амодеи: Посмотрите, мы всегда стремимся к успеху, не так ли? Мы стараемся, не хотим проиграть. Я не тот, кто считает, что нужно останавливать развитие технологий или не строить их вовсе. Мы — часть свободного рынка, и это — нормально. Нам нужно лишь снизить риски, связанные с моделями, — и балансировать между этим и развитием.

Эмили Чжан: Тогда, за всю историю Anthropic, вы были в невыгодном положении. Мне кажется, когда у тебя ничего нет, легче занимать моральную позицию. Как трудно сохранять свои принципы при таком масштабе?

Дарио Амодеи: Я много думал, почему так происходит.

На каждом этапе роста я стараюсь быть бдительным. В каждом этапе появляются новые вызовы. Компания может потерять свою уникальность — в бизнесе или в ценностях.

Я опасаюсь этого, потому что считаю, что ценности и бизнес — это взаимосвязано.

На самом деле, я считаю, что наша способность создавать такие хорошие модели — ключ к тому, чтобы реализовать ценности эффективно. Рост компании — это риск. Есть много способов ошибиться, и это не потому, что мои или основателей ценности изменились, а потому, что структура компании меняется очень быстро.

Поэтому я часто говорю о культуре Anthropic и о том, как она работает. Когда рост очень быстрый, нанимаешь много из крупных технологических компаний.

Если не объяснить им, как работает Anthropic, они просто повторят привычные модели — те, что были у них в предыдущих компаниях.

Это — постоянная борьба и вызов.

Это как, например, я и Daniela — наша главная задача — понять, как сохранить эту культуру. Потому что в долгосрочной перспективе это — наше главное.

Наука, эффективность и прогресс

Эмили Чжан: Ваши релизы идут очень быстро. Вы выпускаете много продуктов, и всё делаете очень быстро. Как вам это удаётся?

Дарио Амодеи: Я выделю два фактора. Первый — мы единая команда, с единой культурой. И несмотря на рост, мы сохраняем высокую эффективность. Все работают в одном направлении, что говорит о сплочённости культуры и организации. Это — самое важное.

Второй — это сама Claude. Мы используем Claude для помощи: в разработке моделей, повышении их эффективности и быстром создании продуктов. Для этого нужно разрабатывать новые практики. Мы ещё новички в этом, но уже видим значительный эффект ускорения, и он становится всё более надёжным. Вот два ключевых фактора.

Эмили Чжан: Можешь рассказать о самом безумном, что делал ИИ?

Дарио Амодеи: Самое безумное — в биологии и медицине. Я видел много случаев, в том числе и Daniela, когда Claude диагностировал болезни, которые пропускали лучшие врачи. В области биологии — в дизайне лекарств, вычислительной химии — модели показывают поразительные результаты. Как бывший биолог, я поражаюсь — это очень сложно.

Чтобы выполнить эти задачи, нужно много профессиональных знаний. И Claude становится всё лучше в этом. Это — одна из областей, где мы можем получить огромную пользу. Это — позитив, и он может принести огромные блага. Жизнь станет лучше, качество человеческого опыта — выше.

Эмили Чжан: Наука века.

Дарио Амодеи: Наука века и прогресс в человеческом опыте. Например, 1900 год. Вспомните все проблемы того времени, причины преждевременной смерти, страдания — и всё, что мы уже не сталкиваемся сегодня.

И представьте следующий век. Я искренне верю, что за этот век наука и медицина достигнут таких высот, что мы преодолеем текущие трудности — и сможем. Всё больше становлюсь оптимистом. Мир станет гораздо лучше.

Письмо, мышление и помощь ИИ

Эмили Чжан: Ты очень любишь писать. Известен тем, что пишешь статьи. Ты используешь Claude для помощи в письме?

Дарио Амодеи: Да, использую. Пока не полагаюсь полностью на его тексты — у меня свой стиль, я к нему очень придирчив. Но я использую Claude для мозгового штурма, структурирования идей или поиска материалов для вдохновения.

Это — вспомогательный инструмент. Я не уверен, когда он научится писать лучше меня. Мы ещё не достигли этого уровня, но уверен, что это произойдёт.

Эмили Чжан: Я тоже люблю писать. Писательство помогает структурировать мысли. В нём много критического мышления. Если доверить это Claude — потеряем ли мы эту способность?

Дарио Амодеи: Это — моя тревога. Именно поэтому я сам пишу. Это важно для внешней аудитории, но и для меня — чтобы понять свои идеи, понять, что делать дальше, и создать общий ориентир.

Я считаю, что мы всё ещё ищем способы использовать ИИ так, чтобы сохранить эти преимущества. Например, я использую Claude для исследований и для структурирования своих мыслей.

Если же полностью полагаться на него — например, писать статью о рисках ИИ — это уже не то. Он не сможет передать мои личные взгляды, и я потеряю преимущества писательства. Но с ростом возможностей моделей, я думаю, скоро появятся способы более прямо использовать их в процессе написания, сохраняя эти преимущества. Это — деликатный процесс, и нам нужно экспериментировать.

Я предполагаю, что мы можем столкнуться с очень необычной ситуацией: высокий рост ВВП при высокой безработице или большом числе низкооплачиваемых работ и серьёзном неравенстве.

Риск безработицы, производительность и макрополитика

Эмили Чжан: Ты очень откровенен по поводу безработицы. Говоришь, что в течение 1–5 лет ИИ может уничтожить половину начальных офисных работ. Это было в прошлом году. Сейчас — всё ещё 50% или уже больше?

Дарио Амодеи: Я всегда говорил, что, глядя на исходные видео, их вырезают из контекста. Но моя основная позиция — я не знаю, что произойдёт, — только что возможен очень сильный шок.

Я постоянно обсуждаю меры реагирования, например, налог на токены или перестройку кадров. Я скептически отношусь к переобучению, но его нужно включать в макрополитические стратегии.

Я всегда говорил о решениях, но в человеческой психологии есть склонность — вырезать только три секунды о конце света. Поэтому я хочу сказать: это — то, что нужно предвидеть и опасаться, и к чему нужно готовиться позитивно. Не уверен, что всё так, но очень обеспокоен. Мои опасения остаются.

Сейчас мы видим, что ИИ повышает производительность — это — начальная стадия роста. Вспомните индустриальную революцию, я писал об этом в статье «Adolescence of Technology». Автоматизация 90% работы — это хорошо.

Люди получают в 10 раз больше эффективности на оставшихся 10% работы, потому что используют 10-кратный рычаг. Но в конце концов, это приблизится к 100%. Тогда возникает вопрос: что делать дальше?

Что касается долгосрочного развития — я не уверен. Есть разные сценарии адаптации. Например, внутри Anthropic мы видим, что наши инженеры по программированию, несмотря на то, что AI пишет почти весь код, становятся более эффективными.

Но даже при этом эффективность растёт. И мы уже видим признаки того, что для некоторых людей это не повышает эффективность — в таких случаях лучше, чтобы AI делал работу полностью.

Это — одна сторона вопроса. Другая — в каких областях нужно создавать спрос? Например, передовые инженеры по внедрению AI, архитекторы решений — те, кто занимается как разработкой, так и взаимодействием с клиентами. Сейчас спрос на таких специалистов очень высок, потому что клиентов много, и мы быстро растём.

Это — не для всех, кто занимается чистым программированием. Не всё так просто. Это — предвестник больших перемен, и всё будет перестраиваться. Кто выиграет — я не знаю.

Но важно предупредить, потому что именно так мы можем подготовиться. Это — основа наших стратегий и политики, как на уровне человека, так и на глобальном уровне. Мы хотим выработать взвешенные взгляды. Не хотим обещать невозможное. Не хотим делать необоснованные заявления. Должны тщательно анализировать эти вопросы и искать реальные решения.

Эмили Чжан: Ты показываешь график, где видно, какие профессии могут исчезнуть — продажи, финансы и т. д.; какие работы исчезнут, кто их заменит и какие новые появятся?

Дарио Амодеи: Никто точно не знает, потому что экономика — это непредсказуемый процесс, как фондовый рынок. Невозможно заранее понять, какие работы останутся, а какие исчезнут.

Но я скажу так: в любой сфере, где есть начальные офисные работы — будь то банки, финансы или что угодно — ИИ сначала значительно повысит эффективность, а потом сможет полностью заменить человека.

И тогда возникает вопрос: что люди смогут делать дальше? Надо заранее планировать. Мы уже делаем это с корпоративными клиентами. Они выбирают — сокращать расходы или делать больше за те же ресурсы. Мы поощряем их делать больше за те же ресурсы, потому что это — нанимать столько же или больше людей, чтобы заниматься новыми задачами, и получать позитивный эффект.

Сейчас у нас есть хорошая возможность — рынок расширяется. И если мы сможем быстро найти новые области применения, то масштаб перемен будет очень большим. Именно это я и пытаюсь напомнить. Нам нужно решить проблему соответствия.

Эмили Чжан: Представьте, что через пять лет вы проснётесь — каким будет страна? Чем люди там будут заниматься? Если уровень безработицы достигнет таких масштабов, разве это не предвестник революции?

Дарио Амодеи: Это — то, чего мы хотим избежать, мы должны этого избегать.

Я вижу несколько подходов. Всё это — гипотезы, и ничего не гарантировано. Но есть физический мир, есть роботы — и они тоже развиваются, хотя медленнее, чем ИИ. Люди говорят о строительстве дата-центров, но когда управление информацией станет проще — физический мир станет ограничением.

Нам нужно больше людей