Исходный заголовок видео: Внутри ума CEO Anthropic Дарьо Амоді | The Circuit | Расширенное интервью

Источник видео: Bloomberg Original
Перевод: Web3 Небесный город

Редакторский комментарий: CEO Anthropic Дарьо Амоді сейчас находится в очень неловком положении. С одной стороны, у него есть модель ИИ номер один в мире, с другой — по ошибке под действием американского правительственного запрета она была отключена по всему миру, и даже внутри команды не все американцы могут ей пользоваться.

Как закончится эта история, пока неизвестно. Говорят, Дарьо продолжает бороться, так что все могут продолжать наблюдать и обсуждать. Но мы можем взглянуть на его мышление, исходя из последнего интервью с Эмили.

Anthropic занимает очень особое и напряжённое место в современной силовой структуре Кремниевой долины. Будучи самым сильным конкурентом OpenAI, он основан группой ведущих исследователей, которые ушли из-за разногласий по ценностям.

Когда CEO Дарьо Амоді сидит под прожекторами и говорит о экспоненциальном росте ИИ, он демонстрирует редкую, хирургическую спокойствие. Это не только соревнование технологий, а глубокая борьба за доверие, безопасность и то, как человечество будет вести себя при столкновении с интеллектуальным взрывом.

Обзор статьи

Последнее интервью подробно рассматривает внутренние переживания Дарьо Амоді в условиях экспоненциального роста ИИ, включая закулисные детали ухода из OpenAI, выбор бизнес-модели компании и влияние ИИ на рынок труда, кибербезопасность и геополитику.

CEO подробно объяснил, как Anthropic балансирует власть через механизмы вроде «доверительных трастов» и одновременно стремится к технологическому лидерству, устанавливая «красные линии» и задерживая выпуск высокорискованных моделей (например, Mythos), чтобы придерживаться своих ценностей безопасности.

Обратите внимание, что Дарьо неодобрительно высказывается о странах Восточной Азии, так что каждый может сделать свои выводы.

Ключевые идеи

· Индустрия ИИ находится в состоянии «стабильного экспоненциального роста», при котором накопление количественных изменений приводит к качественному скачку.

· Доверие — основа сотрудничества в индустрии ИИ. Anthropic выступает за объединение надежных участников для установления отраслевых стандартов.

· Бизнес-модели для корпоративного сектора и ценности безопасности ИИ более совместимы, чем модели для потребительского рынка, избегая проблем с зависимостью и низкокачественным контентом.

· В отношении риска безработицы из-за ИИ общество должно предвидеть и разрабатывать макроэкономические политики, а также искать позитивные сценарии, где ресурсы используются максимально эффективно.

· Военные применения должны строго придерживаться принципа «человек в цепочке решений», избегая масштабного слежения и полностью автономных оружий.

Полное интервью:

Давление экспоненциального роста и ощущения

Эмили Чанг: Сколько у вас времени на сон?

Дарьо Амоді: Я всегда был человеком с не очень хорошим качеством сна. Можно сказать, я учусь искусству расслабляться и засыпать в условиях необычайного стресса.

Эмили Чанг: Всё развивается очень быстро. Что ощущается внутри этого процесса?

Дарьо Амоді: Это ощущение экспоненциального роста. Представьте, что вы летите на космическом корабле со скоростью релятивистских эффектов, удаляясь от Земли. Согласно специальной теории относительности, когда вы просыпаетесь, на Земле прошло два дня. Значит, вам нужно за один день справиться с двумя днями дел.

Потом вы снова засыпаете, потому что продолжаете ускоряться, и на Земле прошло уже три дня. Следующий день — четыре дня. Это примерно так ощущается.

Эмили Чанг: Часто ли вы испытываете тревогу, потому что боитесь, что проснувшись, столкнетесь с чем-то неожиданным?

Дарьо Амоді: У нас уже достаточно много ясных и срочных проблем, и я, занимаясь ими, думаю о том, как подготовиться. Но я считаю, что паранойя или страх перед тем, что проснешься и столкнешься с чем-то — бесполезны. Я изучал истории людей, которые справлялись с подобным давлением. Нужно учиться рационально реагировать и не сравнивать опасности по степени.

Это состояние, когда ты то «не волнуешься», то «Боже, сегодня нужно паниковать», — я считаю, признак незрелых решений. А по-настоящему зрелое решение — понять, что этого нельзя игнорировать, и нельзя расслабляться.

На самом деле, риски растут, и нужно реагировать рационально, как хирург при операции. Или как офицер, руководящий военными действиями. Или как любой человек, принимающий решения, влияющие на многих. Они должны понимать риски, но сохранять базовое спокойствие.

Например, вчера мой сын спросил, можно ли ему использовать мой аккаунт Claude, я сказал — категорически нельзя, мне нужны мои токены. В потребительском сегменте всё больше таких приложений, и мы изначально хотели быть компанией для бизнеса, но даже без особых усилий потребительский сегмент начал быстро расти.

Эмили Чанг: Сейчас вы в центре ИИ-Вселенной, как это ощущается?

Дарьо Амоді: Интересно, что за всё время карьеры, особенно после присоединения к Anthropic, я ощущаю стабильный экспоненциальный рост.

Это ощущение — ничего не происходит, ничего не происходит, ничего не происходит, и вдруг — всё взрывается. Так ощущается этот мир. Так ощущается масштаб компании по сравнению с другими и с миром в целом.

Я долго смотрел на график и говорил себе: примерно в этот момент мы станем самой доходной и самой ценимой компанией в области ИИ. И так и случилось. Всё произошло. Поэтому, в некотором смысле, я не удивлён, потому что кривая на графике очень плавная.

Но с другой стороны, когда всё реально происходит, ты видишь больше деталей и красок. И это, безусловно, удивительно.

Мы постоянно задаёмся вопросами: как тренировать хорошие модели? Как внедрять их в качественные продукты? Как обеспечить безопасность? Как управлять социальными рисками, возникающими вокруг этой технологии, помогая людям? Всё это одни и те же вопросы, только в более масштабной перспективе.

Фон и дух Кремниевой долины

Эмили Чанг: Каким был ваш детский возраст в Сан-Франциско? Я знаю, что ваш отец был кожевником, а мать работала в библиотеке. Как это повлияло на вас?

Дарьо Амоді: Тогда вокруг происходила интернет-революция, но мне было всё равно. Я интересовался математикой, рисованием, исследованием космоса. Мне нравились научная фантастика. В целом, я был очень любопытен к миру. Думаю, у меня было сильное желание понять этот мир.

Эмили Чанг: Вы выросли в центре технологий, а сейчас это центр ИИ. Что формировало ваше мировоззрение в этом месте, в этом городе?

Дарьо Амоді: Есть. Я считаю, что в этом месте существует дух — «не идти по течению», ценить индивидуальность и считать, что «немного безумия — нормально». Это, вероятно, повлияло на меня очень сильно.

Вы слышали истории, что в некоторых европейских странах, и даже в других регионах этой страны, мышление по-другому часто подавляется или считается странным, или у людей есть безумные идеи.

Я критикую Кремниевую долину, но считаю, что в ней есть одна хорошая черта — она поощряет идею: даже если все эксперты против тебя, всё равно стоит идти к своей цели, если у тебя есть последовательное видение и мировоззрение. Может, это и не сработает, но если сработает, то даст длинный хвост — в некоторых областях можно углубиться и найти там огромную золотую жилу. Это очень важный дух.

Эмили Чанг: В 2016 году ты, Daniela, твоя сестра и её муж Holden Karnovsky жили вместе в одной квартире. О чём вы спорили тогда?

Дарьо Амоді: Тогда как раз стартовал проект Open Philanthropy, Holden был его руководителем. Я тогда был биологом. Помогал им с вопросами здравоохранения в развивающихся странах и биологических исследований. Давал советы по перспективным направлениям, например, какие области перспективны, а какие — нет.

Разногласия при уходе из OpenAI

Эмили Чанг: Решение покинуть OpenAI стало легендой Кремниевой долины. Что там произошло? Без всяких нарративов, в чем суть разногласий?

Дарьо Амоді: Послушайте, я скажу очень просто. Когда вы создаёте мощные технологии, возникают много сложных вопросов, и Anthropic сталкивается с ними каждый день. Мы не знаем, правильны ли наши решения.

По вопросам безопасности есть много разумных споров. У нас были разногласия, но это не причина уходить. Люди здесь имели разногласия со мной, и между ними тоже есть разногласия.

Но когда ты не можешь доверять кому-то, когда кажется, что их ценности не совпадают с заявленными, когда ты видишь неискренность или неприятные модели поведения, — это очень усложняет работу и доверие к компании. В конце концов, если у вас нет общего видения и доверия, зачем спорить?

Решение — идти разными путями. Пусть каждый занимается своим делом. Я полностью принимаю это: мы делаем по-своему, они — по-своему. Посмотрим, кто выиграет на рынке, кто выиграет в общественном мнении. Я считаю, что эти факты важнее, чем спекуляции о причинах ухода или драматические версии.

Нам важно помнить, что мы показываем пример ответственного внедрения технологий. Если у них есть возражения, пусть выскажут аргументы. Я считаю, что в этом вопросе всё ясно.

Сотрудничество и восстановление доверия

Эмили Чанг: На AI-конгрессе в Индии был момент, когда вы и Сэм Альтман, кажется, отказались пожать друг другу руки на сцене. Что там произошло?

Дарьо Амоді: Тогда всё было очень хаотично. Конференция была организована ужасно. Мы вышли на сцену в последнюю минуту, их порядок сменился, и нам пришлось фотографироваться, держась за руки. Если вы участвовали в подобных конференциях — я не хочу никого обидеть — но организация международных саммитов с участием глав государств — очень хаотична.

Эмили Чанг: Но все остальные пожали друг другу руки. Ну пожалуйста.

Дарьо Амоді: Послушайте, я не знаю, как вам объяснить, но на сцену вышел Нарендра Моди и вдруг попросил всех взять за руки.

Эмили Чанг: Ладно, ладно.

Видите, Сэм и Илон друг на друга жалуются. Похоже, вам не очень нравится Сэм.

Эмили Чанг: Если самые важные разработчики технологий не могут пожать друг другу руки на сцене, как мы можем надеяться на сотрудничество по вопросам рисков выживания?

Дарьо Амоді: Вот что я хочу сказать. В команде, создающей эти технологии, есть люди с очень разными уровнями доверия и компетентности. Я считаю, что это означает, что разные участники считают, что друг другу нельзя доверять. Я не считаю, что это правильно.

Я знаю Demis Hassabis, создателя модели Gemini, конкурирующей с Claude. Я знаю их уже 15 лет. Мы вместе решали много вопросов. Мы покупали у Google вычислительные ресурсы. Мы регулярно обсуждаем безопасность.

По моему мнению, сначала некоторые участники заслуживают большего доверия, чем другие. И я доверяю некоторым участникам вне Anthropic. Я считаю, что их стоит объединить, чтобы противостоять недобросовестным. Это заставит всех соблюдать одинаковые стандарты.

Из опыта я понял, что некоторые люди не всегда делают правильные вещи. Но если большинство участников отрасли поступают правильно, остальные вынуждены идти за ними. Это позитивный эффект — стимулировать других.

Это похоже на то, как Demis и я мотивируем друг друга. Он занимается AlphaFold, мы тоже делаем что-то в биологии, исследуем объяснимость моделей. Они начали исследования в области объяснимости. Это даже не конкуренция.

Это потому, что каждая компания занимается чем-то очень крутым. Другие компании думают: «Это круто». Мы тоже хотим попробовать, сделать что-то новое. Это одна из сторон «морковки» в конкуренции. А есть и «кнут» — скрытая угроза: если кто-то не делает правильно, это выглядит плохо.

Часто мы видим, как компании, делая вроде бы правильные вещи, пытаются казаться, что делают что-то другое, намекают на злой умысел — это предсказуемо. Но я считаю, так мы можем объединить отрасль и стимулировать сотрудничество.

Бизнес-модель: корпоративные ценности и ценностное соответствие

Эмили Чанг: Ранее другие сосредотачивались на интересных, ярких потребительских приложениях. А вы сделали ставку на кодирование и корпоративный сектор, и Claude Code стал очень успешным, а Claude Co-work тоже. Почему вы сделали такой выбор? Это было основано на ценностях или на бизнес-стратегии?

Дарьо Амоді: Когда мы создавали Anthropic, самое важное — это наши внутренние желания. Мы хотели делать всё правильно. Но нужно честно спросить себя: чтобы финансировать очень дорогой процесс создания моделей, нужна бизнес-модель. Может ли бизнес-модель мешать реализации ценностей?

Этот вопрос всегда актуален. Но из опыта работы в других компаниях я понял, что если выбранная бизнес-модель противоречит ценностям, это очень сложно. Можно отказаться от своих принципов или быть вытесненным.

Вы попадаете в ситуацию, когда приходится выбирать между двумя плохими вариантами; есть обходные пути, но это очень сложно. Лучше выбрать бизнес-модель, которая совместима с ценностями.

Когда мы думали об этом, мы пришли к выводу, что, например, в соцсетях и потребительском секторе всё кажется так, будто поощряется взаимодействие и даже зависимость. Контент, создаваемый с помощью ИИ, — это зачастую мусор, созданный для максимизации времени внимания, потому что за этим стоит реклама.

Но в корпоративном секторе всё иначе. Мы хотим, чтобы модели помогали людям. Если я думаю о позитивных применениях ИИ, я часто напоминаю о негативных. Но в целом мы считаем, что позитив всё же превзойдёт негатив. Многие позитивные применения — это именно бизнес-приложения.

Мы хотим использовать ИИ для лечения болезней, которые раньше было невозможно вылечить, сотрудничая с биотехнологическими и фармацевтическими компаниями, а также с академическими институтами. Всё это — бизнес. Мы хотим сделать энергию дешевле и эффективнее — тоже бизнес.

Также мы хотим использовать ИИ для образования. Большая часть этого — корпоративные приложения. Мы хотим решать проблемы здравоохранения и развития в странах с низким уровнем дохода. Хотя это некоммерческие организации, по сути, это бизнес. Мы хотим стимулировать экономический рост. И это тоже бизнес.

Кроме того, есть ещё один фактор — доверие и долгосрочные отношения. В потребительском секторе часто присутствует эффект «развлекательности», а в бизнесе важна долгосрочная кооперация: работать с компанией много лет, держать слово, доверять друг другу.

Поэтому это очень хорошо сочетается с нашим желанием ответственно и безопасно внедрять модели. Я считаю, что наличие бизнес-модели, которая полностью соответствует нашим ценностям, очень выгодно.

Конечно, иногда возникают конфликты, и иногда приходится делать трудный выбор. Но я считаю, что таких случаев гораздо меньше, чем в других сферах.

Конкурентные преимущества и «конец SaaS»

Эмили Чанг: Разработчики могут за один день переключиться с Claude на GPT или Gemini. Может ли индустрия действительно сохранять лидерство на долгий срок? И сколько потребуется конкурентам, чтобы скопировать ваши достижения?

Дарьо Амоді: Качество моделей — самое важное. Например, сейчас мы лидируем по качеству. Есть инерция, но я никогда не полагался на неё. Мы никогда не думали, что высокая «залипательность» продукта и лояльность пользователей — это стратегия.

Я считаю, что нужно иметь более качественную модель. Хотите лучше продукт. И рост у нас не показывает признаков замедления, а, наоборот, ускоряется, по крайней мере, на момент записи этого интервью. Это самое важное.

Эмили Чанг: После релиза Claude Co-Work рыночная капитализация за ночь исчезла на 285 миллиардов долларов, и трейдеры назвали это концом SaaS (SaaSpocalypse). Если ИИ продолжит так быстро развиваться, сколько традиционное программное обеспечение будет вытеснено, и как быстро?

Дарьо Амоді: Это очень сложный вопрос, и если бы можно было предсказать всё идеально, то все давно бы уже заработали миллионы. Но я скажу, что у всех традиционных софтверных компаний есть свои преимущества. Некоторые преимущества исчезнут, а некоторые останутся. Способность быстро писать софт — точно исчезнет. Если ваше преимущество — «мы пишем сложное программное обеспечение, которое никто не умеет», — удачи вам. Вы не сможете его защитить.

Но у людей есть клиентские отношения, есть профессиональные знания в области, есть уникальный опыт. Мой совет — не зазнаваться. Не игнорировать это. Запишите все свои преимущества и ясно поймите, какие исчезнут, а какие станут ещё важнее, потому что они — ограничивающие факторы. И могут появиться новые преимущества.

Я считаю, что те, кто умеет гибко реагировать, использует существующие преимущества и ищет новые, — у них всё получится. А те, кто считает, что прошлое всегда будет работать, — не ждите хороших дней. Вот мой совет.

И, в конце концов, я предполагаю — хотя это зависит от того, что считать SaaS и что — нет — — что рынок программного обеспечения станет больше, а не меньше, несмотря на появление крупных проигравших.

Эмили Чанг: Объясните, пожалуйста.

Дарьо Амоді: Я считаю, что размер рынка растёт. Например, с появлением ИИ этот рынок становится ещё больше. Старые компании могут уменьшиться в стоимости. Некоторые могут даже исчезнуть, если не смогут адаптироваться.

Но при очень быстром росте, если рост ИИ увеличится в 10 раз, то существующие отрасли могут вырасти всего в 1,5 раза — потому что весь рынок растёт, а не только передовые модели. Так что это вполне возможно.

Это не значит, что не появятся крупные проигравшие. Те, кто не адаптируется, не видит трендов и не понимает своих преимуществ, — столкнутся с очень серьёзными проблемами.

Объём вычислительных ресурсов, финансирование и партнерство

Эмили Чанг: Ваши крупнейшие сторонники — Amazon, Google, Microsoft и NVIDIA. Эти компании — и партнеры, и конкуренты. У вас есть крупные бизнес-цели, связанные с финансированием. Кто в итоге управляет ситуацией?

Дарьо Амоді: Мы действительно говорили прямо и откровенно. Я всегда выступал за контроль экспорта чипов в Китай. Я считаю, что если Китай опередит в ИИ, это будет очень плохо для США и мира. Некоторые производители чипов не согласны, но я выражаю свою позицию.

Даже после подписания новых соглашений я продолжаю говорить об этом. Они знают, что мы с ними сотрудничаем. Мы хорошие партнеры. Мы можем работать вместе. Я уверен, что они не хотят, чтобы я молчал, но я говорю то, что считаю правильным.

Что делать? В конце концов, они придут к согласию. Они получают выгоду от сделок так же, как и мы. Мы взрослые люди. Можем сотрудничать в одних вопросах и расходиться в других.

Эмили Чанг: Bloomberg сообщил, что ваша оценка превышает OpenAI. Это стартап, которому всего пять лет, а его оценка почти триллион долларов. Как вы это воспринимаете? И почему вам нужны такие деньги, если у вас более дисциплинированные ресурсы и более быстрый путь к прибыли?

Дарьо Амоді: Расширение вычислительных мощностей происходит очень быстро, и бизнес кажется перспективным, но через год объём ресурсов может увеличиться в 3-4 раза — я не даю точных цифр, но рост вычислительных ресурсов очень быстрый.

У нас есть все основания полагать, что доходы достигнут и превзойдут эти масштабы. А привлечение инвестиций — это способ подготовиться к этим неопределённостям.

Это полностью рациональный шаг. Это очень мало разбавляет долю, и с точки зрения логики — это не противоречит бизнесу. Наоборот, это сочетается с нашим развитием.

Эмили Чанг: Есть сообщения о перегрузке серверов, проблемах с надёжностью и о том, что токены закончились. Вы говорили, что другие компании вкладываются в инфраструктуру. У вас есть всё, что нужно, или вы просто торопитесь?

Дарьо Амоді: Что касается вычислительных ресурсов, есть так называемая «маркетинговая мощность». Мой взгляд — со временем, даже за несколько месяцев, мы можем получить много ресурсов. И важно, что я не считаю, что мы покупаем слишком мало.

Планируем ежегодно увеличивать ресурсы в 10 раз.

Это наш план. Но сейчас ситуация иная. В первом квартале 2026 года наш квартальный рост превысил 3 раза — это только квартальный показатель, а не годовой. Если внутри квартала рост в 3 раза, то по формуле, за год это — примерно 80-кратный рост.

Мы не ожидали, что рост достигнет 80 раз в год. Планировать с такой целью — нереально, потому что, если в итоге получится только 10-кратный рост, то это — потеря 8 раз. Поэтому мы находимся в стадии взрыва вычислительных мощностей. Это не будет продолжаться вечно.

Если это продолжится, к концу года у нас будет доход, недостижимый для любой другой компании. Я не думаю, что это произойдёт. Это — временное явление, и оно не может длиться вечно.

Но вы можете пережить такой короткий период, когда кажется, что рост превышает все ожидания. Мы уже видели соглашения с Google и Amazon по ресурсам. И можем сделать ещё больше.

Рынок движется. Если вы умеете эффективно использовать ресурсы и есть спрос, вы можете получить всё, что нужно за пару месяцев. Это — вопрос времени.

Лидерство и корпоративная культура

Эмили Чанг: Каково это — быть лучше вашего конкурента?

Дарьо Амоді: Послушайте, у нас ещё много сложных задач. Мы придерживаемся идеи «гонки к вершине», чтобы подтолкнуть другие компании идти за нами. И мы видим, что у нас это получается. Иногда они даже не признают этого.

Иногда они критикуют нас и одновременно подражают. Это очень ценно.

Я считаю, что ценность лидирующей позиции — не в том, чтобы победить конкурента ради конкуренции, а в том, чтобы вести всю экосистему к развитию. Мы хотим делать это больше.

Эмили Чанг: Но, надо признать, победа — это приятное ощущение.

Дарьо Амоді: Посмотрите, мы всегда стремимся к успеху, не так ли? Мы стараемся, и я не считаю, что нужно останавливать развитие технологий или бояться их. Мы — свободная компания, и в этом нет ничего плохого. Нам нужно лишь снизить риски моделей, и балансировать между развитием и безопасностью.

Эмили Чанг: Тогда, за всё время существования Anthropic, вы были в невыгодной позиции. Мне кажется, когда у тебя ничего нет, легче занимать моральную позицию. Как трудно сохранять свои принципы при таком масштабе?

Дарьо Амоді: Я много думал, почему так происходит.

С ростом компании я постоянно держу ухо востро. На каждом этапе появляются новые вызовы. Компания может потерять свою уникальность. В бизнесе или в ценностях.

Я за этим слежу, потому что считаю, что они — синергия.

На самом деле, я считаю, что наша способность создавать отличные модели — это ключ к тому, чтобы реализовать наши ценности. С ростом компании появляются ловушки. Есть много способов ошибиться, и это не потому, что мои ценности или ценности основателей изменились, а потому, что структура компании меняется очень быстро.

Поэтому я иногда целиком сосредоточен на культуре Anthropic и том, как её сохранить. Когда рост очень быстрый, нанимаешь много из крупных технологических компаний.

Если не объяснить им, как работает Anthropic, они просто повторят то, что знают — то, что делали раньше.

Это постоянная борьба и вызов.

Это как, я и Daniela, наверное, самое важное — понять, как сохранить это. Потому что в долгосрочной перспективе это — наш главный актив.

Эффективность исследований и научный прогресс

Эмили Чанг: Ваши итерации продуктов происходят очень быстро. Вы выпускаете много продуктов, и это впечатляет. Как вам это удаётся?

Дарьо Амоді: Я скажу два фактора. Первый — мы единая команда. У нас единая корпоративная культура. Я считаю, что, несмотря на рост, мы сохраняем очень высокую эффективность. Все работают в одном направлении, что говорит о единстве культуры и организации. Это — самое важное.

Второй фактор — это сама Claude. Мы используем Claude для помощи: в разработке моделей, повышении их эффективности и быстром создании продуктов. Для этого нужно разрабатывать новые практики. Мы ещё новички в этом, но уже видим значительный ускоряющий эффект, и он становится всё более надёжным. Вот два ключевых фактора.

Эмили Чанг: Можете рассказать о самом безумном, что делали ИИ?

Дарьо Амоді: Самое безумное — в области биологии и медицины. Я видел много случаев, в том числе и в случае Daniela, когда Claude диагностировал медицинские проблемы, которые пропустили ведущие врачи. В области биологии модели начинают показывать потрясающие результаты в дизайне лекарств, вычислительной химии и других задачах. Как бывший биолог, я поражаюсь, насколько это сложно.

Чтобы решить эти задачи, нужно много профессиональной подготовки. ИИ в этом становится всё лучше. Это — одна из областей, где мы можем получить огромную пользу. Это — позитив, и он очень значителен. Жизнь станет лучше, качество человеческого опыта — выше.

Эмили Чанг: Век научных открытий.

Дарьо Амоді: Век научных достижений и улучшений человеческого опыта. Например, 1900 год. Вспомните все проблемы того времени, причины преждевременной смерти, страдания, и всё, что мы сегодня уже не сталкиваемся.

И представьте следующий век. Я искренне верю, что за этот век наука и медицина достигнут таких высот, что мы преодолеем все текущие трудности — я в это верю. Всё больше становлюсь оптимистом. Мир станет гораздо лучше.

Помощь в писательстве, мышлении и ИИ

Эмили Чанг: Ты очень любишь писать. Ты известен своими статьями. Ты используешь Claude для помощи в написании?

Дарьо Амоді: Да, я использую. Пока я не позволяю полностью полагаться на Claude, потому что у меня есть свой стиль, и я к нему очень придирчив. Но я использую его для мозгового штурма, структурирования идей или поиска материалов для вдохновения.

Это — помощь, а не замена. Я не уверен, когда именно он научится писать лучше меня, но я уверен, что этот день обязательно наступит.

Эмили Чанг: Я тоже люблю писать. Писательство помогает структурировать мысли. В нём много критического мышления. Если мы поручим это Claude, потеряем ли мы эту способность?

Дарьо Амоді: Я немного опасаюсь этого, и именно поэтому я сам пишу. Это важно для меня и для внешних читателей. Но и для меня важно — писать самому, чтобы понять, что делать дальше, и чтобы у меня был общий ориентир с другими.

Я считаю, что мы всё ещё ищем способы использовать ИИ так, чтобы сохранить эти преимущества. Например, я использую Claude для исследований и для структурирования своих идей.

Если полностью полагаться на него — например, писать статьи о рисках ИИ — это, во-первых, не даст мне моих личных взглядов, а во-вторых, я потеряю преимущества писательства. Но по мере улучшения моделей, я думаю, найдутся способы более прямо использовать их в процессе написания, сохраняя эти преимущества. Это — деликатный процесс, и мы должны экспериментировать.

Я считаю, что может появиться очень необычное сочетание: высокий рост ВВП и высокий уровень безработицы, или по крайней мере — недостаток рабочих мест, низкая оплата и серьёзное неравенство.

Риск безработицы, производительность и макрополитика

Эмили Чанг: Ты очень откровенен по поводу безработицы. ИИ может за 1–5 лет уничтожить половину начальных офисных работ. Это было в прошлом году. Скорость развития ИИ очень велика. Сейчас — это всё ещё 50% или уже больше?

Дарьо Амоді: Я всегда говорил, что, если посмотреть исходные видео, то их вырежут так, чтобы вырвать из контекста три секунды. Но я всегда говорил, что я не знаю, что произойдет, — только что это может привести к сильным потрясениям.

Я также говорил о возможных мерах — налогах на токены, сотрудничестве с бизнесом по перераспределению кадров. Я скептически отношусь к программам переподготовки, но их нужно учитывать в макрополитике.

Я всегда говорил о решениях. Но в человеческой психологии есть склонность — вырезать только эти три секунды о конце света. Поэтому я хочу сказать, что это — то, что нужно предвидеть и к чему нужно готовиться. Не обязательно — это конец света, но нужно серьёзно к этому относиться. И я всё ещё очень обеспокоен этим, уровень тревоги — такой же.

Сейчас мы видим, что ИИ повышает производительность людей, — это — начальная стадия роста. Если вспомнить индустриальную революцию, я писал об этом в статье «Подростковый возраст технологий». Автоматизация 90% работы — это хорошо.

Люди увеличивают эффективность оставшихся 10% в 10 раз, потому что получают в 10 раз больше рычагов. Но в конечном итоге это приблизится к 100%. Тогда возникнут новые задачи, и их нужно будет найти.

Что касается долгосрочного развития, я пока не уверен. Но я считаю, что есть разные сценарии адаптации. Например, внутри Anthropic мы сейчас переживаем такую трансформацию: хотя ИИ пишет почти весь код, он делает работу более эффективной для инженеров.

Но даже при этом эффективность растёт. И мы уже видим, что для некоторых людей это не повышает эффективность — в таких случаях лучше, чтобы ИИ делал работу полностью.

Это — одна сторона вопроса. А другая — в каких областях нужно создавать спрос? Мы говорим о передовых инженерах по внедрению ИИ, архитекторах решений, которые сочетают техническое развитие и работу с клиентами. Сейчас спрос на таких специалистов очень высок, потому что клиентов много, и мы быстро растём.

Это подходит всем, кто занимается чистым программированием? Не совсем. Это — не точное соответствие. Это показывает, что в будущем будет много революций, и всё будет перестраиваться. Кто выиграет? Не знаю.

Но важно предупреждать, потому что именно так мы можем подготовиться. Это — основа наших политик, как на уровне человека, так и на глобальном уровне. Мы хотим предложить продуманные идеи. Не хотим давать иллюзии, что всё будет легко и быстро. Не хотим делать необоснованные обещания. Нам нужно тщательно думать и искать реальные решения.

Эмили Чанг: Ты показываешь график, где видно, какие рабочие места могут исчезнуть — продажи, финансы и так далее; какие профессии исчезнут, кто будет заменён, и какие новые появятся?

Дарьо Амоді: На самом деле никто не знает точно, потому что экономика — это непредсказуемый процесс, как фондовый рынок, он децентрализован и трудно предсказуем. Нельзя заранее сказать, какие работы останутся, а какие — исчезнут.

Но я скажу так: в любой сфере, где есть начальные офисные работы — будь то банки, финансы или что-то ещё — ИИ сначала значительно повысит эффективность, а потом сможет полностью заменить человека.

И тогда возникает вопрос: что люди смогут делать дальше? Я считаю, что нужно заранее планировать. Мы уже делаем это с корпоративными клиентами. Они стоят перед выбором: сокращать