Оригінальна назва відео: Внутрішній світ генерального директора Anthropic Даріо Амоді | The Circuit | Розширене інтерв’ю

Оригінальне джерело відео: Bloomberg Original
Переклад: Web3 Небесне місто

Редакторський коментар: Генеральний директор Anthropic Даріо Амоді зараз перебуває у дуже делікатній ситуації. З одного боку, він володіє найпотужнішою моделлю штучного інтелекту у світі, з іншого — через заборону американського уряду її глобальне використання було припинено, і навіть команда, що не є американською, не може її використовувати.

Як закінчиться ця історія, ще невідомо. Кажуть, Даріо продовжує наполегливо працювати, тож слідкуйте за новинами. Але з цієї останньої розмови з Емілі Емілі можна дізнатися, що думає цей суперечливий керівник першої компанії з AI-кодінгу.

Anthropic займає особливе і напружене місце у сучасній силіконовій долині. Як найсильніший конкурент OpenAI, він заснований групою провідних дослідників, які пішли з інших компаній через розбіжності у цінностях.

Коли CEO Даріо Амоді сидить під яскравим світлом і говорить про експоненційне зростання AI, він демонструє рідкісну, хірургічно точну холоднокровність. Це не просто технологічна конкуренція — це глибока боротьба за довіру, безпеку і те, як людство має поводитися, коли стикається з розумовим проривом.

Загальний огляд

Останнє інтерв’ю глибоко досліджує внутрішні переживання Даріо Амоді щодо експоненційного зростання AI, включаючи закулісні подробиці його відходу з OpenAI, вибір бізнес-моделі компанії і вплив AI на ринок праці, кібербезпеку та геополітику.

Генеральний директор докладно пояснює, як Anthropic створює механізми, наприклад, «довгостроковий траст інтересів», щоб стримувати зловживання владою, і при цьому прагне технологічного лідерства, встановлюючи «червоні лінії» і затримуючи випуск високоризикових моделей (наприклад, Mythos), щоб відповідати своїм цінностям безпеки.

Зверніть увагу, що Даріо неодноразово висловлювався з критикою на адресу східних країн, тож кожен може зробити свої висновки.

Ключові ідеї

· Індустрія AI перебуває у стані «стабільного експоненційного зростання», коли кількісні зміни накопичуються до точки, коли виникає якісний прорив.

· Довіра — основа співпраці у сфері AI, і Anthropic закликає надійних учасників об’єднатися для встановлення галузевих стандартів.

· Бізнес-моделі для корпоративного сектору і цінності безпеки AI мають бути більш узгодженими, щоб уникнути проблем, характерних для споживчого ринку, таких як залежність і низька якість контенту.

· Щодо ризиків безробіття через AI, суспільство має передбачити і розробити макроекономічну політику, прагнучи «робити більше за ті ж ресурси» — позитивну суму.

· У військових застосуваннях потрібно дотримуватися принципу «людина у ланцюзі прийняття рішень», суворо обмежуючи масштабний нагляд і автономну зброю.

Ось повне інтерв’ю:

Тиск і досвід експоненційного зростання

Емілі Чанг: Скільки у вас часу на сон?

Даріо Амоді: Я ніколи не був тим, у кого якісний сон. Можу сказати лише, що я навчаюся мистецтву розслаблятися і засинати під час надзвичайного стресу.

Емілі Чанг: Все розвивається дуже швидко. Яке це — бути в центрі всього цього?

Даріо Амоді: Це — відчуття експоненційного зростання. Уявіть, що ви летите космічним кораблем із релятивістською швидкістю від Землі. Спеціальна теорія відносності каже, що коли ви прокидаєтеся після сну, на Землі минуло вже два дні. Тому вам потрібно за один день зробити справи за два дні.

Потім ви знову засинаєте, бо прискорюєтеся, і на Землі минуло вже три дні. Наступного дня — чотири дні. Це приблизно таке відчуття.

Емілі Чанг: Чи часто ви відчуваєте тривогу через те, що можете прокинутися і зіткнутися з чимось несподіваним?

Даріо Амоді: У нас вже достатньо проблем, щоб їх вирішувати, і я, займаючись цим, ще й думаю, як краще підготуватися. Але я вважаю, що нав’язливі страхи або тривоги щодо того, що може трапитися, — це не дуже корисно. Я вивчав історію людей, які стикалися з високим тиском. Вам потрібно навчитися раціонально реагувати і не порівнювати рівень небезпеки.

Цей стан — «я не хвилююся» і «Боже, нам потрібно панікувати сьогодні» — я вважаю ознакою недосконалого прийняття рішень. Дійсно зрілі рішення — це розуміти, що це важливо, і не знецінювати цю проблему.

Насправді, ризики зростають, і нам потрібно діяти раціонально, як хірург під час операції. Або як військовий командир, що керує бойовими діями. Або як будь-хто, хто приймає рішення, що впливають на багато людей — потрібно бути раціональним і розуміти ризики, зберігати спокій.

Тому я вчора сказав своєму синові, що не можу дати йому доступ до мого аккаунту Claude, бо мені потрібні мої токени. У споживчому сегменті з’являється все більше таких застосунків. Спочатку ми хотіли бути компанією для бізнесу, але навіть без великих зусиль споживчий сектор швидко зростає.

Емілі Чанг: Ти зараз у центрі всесвіту AI, як це — відчувати себе так?

Даріо Амоді: Цікаво, що за весь мій кар’єрний шлях, особливо з моменту приєднання до Anthropic, я відчуваю спокійне експоненційне зростання.

Це — досвід стабільного зростання: нічого не відбувається, нічого не відбувається, і раптом — щось дрібне, і раптом — раптовий бум. Це — реальність цього світу. Це — досвід компанії у порівнянні з іншими і з цим світом.

Я довго дивився на цю графіку і сказав собі: ми, ймовірно, станемо найбільшою AI-компанією за доходами і оцінкою приблизно в цей час. І так і сталося. Це — не дивно, бо графік дуже плавний.

Але з іншого боку, коли щось справді трапляється, ви бачите більше деталей і кольорів. І це — справді дивовижно.

Ми завжди пам’ятаємо головні питання: як навчити хорошу модель? Як застосувати її у корисних продуктах? Як забезпечити безпеку? Як керувати соціальними ризиками, що виникають навколо цієї технології? Це — ті самі питання, тільки під мікроскопом.

Розвиток і дух Silicon Valley

Емілі Чанг: Яким був ти у дитинстві, коли виріс у Сан-Франциско? Я знаю, що твій батько був шкіряним майстром, а мати працювала у бібліотеці. Як це вплинуло на тебе?

Даріо Амоді: Тоді навколо відбувалася революція інтернету, але я їй не зацікавлений. Мене цікавили математика, малювання, дослідження космосу. Я захоплювався науковою фантастикою. Загалом, це був мій світ. Мабуть, я був дуже допитливий.

Емілі Чанг: Ти виріс у центрі технологій, і тепер це — центр AI. Що формувало твоє світогляд?

Даріо Амоді: Так, я вважаю, що там існує дух — «не йти за натовпом», цінувати індивідуальність і думати, що «іноді божевільне — це нормально». Це, мабуть, вплинуло на мене.

Там розповідають історії, що в Європі або інших регіонах, де мислення відрізняється, люди сприймають інакше нестандартні ідеї або вважають їх дивними.

Я критикую Кремнієву долину, але в ній є одна хороша риса — вона заохочує ідею: навіть якщо всі експерти проти тебе, ти маєш право йти своїм шляхом, якщо у тебе є послідовна візія і світогляд. Можливо, це — неправильно, але якщо воно працює, то має довгий хвіст і може привести до великих відкриттів.

Емілі Чанг: У 2016 році ти, Daniela, твоя сестра і її чоловік Holden Karnovsky жили разом у спільній квартирі. Про що ви тоді сперечалися?

Даріо Амоді: Це був час запуску проекту Open Philanthropy, Holden був його керівником. Я тоді займався біологією і допомагав їм з дослідженнями у галузі здоров’я та біології в країнах, що розвиваються. Я давав поради щодо перспективних напрямків.

Відхід з OpenAI і розбіжності

Емілі Чанг: Ваша відставка з OpenAI стала легендою у Кремнієвій долині. Що саме трапилося? Крім історій, яка суть? В яких питаннях ви не погоджувалися?

Даріо Амоді: Це просто — коли ти створюєш потужні технології, виникає багато проблем. Anthropic щодня з цим стикається. Ми не знаємо, чи правильні наші рішення.

З питаннями безпеки виникає багато дискусій. У нас були розбіжності, але це не причина для відходу. Тут були різні погляди, і це — нормально.

Коли ти не можеш довіряти людині, коли її цінності і поведінка викликають сумніви, — це ускладнює співпрацю і довіру. В кінці кінців, якщо у вас немає спільної візії і ви не довіряєте один одному, навіщо сперечатися?

Рішення — йти кожен своєю дорогою. Ми прийняли це і будемо дивитися, хто виграє на ринку і у суспільстві. Це — переконливіше будь-яких пліток про те, хто і чому пішов.

Ми створюємо приклад відповідального впровадження технологій. Якщо у когось є заперечення — нехай висловлюють їх аргументами. Це — правильний шлях.

Співпраця у галузі і довіра

Емілі Чанг: На AI-конференції в Індії ти і Sam Altman, здається, відмовилися потиснути один одному руку. Що тоді трапилося?

Даріо Амоді: Це була хаотична організація. Нас поставили в останню чергу, змінили порядок виступів. Потім зробили фото і наказали триматися за руки. Якщо ви були на таких конференціях — я не хочу критикувати Індію — але подібні міжнародні заходи дуже хаотичні.

Емілі Чанг: Але всі інші потиснули руки.

Даріо Амоді: Не знаю, що сказати. Там був Нарендра Моді, і він раптово закликав усіх взятися за руки.

Емілі Чанг: Добре, зрозуміло.

Ось бачите, Sam і Elon один одному звинувачують. Здається, вам не подобається Sam.

Емілі Чанг: Якщо найважливіші розробники технологій не можуть потиснути один одному руку, як ми можемо очікувати співпраці у питаннях ризиків для існування?

Даріо Амоді: Це — те, що я хочу сказати. У команді, що створює цю технологію, є люди з різними рівнями довіри. Я вважаю, що потрібно об’єднувати надійних учасників для боротьби з недобросовісними. Це — необхідно.

Я знаю Demis Hassabis, який створив Gemini — конкурент Claude. Ми знайомі вже 15 років і співпрацювали у багатьох проектах. Ми купуємо обчислювальні ресурси у Google і обмінюємося ідеями щодо безпеки.

Моя думка — деякі учасники більш надійні, ніж інші. І я довіряю тим, хто поза Anthropic. Вони заслуговують довіри. Важливо, щоб надійні учасники об’єдналися і боролися з недобросовісними, щоб всі дотримувалися однакових стандартів.

З досвідом я зрозумів, що не всі роблять правильно самі по собі. Але якщо більшість у галузі дотримується правил, інші змушені йти за ними. Це — позитивний тренд.

Це схоже на те, як Demis і я взаємно надихаємо один одного. Він працює над AlphaFold, а ми — у біології, досліджуємо пояснюваність моделей. Це — не конкуренція, а співпраця.

Кожна компанія робить щось цікаве, і інші теж хочуть спробувати. Це — частина здорової конкуренції. Вони роблять щось корисне, і ми теж. Це — «морквина» у конкуренції. А «палиця» — усвідомлення, що вони роблять правильно.

Ми часто бачимо, що компанії, які роблять щось правильне, намагаються видавати себе за інше, натякаючи на погані наміри. Це — природно, але я вважаю, що саме так ми будуємо довіру і співпрацю у галузі.

Бізнес-модель: корпоративна і цінності

Емілі Чанг: Раніше інші зосереджувалися на цікавих споживчих застосунках. Ви ж зробили ставку на кодінг і корпоративний сектор, і Claude Code, і Claude Co-work — успіхи. Чому ви обрали саме цей шлях? Це — ціннісний вибір чи бізнес-стратегія?

Даріо Амоді: Коли ми створювали Anthropic, найважливішим було наше внутрішнє бажання. Ми хотіли робити все правильно. Але потрібно розуміти, що для фінансування дуже дорогого процесу створення моделей потрібна відповідна бізнес-модель. Чи заважає бізнес цінностям?

Це — питання, яке завжди стоїть. Але я навчився з досвіду роботи у інших компаніях і спостережень: якщо бізнес-модель суперечить цінностям, це — дуже складно. Ви або зраджуєте свої цінності, або вас з’їдає ринок.

Ви опиняєтеся у важкому становищі, і хоча можна знайти вихід, це — дуже складно. Краще обрати бізнес-модель, що узгоджується з цінностями.

Коли ми думали про це, зрозуміли, що світ соціальних мереж і споживчого сегменту, здається, заохочує взаємодію і навіть залежність. Вміст, створений для залучення уваги і реклами, — це логіка максимізації уваги.

Але у корпоративному секторі ми хочемо, щоб ці моделі допомагали людям. Якщо я думаю про позитивні застосунки AI — і їх багато — я нагадую, що позитивна сторона переважає негативну. Більшість корисних застосунків — це бізнес-інструменти.

Ми прагнемо використовувати AI для лікування хвороб, співпрацюючи з біотехнологічними і фармацевтичними компаніями, а також дослідницькими інститутами. Це — бізнес. Ми хочемо зробити енергію дешевшою і ефективнішою — це теж бізнес.

Ми прагнемо покращити освіту, допомогти країнам, що розвиваються, — це теж бізнес. Хоча це — некомерційні ініціативи, але в основі — бізнес-модель.

Ще один фактор — довіра і довгострокові відносини. У корпоративному секторі важливо будувати партнерство, яке триватиме роками, і де обидві сторони дотримуються обіцянок.

Тому ця модель узгоджується з нашими цінностями і ціллю — відповідально і безпечно впроваджувати моделі AI. Це — наш сильний козир.

Звичайно, іноді виникають конфлікти, і потрібно робити важкі вибори. Але їх кількість — менша, ніж у інших сферах.

Конкурентні переваги і «SaaSpocalypse»

Емілі Чанг: Розробники можуть за один день перейти від Claude до GPT або Gemini. Чи можливо зберегти лідерство над довгий час? І скільки потрібно конкурентові, щоб скопіювати ваш продукт?

Даріо Амоді: Головне — якість моделей. Ми зараз — лідери у цій галузі. Хоча є інерція, я ніколи не покладався на неї. Ми не віримо у «залежність від продукту» або «незамінність».

Ви прагнете мати кращу модель, кращий продукт. І наші показники зростання не зупиняються, навпаки — зростають. Це — найважливіше.

Емілі Чанг: Після релізу Claude Co-Work вартість компанії знизилася на 285 мільярдів доларів за ніч, і трейдери назвали це «SaaSpocalypse». Якщо AI так швидко покращується, скільки старих програмних продуктів буде замінено і як швидко?

Даріо Амоді: Це — дуже складне питання. Якщо б можна було точно передбачити, то всі б уже заробили мільйони. Але ніхто не знає напевне. Я можу сказати, що у традиційних компаній є свої «глибокі» переваги. Деякі з них зникнуть, інші залишаться. Швидкість створення софту — безумовно, зменшиться.

Якщо у вас є «бар’єри» — наприклад, унікальні знання або клієнтські зв’язки — вони залишаться. Але якщо ви не зможете швидко адаптуватися, вас обійдуть.

Тому важливо розуміти, що галузь буде зростати, і з’являться нові можливості. Це — нагадування, що потрібно бути гнучким і швидко реагувати.

Емілі Чанг: Уявіть, що через п’ять років ви прокинетеся і побачите, яким став світ. Що там буде? Що робитимуть люди? Якщо рівень безробіття стане високим, чи не почнеться революція?

Даріо Амоді: Це — те, чого ми хочемо уникнути. Ми маємо запобігти цьому.

Є кілька підходів. Це — не гарантія, але, наприклад, фізичний світ і роботи. Люди все ще будуть виробляти щось руками. Важливо, щоб з’являлися нові робочі місця, і щоб їх було достатньо швидко.

Якщо AI зросте у 10 разів, то вже через рік або два з’являться нові сфери застосування. Це — великий виклик, і ми маємо бути готові.

Ми вже бачимо, що багато людей змінюють свою роботу, підвищують продуктивність або створюють нові послуги. Це — процес адаптації.

Але потрібно враховувати, що багато робіт зникне, і потрібно готуватися до цього. Важливо планувати заздалегідь.

Емілі Чанг: Уявіть, що через п’ять років ви прокинетеся і побачите, яким став світ. Що там буде? Що робитимуть люди? Якщо рівень безробіття стане високим, чи не почнеться революція?

Даріо Амоді: Це — те, що ми прагнемо запобігти. Ми маємо уникнути такої ситуації.

Я бачу кілька шляхів. Важливо враховувати фізичний світ і технології. Люди все ще будуть працювати руками, і потрібно створювати нові робочі місця швидко.

Якщо AI зросте у 10 разів, то через рік з’являться нові сфери застосування. Це — виклик, і ми маємо бути готові.

Ми вже бачимо, що багато людей змінюють роботу, підвищують продуктивність або створюють нові послуги. Це — процес адаптації.

Але потрібно враховувати, що багато робіт зникне, і потрібно готуватися до цього. Важливо планувати заздалегідь.

Емілі Чанг: Уявіть, що через п’ять років ви прокинетеся і побачите, яким став світ. Що там буде? Що робитимуть люди? Якщо рівень безробіття стане високим, чи не почнеться революція?

Даріо Амоді: Це — те, що ми прагнемо запобігти. Ми маємо уникнути такої ситуації.

Я бачу кілька шляхів. Важливо враховувати фізичний світ і технології. Люди все ще будуть працювати руками, і потрібно створювати нові робочі місця швидко.

Якщо AI зросте у 10 разів, то через рік з’являться нові сфери застосування. Це — виклик, і ми маємо бути готові.

Ми вже бачимо, що багато людей змінюють роботу, підвищують продуктивність або створюють нові послуги. Це — процес адаптації.

Але потрібно враховувати, що багато робіт зникне, і потрібно готуватися до цього. Важливо планувати заздалегідь.