Интервью с основателем DeepMind: архитектура AGI, состояние Агентов и научные прорывы следующего десятилетия

Оригинальный заголовок видео: Demis Hassabis: Агенты, ИИ общего назначения и следующий крупный научный прорыв

Источник видео: Y Combinator
Перевод текста: Deep潮 TechFlow

Редакционный вводный комментарий

Генеральный директор DeepMind, лауреат Нобелевской премии по химии Demis Hassabis посетил Y Combinator, рассказал о ключевых достижениях на пути к ИИ общего назначения, дал советы предпринимателям о том, как сохранять лидерство, и поделился мыслями о том, где может произойти следующий крупный научный прорыв.

Самым практичным советом для тех, кто занимается глубокими технологиями, является то, что если вы запускаете проект на десятилетие, необходимо учитывать появление ИИ общего назначения в своих планах. Также он раскрыл, что Isomorphic Labs (выделенная из DeepMind компания по разработке AI для фармацевтики) скоро объявит важные новости.

Цитаты и ключевые мысли

Пути и сроки достижения ИИ общего назначения

· «Практически все существующие технологические компоненты, скорее всего, станут частью окончательной архитектуры ИИ общего назначения.»

· «Проблемы с непрерывным обучением, долгосрочным рассуждением, памятью ещё не решены полностью, ИИ общего назначения нужно всё это преодолеть.»

· «Если ваш график по ИИ совпадает с моим — примерно 2030 год, а вы начинаете проект в области глубоких технологий сегодня, то вам нужно учитывать, что ИИ общего назначения может появиться внезапно на полпути.»

Память и окно контекста

· «Окно контекста примерно равно рабочей памяти. У человека рабочая память в среднем около семи элементов, а у нас есть окна контекста на миллионы или десятки миллионов токенов. Но проблема в том, что мы засовываем туда всё подряд, включая неважную и ошибочную информацию, и это довольно грубый подход.»

· «Если обрабатывать поток видео в реальном времени и сохранять все токены, то для одного окна в миллион токенов хватит примерно на 20 минут.»

Недостатки рассуждения

· «Мне нравится играть в шахматы с Gemini. Иногда он осознаёт, что сделал плохой ход, но не может найти лучшего, и в итоге делает его — обходя круги, он всё равно выбирает плохой ход. Но у точной системы рассуждения такого не должно быть.»

· «Он умеет решать задачи уровня золотой медали IMO, а при другом способе вопроса — ошибается в простых математических задачах. Внутреннее саморефлексирование его мышления кажется ещё недоработанным.»

Агент и креативность

· «Чтобы достичь ИИ общего назначения, нужно иметь систему, которая может самостоятельно решать ваши задачи. Агент — это путь, и я считаю, что мы только начинаем.»

· «Я ещё не видел, чтобы кто-то использовал vibe coding для создания топовой 3A-игры, которая бы возглавила чарты. По текущим вложениям это возможно, но пока не случилось. Значит, инструментов или процессов ещё не хватает.»

Дистилляция и малые модели

· «Наше предположение: после выпуска передовой модели Pro через полгода — год, её возможности можно сжать в очень маленькую модель, которая сможет работать на edge-устройствах. Пока мы не достигли теоретического предела информационной плотности.»

Научные открытия и «Тест Эйнштейна»

· «Иногда я называю это «Тестом Эйнштейна»: можно ли обучить систему знаниям 1901 года и заставить её самостоятельно вывести результаты, сделанные Эйнштейном в 1905 году, включая специальную теорию относительности? Если да, то такие системы недалеко от настоящих инноваций.»

· «Решение одной задачи Millennium Prize — уже большое достижение. Но ещё сложнее — предложить новый набор задач Millennium, которые признаны ведущими математиками настолько же глубокими и достойными исследования всю жизнь.»

Советы по глубоким технологиям

· «Стремление к сложным задачам и к простым — по сути, одно и то же, только сложности проявляются по-разному. Жизнь коротка, лучше сосредоточиться на тех вещах, которые никто другой не сделает, если вы их не сделаете.»

Пути реализации ИИ общего назначения

Gary Tan: Вы размышляете о ИИ почти дольше всех. Исходя из текущих парадигм, сколько, по вашему мнению, мы уже обладаем окончательной архитектурой ИИ общего назначения? Что сейчас критически не хватает?

Demis Hassabis: Большое масштабное предварительное обучение, RLHF, цепочки мышления — я уверен, что они станут частью финальной архитектуры ИИ общего назначения. Эти технологии доказали свою ценность уже много раз. Я не могу представить, что через два года мы обнаружим, что это тупик, для меня это невозможно. Но, основываясь на существующих подходах, возможно, ещё не хватает одного-двух ключевых элементов. Продолжительное обучение, долгосрочное рассуждение, память — есть ещё нерешённые вопросы.

ИИ нужно всё решить. Возможно, существующих технологий и небольших инноваций хватит для этого, но, скорее всего, останется один-два критических момента, которые нужно преодолеть. Я считаю, что вероятность наличия таких нерешённых ключевых вопросов примерно 50/50. Поэтому в DeepMind мы работаем по двум направлениям одновременно.

Gary Tan: Я взаимодействую с множеством систем-агентов, и меня удивляет, что в основе всё время одни и те же веса. Поэтому концепция непрерывного обучения очень интересна — ведь сейчас мы используем временные «скотчи», вроде циклов ночных сновидений.

Demis Hassabis: Да, эти циклы сновидений очень крутые. Мы давно задумывались о интеграции сценической памяти. Мой докторский проект — как гиппокамп элегантно интегрирует новые знания в существующую систему. Мозг в этом очень хорош.

Он делает это во время сна, особенно в фазе быстрого сна (REM), когда повторяет важные события для обучения. Наш ранний Atari-бот DQN (глубокая Q-сеть, опубликованная DeepMind в 2013 году, впервые использующая глубокое обучение для достижения уровня человека в Atari) освоил игры благодаря опыту повторного воспроизведения.

Это взято из нейронауки — повторять успешные пути. Тогда это было 2013 год, в AI — древность, но тогда это было критически важно.

Я согласен, что сейчас мы действительно «склеиваем» всё на лету. Всё помещаем в окно контекста. Это кажется неправильным. Теоретически, даже если мы — машины, а не биологические мозги, можно иметь окно на миллионы или миллионы токенов, память — идеальную, но поиск и извлечение всё равно требуют ресурсов. В момент принятия решения найти действительно релевантную информацию — сложно, даже если всё сохранено. Поэтому я считаю, что в области памяти есть огромный потенциал для инноваций.

Gary Tan: Честно говоря, окно в миллион токенов уже гораздо больше, чем я ожидал, и это многофункционально.

Demis Hassabis: Да, для большинства сценариев оно достаточно большое. Но подумайте: окно контекста — это примерно рабочая память. У человека она в среднем около семи элементов, а у нас — миллионы или десятки миллионов токенов. Проблема в том, что мы засовываем туда всё подряд, включая неважную и ошибочную информацию, и это очень грубый подход. И даже если обрабатывать поток видео в реальном времени и сохранять все токены, то для миллиона токенов — примерно 20 минут. Но если вы хотите, чтобы система понимала вашу жизнь за один или два месяца, этого всё равно недостаточно.

Gary Tan: DeepMind традиционно вкладывает много в усиленное обучение и поиск. Насколько эта философия встроена в создание Gemini? Всё ещё недооцениваете силу RL?

Demis Hassabis: Возможно, да. Внимание к RL колеблется. С самого основания DeepMind мы работали над агентами. Всё, что связано с Atari и AlphaGo — по сути, системы RL-агентов, способных самостоятельно достигать целей, принимать решения, планировать. Тогда мы выбирали игры, потому что сложность управляемая, и постепенно усложняли — AlphaGo, потом AlphaStar, мы сделали почти все игры, которые могли.

Следующий шаг — это обобщение этих моделей в универсальные модели мира или языковые модели, а не только игровые. Мы этим занимаемся уже несколько лет. Современные ведущие модели — это по сути переработка тех идей, которые заложены в AlphaGo.

Многие наши ранние работы очень связаны с сегодняшним подходом, мы переосмысливаем старые идеи, масштабируем их, делаем более универсальными, включая методы типа Монте-Карло поиска деревьев и другие подходы RL. Идеи AlphaGo и AlphaZero очень близки к современным базовым моделям, и я считаю, что значительный прогресс в ближайшие годы будет именно за счёт этого.

Дистилляция и малые модели

Gary Tan: Сейчас, чтобы быть умнее, нужны большие модели, но одновременно прогресс в дистилляции позволяет делать малые модели очень быстрыми. Ваши Flash-модели очень мощные, достигают примерно 95% возможностей передовых моделей, при этом стоят в десять раз дешевле. Это так?

Demis Hassabis: Думаю, это один из наших ключевых преимуществ. Сначала нужно создать максимально крупную модель, чтобы получить передовые возможности. Наше главное преимущество — быстрое дистиллирование и сжатие этих возможностей в меньшие модели. Мы сами изобрели метод дистилляции и до сих пор остаёмся в числе лучших в мире. И у нас есть сильное бизнес-стимул для этого. Мы — одна из крупнейших платформ AI-приложений.

Все наши продукты, включая AI Overviews, AI Mode и Gemini, интегрированы с Gemini или связанными технологиями. Это сотни миллионов пользователей, десятки продуктов с миллиардной аудиторией. Они должны работать очень быстро, быть эффективными, с низкими затратами и минимальной задержкой. Это мотивирует нас делать Flash и более мелкие модели максимально эффективными, чтобы в конечном итоге это приносило пользу пользователям.

Gary Tan: Мне интересно, насколько умными могут стать эти маленькие модели. Есть ли предел у дистилляции? Могут ли модели в 50 миллиардов или 400 миллиардов токенов стать так же умными, как самые крупные современные модели?

Demis Hassabis: Не думаю, что мы уже достигли информационного предела, по крайней мере, пока никто не знает, есть ли он. Возможно, однажды мы столкнёмся с потолком по плотности информации, но сейчас предполагаем, что после выпуска передовой модели в течение полугода — года её возможности можно будет сжать в очень маленькую модель, которая сможет работать на edge-устройствах.

Вы можете видеть это и на модели Gemma — наша Gemma 4 показывает очень хорошие результаты при меньшем размере. Всё это — результат масштабных дистилляций и оптимизаций. Поэтому я не вижу теоретического предела, и думаю, что мы очень далеко от него.

Gary Tan: Сейчас наблюдается удивительный феномен — инженеры в разы увеличили объём своей работы за последние полгода. В этом зале есть люди, которые делают в два тысячи раз больше, чем инженер Google в 2000-х. Об этом говорил Steve Yegge.

Demis Hassabis: Это очень вдохновляет. Маленькие модели имеют множество применений. Во-первых, они дешевы и быстры, что тоже важно. В программировании и других задачах можно делать итерации быстрее, особенно при взаимодействии с системами. Быстрый цикл, даже если модель не самая передовая — 90-95% возможностей, — всё равно достаточно, и скорость итераций окупается в разы.

Ещё одна важная задача — запускать эти модели на edge-устройствах, не только ради эффективности, но и ради приватности и безопасности. Представьте устройства, обрабатывающие очень личную информацию, роботы в доме — вы захотите, чтобы на них работала мощная модель локально, а не всё время обращались к облаку. Обработка аудио и видео на месте, данные остаются локально — это, я считаю, финальный сценарий.

Память и рассуждение

Gary Tan: Возвращаясь к памяти и контексту. Сейчас модели — без состояния. Если появится возможность постоянного обучения, как изменится опыт разработчика? Как вы будете управлять такими системами?

Demis Hassabis: Это очень интересный вопрос. Отсутствие постоянного обучения — главный барьер для полноценного агента. Сейчас агенты хорошо справляются с отдельными задачами, их можно соединять для более сложных, но они плохо адаптируются к конкретной среде. Поэтому они пока не могут «запускаться и не заботиться» — им нужно учиться в конкретных сценариях. Для достижения полноценного общего интеллекта это обязательно решить.

Gary Tan: А что с рассуждениями? Где мы сейчас? Модели хорошо строят цепочки мышления, но всё равно ошибаются в простых задачах, которые не должны допускать. Что нужно изменить? Какие ожидания по прогрессу?

Demis Hassabis: В области мышления ещё много пространства для инноваций. То, что мы делаем, — очень грубо и примитивно. Можно улучшать, например, мониторить цепочку мышления и вмешиваться в процессе. Мне кажется, что наши системы и конкуренты иногда зацикливаются на переобдумывании, зацикливаются в циклах.

Я люблю наблюдать за Gemini в игре в шахматы. Все ведущие модели плохо играют в шахматы, что интересно.

Анализировать их мышление очень ценно, потому что шахматы — хорошо изученная область, я быстро понимаю, отклонилась ли модель, насколько её рассуждения эффективны. Иногда она делает ход, понимает, что он плохой, но не может найти лучшего, и в итоге делает его — обходя круги. Точная система рассуждения не должна так ошибаться.

Такая разница всё ещё есть, но исправить её можно за один-два небольших шага. Поэтому мы видим так называемый «зубчатый интеллект»: он умеет решать задачи уровня IMO, а при другом способе вопроса — ошибается в простых математических задачах. В саморефлексии его мышления ещё есть пробелы.

Реальные возможности агента

Gary Tan: Агент — это очень широкая тема. Некоторые считают, что это хайп. Я лично считаю, что мы только начинаем. Каково настоящее состояние дел в DeepMind по возможностям агентов? Насколько оно отличается от публичных заявлений?

Demis Hassabis: Полностью согласен, мы только начинаем. Чтобы достичь ИИ общего назначения, нужна система, которая сможет самостоятельно решать ваши задачи. Это всегда было нашим пониманием. Агент — это путь, и я считаю, что мы только делаем первые шаги.

Все ещё ищем, как лучше интегрировать агента в рабочие процессы, много экспериментов. Многие из присутствующих тоже. Как сделать так, чтобы агент не был просто дополнением, а реально выполнял фундаментальные задачи? Пока мы на стадии экспериментов. Только за последние пару месяцев начали находить действительно ценные сценарии. Технологии уже достаточно развиты, чтобы не было просто демонстрации, а чтобы реально повышать эффективность.

Я часто вижу, как запускают десятки агентов на десятки часов, но пока не ясно, оправдывает ли это вложения.

Ещё не видел, чтобы кто-то использовал vibe coding для создания топовой 3A-игры. Я сам делал небольшие прототипы, многие из присутствующих тоже. За полчаса могу сделать прототип «Theme Park», тогда как в 17 лет на это уходило полгода.

Чувствую, что если потратить целое лето, можно создать что-то действительно невероятное. Но всё равно нужен человеческий талант, душа, вкус. Надо уметь привнести это в любой продукт. Пока ни один ребёнок не создал игру, проданную миллионом копий, хотя при текущих инструментах это вполне реально. Значит, чего-то не хватает — возможно, процессов или инструментов. Ожидаю, что за 6–12 месяцев появятся такие результаты.

Gary Tan: Насколько это будет полностью автоматизировано? Думаю, не сразу. Вероятнее, сначала люди достигнут в 1000 раз большей эффективности, а потом появятся продукты, созданные с помощью этих инструментов, и автоматизация пойдёт дальше.

Demis Hassabis: Именно так, это то, что вы должны сначала увидеть.

Gary Tan: Есть ещё одна причина — некоторые уже делают это, но не хотят раскрывать, насколько агент им помог.

Demis Hassabis: Возможно. Но я хочу поговорить о креативности. Часто вспоминаю AlphaGo, особенно второй матч, 37-й ход. Для меня это был момент, когда я понял, что система может делать что-то по-настоящему новое, и тогда я запустил проекты вроде AlphaFold. Мы начали работать над AlphaFold сразу после возвращения из Сеула, это было десять лет назад. Сейчас я отмечаю десятилетие AlphaGo.

Но просто сделать ход 37-го — недостаточно. Это круто, полезно, но сможет ли эта система изобрести саму игру? Если дать ей описание высокого уровня — «игра, которую можно выучить за пять минут, но овладеть которой невозможно за всю жизнь, она эстетична, и партию можно сыграть за полчаса» — и система вернёт вам ответ «это — го». Современные системы этого сделать не могут. Почему?

Gary Tan: Может, кто-то из присутствующих и сможет.

Demis Hassabis: Если кто-то это сделает, то ответ не в том, что системе чего-то не хватает, а в том, как мы её используем. Возможно, именно так и есть. Может, сегодня системы уже обладают этим потенциалом, нужно только гениальному человеку, чтобы направить их, дать им душу проекта, чтобы он был в полном слиянии с инструментами. Если вы работаете с этими инструментами день и ночь и обладаете глубокой креативностью, то сможете создать что-то невероятное.

Открытый исходный код и мультимодальные модели

Gary Tan: Перейдём к открытым моделям. Недавний запуск Gemma позволяет запускать очень мощные модели локально. Как вы считаете, AI станет собственностью пользователя, а не только облачной технологией? Это изменит доступность инструментов для создания продуктов?

Demis Hassabis: Мы — твёрдые сторонники открытого исходного кода и открытой науки. Например, AlphaFold мы полностью сделали бесплатным. Наши научные публикации продолжают появляться в ведущих журналах. В случае Gemma мы хотим создать модель мирового уровня в аналогичном масштабе. Уже за две с половиной недели после релиза скачано около 40 миллионов раз.

Я считаю важным, чтобы в области открытого кода присутствовали западные технологические стеки. Китайские модели очень хорошие, лидируют в открытом сообществе, но мы считаем, что Gemma в своём масштабе очень конкурентоспособна.

У нас есть ограниченность ресурсов — никто не может одновременно тренировать две полноразмерные передовые модели. Поэтому сейчас мы делаем ставку на: модели для edge-устройств — Android, очки, роботы — лучше делать открытыми, потому что при развертывании на устройстве они становятся уязвимыми, и лучше их полностью открыть. Мы придерживаемся единой стратегии открытости, и это логично.

Gary Tan: Перед показом я продемонстрировал тебе AI-операционную систему, с помощью голоса можно взаимодействовать с Gemini. Это было немного нервно, но всё получилось. Gemini изначально создавался как мультимодальная система. Я использовал много моделей, и взаимодействие через голос, дополненное вызовами инструментов и пониманием контекста, — сейчас это лучшее решение.

Demis Hassabis: Да. Одно из преимуществ Gemini — то, что мы изначально проектировали его как мультимодальную систему. Это усложнило старт, по сравнению с текстовыми моделями, но в долгосрочной перспективе это даст преимущества, и мы уже начинаем их реализовывать.

Например, в области моделирования мира мы создали Genie (генеративную интерактивную модель DeepMind). В робототехнике Gemini Robotics будет базироваться на мультимодальных моделях, и наши преимущества в этой области станут нашим защитным преимуществом. Мы всё больше используем Gemini в Waymo (автопилот компании Alphabet).

Представьте цифрового помощника, который сопровождает вас в реальном мире — на телефоне или очках, он должен понимать окружающую физическую среду. Наши системы в этом очень сильны. Мы продолжим инвестировать в эту область, и я уверен, что наше лидерство в подобных задачах очень велико.

Gary Tan: Скорость рассуждений быстро растёт. Когда рассуждение становится практически бесплатным, что становится возможным? Меняет ли это ваши приоритеты в оптимизации?

Demis Hassabis: Не уверен, что рассуждение станет полностью бесплатным — эффект Джевонса (Jevons’ Paradox), когда повышение эффективности ведёт к росту общего потребления, всё ещё актуален. Думаю, все в итоге используют всю доступную вычислительную мощность.

Можно представить миллионы агентов, работающих вместе, или группу агентов, которые одновременно думают в разных направлениях и объединяют результаты. Мы экспериментируем с этим, все эти подходы требуют ресурсов.

Что касается энергии — если мы решим вопросы управляемого термоядерного синтеза, комнатной сверхпроводимости, лучших аккумуляторов — я думаю, что благодаря материалам мы достигнем нулевых затрат. Но физические ограничения производства чипов и компонентов всё равно останутся, и в ближайшие десятилетия это будет так. Поэтому на стороне рассуждений всё равно будут ограничения по ресурсам, и их нужно использовать максимально эффективно.

Следующий научный прорыв

Gary Tan: Хорошо, что малые модели становятся всё умнее. В зале много основателей в биотехнологиях. AlphaFold 3 уже превосходит белки и расширяется на более широкий спектр биомолекул. Насколько далеко мы от моделирования полноценной клеточной системы? Это совершенно иной уровень сложности?

Demis Hassabis: Progress в Isomorphic Labs очень хороший. AlphaFold — лишь часть процесса поиска лекарств, мы занимаемся смежной биохимией, проектируем молекулы с нужными свойствами, скоро будет важное объявление.

Наша конечная цель — создать полноценную виртуальную клетку, модель, в которую можно вносить изменения, — полноценный симулятор клетки, дающий результаты, близкие к экспериментальным, и обладающий практической ценностью. Можно пропускать множество этапов поиска, генерировать синтетические данные для обучения других моделей, чтобы предсказывать поведение реальных клеток.

Я предполагаю, что до полной виртуальной клетки осталось примерно десять лет. Мы начинаем с ядра клетки, потому что оно относительно автономно. Важный вопрос — можно ли выделить достаточно компактный и самодостаточный фрагмент, чтобы его можно было моделировать, а входы и выходы — аппроксимировать? В этом смысле ядро клетки — хороший кандидат.

Другой вопрос — недостаток данных. Я общался с ведущими учёными, работающими с электронными микроскопами и другими методами визуализации. Если бы можно было не убивая клетки, делать их живыми и получать изображения — это было бы революционно. Тогда можно было бы свести задачу к визуальной, а визуальные модели хорошо развиты.

Но пока нет технологий, позволяющих в наноразмере с высокой точностью снимать живые клетки без их повреждения. Уже есть очень точные статические изображения, но для полноценной визуализации динамики — этого недостаточно.

Есть два подхода: один — аппаратно-вычислительный, другой — создание более умных моделирующих систем, способных имитировать эти динамические системы.

Gary Tan: Не только в биологии. В материаловедении, разработке лекарств, климатическом моделировании, математике — если нужно расставить приоритеты, какие области претерпят самые кардинальные изменения за ближайшие пять лет?

Demis Hassabis: Каждая область очень вдохновляет, и именно поэтому я занимаюсь AI уже более тридцати лет. Я всегда считал, что AI — это конечный инструмент науки, который поможет понять и открыть новые горизонты в науке, медицине и космосе.

Наши миссии — в двух шагах. Первый — решить задачу интеллекта, построить ИИ общего назначения; второй — использовать его для решения всех остальных проблем. Позже мы скорректировали формулировку, потому что возник вопрос: «Вы действительно собираетесь решать все проблемы?»

Это именно то, что мы имеем в виду. Сейчас все начинают понимать, что это означает. В частности, я говорю о решении так называемых «корневых» научных проблем, которые, если их преодолеть, откроют новые ветви открытий. Пример — AlphaFold, который является прототипом наших идей.

Более трёх миллионов исследователей по всему миру используют AlphaFold. Некоторые руководители фармацевтических компаний говорят, что почти все новые лекарства в будущем будут связаны с применением AlphaFold на каком-то этапе. Мы гордимся этим, и это — влияние, которое AI может оказать. Но это только начало.

Я не могу придумать ни одной области науки или техники, в которой AI не мог бы помочь. Те области, что я упомянул, — это «момент AlphaFold», когда результаты уже очень перспективны, но ещё не достигнуты главные вызовы. В ближайшие два года мы увидим много прогресса — в материаловедении, математике и других сферах.

Gary Tan: Это похоже на пророчество Прометея — дарить человечеству новые возможности.

Demis Hassabis: Точно. И, как в мифе, мы должны быть осторожны с тем, как эти возможности используют, и с рисками злоупотреблений.

Опыт успеха

Gary Tan: В зале много тех, кто пытается создать компании, использующие AI в науке. В чём разница между действительно передовыми стартапами и теми, кто просто навешивает API на базовые модели и называет себя «AI for Science»?

Demis Hassabis: Думаю, если бы я сейчас был на вашем месте, смотрел бы на проекты в Y Combinator. Важное — предвидеть развитие AI, что очень сложно. Но я считаю, что есть огромные возможности в сочетании AI с другими глубокими технологиями. Особенно в сложных научных областях, связанных с атомами, — там в обозримом будущем не будет быстрых путей. Эти области не исчезнут после очередного обновления базовой модели. Но если искать устойчивые направления — это то, что я бы рекомендовал.

Я лично люблю глубокие технологии. Настоящие, долгосрочные и ценные вещи — не из лёгких. В 2010 году, когда мы начинали, AI считался нишей, и инвесторы говорили, что это не сработает, а академия — что это провал 90-х.

Но если у вас есть вера в свои идеи — почему это будет иначе в этот раз, что у вас за уникальный бэкграунд, — и вы эксперт в машинном обучении и применениях, или можете собрать такую команду — у вас есть шанс создать что-то очень значимое.

Gary Tan: Это очень важная мысль. Когда что-то получается, кажется очевидным, но до этого все были против.

Demis Hassabis: Конечно, поэтому важно заниматься тем, что действительно вдохновляет. Для меня — AI. Я решил этим заниматься в очень ранние годы, потому что понимал, что это — самое влиятельное дело. И это подтвердилось, хотя, возможно, я и опередил время — может, на 50 лет.

Это также самое интересное, что я знаю. Даже если сегодня мы ещё в гараже, а AI ещё не достигнут, я всё равно буду искать способы продолжать. Может, вернусь в академию, но продолжу.

Gary Tan: AlphaFold — пример удачного выбора направления и правильной ставки. Что делает научную область подходящей для таких прорывов, как AlphaFold? Есть ли какие-то закономерности, например, в целевых функциях?

Demis Hassabis: Обязательно стоит написать об этом. Из опыта AlphaGo и AlphaFold я вынес три ключевых условия.

Первое — проблема должна иметь огромный комбинаторный поиск, чем больше, тем лучше, чтобы ни одна простая стратегия не могла решить её. В случае с го и белками — пространства конфигураций превосходят по объёму атомы во вселенной. Второе — нужно чётко определить целевую функцию, например, минимизация свободной энергии белка или победа в игре, чтобы система могла оптимизировать с помощью градиентных методов. Третье — должно быть достаточно данных или симуляторов, генерирующих большие объёмы синтетических данных.

Если эти условия выполнены, современные методы могут найти «иголку в стоге сена» — нужную молекулу или структуру. В медицине — то же самое: если есть физические законы, позволяющие существование нужного соединения без побочных эффектов, — задача только в том, как его найти эффективно. AlphaFold впервые показал, что такие системы могут искать в огромных пространствах.

Gary Tan: Хотел бы поднять уровень. Мы говорим, что люди используют эти методы для создания AlphaFold, а ещё есть мета-уровень — использование AI для исследования гипотез. Насколько мы близки к тому, чтобы системы могли делать настоящие научные выводы, а не только находить паттерны в данных?

Demis Hassabis: Думаю, очень близко. Мы создаём такие универсальные системы. Есть AI co-scientist, есть алгоритмы типа AlphaEvolve, которые делают шаги дальше базовых моделей. Все ведущие лаборатории исследуют это направление.

Но пока я не видел, чтобы эти системы сделали действительно крупные научные открытия. Но я чувствую, что это скоро произойдёт. И связано это с нашим обсуждением креативности — с прорывами за границами известных моделей. Тогда речь уже не о паттернах, а о новых гипотезах, о выводах, которых раньше не было. Это — не просто моделирование, а аналогичное рассуждение, — и такие системы пока ещё не умеют, или мы не умеем их правильно использовать.

Я часто говорю, что важен не только результат, а возможность предложить действительно интересную гипотезу, а не только подтвердить существующую. Например, доказать гипотезу Римана или решить задачу тысячелетия — это тоже прорыв. Но ещё сложнее — сформулировать новые задачи, которые признаны ведущими математиками настолько же глубокими и ценными для исследования всю жизнь.

Это — уровень, который пока недостижим, и я не уверен, как к нему прийти. Но я верю, что эти системы в конечном итоге смогут это делать, может, чуть не хватает только одного-двух элементов.

Могу предложить тест — так называемый «Тест Эйнштейна»: можно ли обучить систему знаниям 1901 года и заставить её самостоятельно вывести результаты, сделанные Эйнштейном в 1905 году, включая специальную теорию относительности? Думаю, стоит это проверить. Когда это удастся — системы будут очень близки к созданию новых идей.

Предпринимательские советы

Gary Tan: В заключение. В зале много тех, кто хочет создать что-то на уровне вас. Вы — одна из крупнейших исследовательских организаций в области ИИ. Что бы вы хотели знать в 25 лет, что сейчас уже понятно?

Demis Hassabis: Мы уже говорили об этом. Стремление к сложным задачам и к простым — по сути, одно и то же, только сложности проявляются по-разному. Жизнь коротка, и лучше сосредоточиться на тех вещах, которые никто другой не сделает, если вы их не сделаете.

Также я считаю, что в ближайшие годы междисциплинарные комбинации станут ещё более распространены, и AI поможет в этом.

И последнее — зависит от вашего графика по ИИ общего назначения. Мой — около 2030 года. Если вы начинаете проект в области глубоких технологий сегодня, то это десятилетний путь. И вам нужно учитывать, что ИИ общего назначения может появиться в середине. Что это значит? Не обязательно плохо, но нужно планировать. Ваш проект сможет использовать ИИ? Как он будет взаимодействовать с вашим проектом?

Возвращаясь к примеру AlphaFold и универсальных систем, я предполагаю, что Gemini, Claude или подобные системы смогут использовать специализированные системы вроде AlphaFold как инструменты. Я не думаю, что мы будем всё сводить к одному огромному монолиту.

Ссылка на видео

Посмотрите вакансии в律动 BlockBeats

Присоединяйтесь к официальному сообществу律动 BlockBeats:

Telegram подписка: https://t.me/theblockbeats

Telegram группа: https://t.me/BlockBeats_App

Twitter официальный аккаунт: https://twitter.com/BlockBeatsAsia