Недавно я видел интервью основателя DeepMind Hassabis на YC, некоторые его взгляды очень поразили. Он сказал, что если вы запускаете долгосрочный проект в области глубоких технологий на десять лет, необходимо учитывать появление AGI в процессе планирования. Это не преувеличение, его личная временная шкала — примерно 2030 год.

Говоря о технических деталях, становится ясно, почему AGI еще не достигнута. Технологии такие как масштабное предварительное обучение, RLHF, цепочки мышления уже подтверждены и он уверен, что они станут частью окончательной архитектуры AGI. Но некоторые аспекты — постоянное обучение, долгосрочное рассуждение, память — еще не решены полностью. Сейчас большинство решений — это просто засовывать всё в контекстное окно, что довольно грубо. Он приводит пример: окно из миллиона токенов кажется большим, но для обработки потокового видео оно хватает всего на 20 минут данных. Чтобы система могла понять вашу жизнь за один или два месяца, этого недостаточно.

Проблема рассуждений еще интереснее. Он часто наблюдает за игрой Gemini в шахматы и замечает, что иногда оно осознает, что ход плохой, но не может найти лучший вариант, и в итоге делает плохой ход. Точные системы рассуждений не должны так поступать. Поэтому и появляется так называемая «зубчатая» или «зубчатая» форма интеллекта — способна решать задачи уровня IMO, но при этом может запутаться в начальной школе по математике.

Он признается, что агентство — это только начало. Чтобы достичь AGI, нужен активный системный агент, который сам решает проблемы — это путь агента. Но сейчас это только экспериментальная стадия, в большинстве случаев это скорее дополнение. Он упоминает, что пока никто не создал AAA-игру, которая бы поднялась на вершину рейтингов в магазине приложений с помощью AI-инструментов. Теоретически это возможно при текущих вычислительных мощностях и инструментах, но пока этого не произошло. Это говорит о том, что в процессах или инструментах еще есть пробелы. Он ожидает, что в ближайшие 6–12 месяцев такие результаты появятся.

Интересно, что небольшие модели меняют правила игры. Их модель Flash достигает примерно 95% эффективности передовых моделей, при этом стоит в десять раз дешевле. Метод дистилляции — это изобретение DeepMind, и он остается одним из лучших в мире. У них есть сильное желание оптимизировать — Google интегрирует Gemini во все свои продукты, охватывая миллиарды пользователей. Это означает, что модели должны работать очень быстро, быть очень эффективными и очень дешевыми. Он не считает, что достигнут предел информационной теории: после выпуска передовой модели ее возможности за полгода — год могут быть сжаты и запущены на устройствах с ограниченными ресурсами.

Что касается научных приложений, прогресс в Isomorphic Labs очень хорош, AlphaFold — лишь часть процесса поиска лекарств. Их конечная цель — создать полноценную виртуальную клетку, которая сможет подвергаться манипуляциям и моделировать все функции. По их оценкам, до полной виртуальной клетки еще около десяти лет, сейчас начинают с виртуального ядра клетки.

Самый практичный совет для предпринимателей — сложности сложных задач и простых задач по уровню трудности примерно одинаковы, только по разным причинам. Жизнь ограничена, лучше сосредоточиться на тех вещах, которые никто другой не сделает, если вы не сделаете это. Также в ближайшие годы междисциплинарные комбинации станут более распространенными, AI сделает междисциплинарность проще. Но самое важное — серьезно относиться к графику развития AGI, представлять, каким будет этот мир, и создавать что-то, что останется полезным, когда этот мир наступит.