Основатель Transformer Ноам Шазеер снова покидает Google, присоединяясь к OpenAI

По данным мониторинга Beating, ключевая фигура Google AI и руководитель технологий модели Gemini Noam Shazeer снова покинул Google и официально присоединился к конкуренту OpenAI. В среду OpenAI объявила сотрудникам, что после присоединения Shazeer сосредоточится на поиске совершенно новой архитектуры для больших моделей и будет способствовать развитию архитектуры Transformer.

Shazeer является одним из соавторов фундаментальной статьи Google 2017 года «Attention Is All You Need», в которой была предложена архитектура Transformer, являющаяся основой современных генеративных AI-моделей, таких как ChatGPT, Claude и Gemini. Он присоединился к Google в 2000 году и был одним из первых ключевых инженеров компании. В 2021 году, по соображениям безопасности и бренда, Google отказалась выпустить чат-бота Meena, разработанного им совместно с Daniel De Freitas, и Shazeer решил уйти, основав Character.AI.

В августе 2024 года, чтобы вернуть Shazeer, Google достигла соглашения о лицензировании и приобретении технологий у Character.AI на сумму до 2,7 миллиарда долларов. В качестве основателя, владеющего примерно 30-40% акций Character.AI, Shazeer получил личную прибыль в размере от 750 миллионов до 1 миллиарда долларов. После возвращения в Google он занял должность вице-президента и совместного технического руководителя Gemini, отвечая за предварительное обучение моделей. Однако менее чем через два года после того, как Google вложила крупные средства в его привлечение, Shazeer снова решил уйти.

Присоединение Shazeer — важное достижение для OpenAI в конкуренции за таланты, а также привело к утечке ключевого технического руководителя из команды Gemini Google. В настоящее время большие модели приближаются к пределам вычислительных возможностей архитектуры Transformer. OpenAI привлекла создателя архитектуры Transformer для поиска альтернатив, чтобы занять лидирующие позиции в следующем поколении архитектур больших моделей и противостоять конкуренции со стороны Anthropic и Google.