ME AI Повідомлення, згідно з моніторингом Beating, колишній керівник тренування великих моделей ByteDance Лінь Гайбін офіційно повернувся до команди Seed, продовжуючи керувати розробкою базової системи розподіленого тренування. Лінь Гайбін пішов у відставку у грудні минулого року і приєднався до компанії SSI (Safe Superintelligence), суперінтелектуальної компанії, заснованої колишнім головним ученим OpenAI Іллею Сутскевером, менш ніж за півроку до повернення. Лінь Гайбін, магістр Карнегі Меллонського університету (CMU), під керівництвом відомого експерта з баз даних Енді Павло, є експертом з ШІ, який раніше керував відкритим фреймворком для навчання з підкріпленням veRL та розподіленою системою MegaScale для масштабів у вартість вартість. Швидке повернення Лінь Гайбіна відображає зміни у потоках топ-талантів у галузі великих моделей між Китаєм і США. Перед приєднанням до команди AML (прикладного машинного навчання) ByteDance у 2020 році, Лінь Гайбін працював у Amazon AWS над розробкою фреймворку MXNet. Під час роботи у ByteDance він керував розробкою системи рекомендацій на GPU та бібліотеки для колективної комунікації ByteCCL, а також очолював команду у вирішенні проблем з паралельною співпрацею понад десяти тисяч GPU для створення системи тренування MegaScale. Наразі середньоденне використання великих моделей у Doubao знаходиться на високому рівні, а мульти-модальні та агентські дослідження вимагають високої стабільності тренувальних кластерів. Знання Лінь Гайбіна про всю технічну систему ByteDance дозволяє йому безпосередньо підтримувати ітерації базових систем розподіленого тренування. Крім того, відкритий фреймворк для навчання з підкріпленням veRL, розроблений Лінь Гайбіном, був прийнятий Alibaba Tongyi Qianwen та Шанхайською лабораторією штучного інтелекту. Внутрішні правила повернення співробітників ByteDance дозволяють працівникам, які звільнилися понад 3 місяці тому і не мали порушень, подавати заявку на повторний вступ, при цьому їхній рівень та зарплата залишаються без змін, якщо період відходу менше року. Повернення Лінь Гайбіна до ByteDance відповідає недавнім заходам щодо стимулювання ключової команди великих моделей. Компанія відкрила співробітникам відділу Seed спеціальні опціони на акції «Doubao» за ціною 13 доларів за акцію. Зараз боротьба за таланти у сфері великих моделей перетворилася на комплексну боротьбу «опціони + автономія + обчислювальні ресурси». Раніше в лабораторії Seed близько 70 членів перейшли до зовнішніх компаній, що займаються великими моделями, і ByteDance намагається змінити цю ситуацію через спеціальні структури акцій. (Джерело: BlockBeats)

Переглянути оригінал

Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.

11 лайків

Нагородити
11
7
2
Поділіться

Прокоментувати

Додати коментар

TheWaveOfRasterization

· 1год тому

13-доларові опціони за ціною, перераховуючи, цей пакет стимулів виглядає досить щедрим