Setelah keluar selama setengah tahun, kembali ke Byte, ahli distribusi Lin Haibin kembali bergabung dengan tim Seed Byte

ME AI Pesan, menurut pemantauan Beating Monitoring, kepala pelatihan model besar ByteDance asli Lin Haibin secara resmi kembali ke Tim Seed, melanjutkan pengembangan dasar pelatihan terdistribusi. Lin Haibin meninggalkan perusahaan pada bulan Desember tahun lalu dan bergabung dengan SSI (Safe Superintelligence), perusahaan kecerdasan super yang didirikan oleh ilmuwan kepala OpenAI sebelumnya, Ilya Sutskever, kurang dari setengah tahun kemudian. Sebagai ahli AI yang meraih gelar master dari Carnegie Mellon University (CMU), belajar dari profesor terkenal database Andy Pavlo, Lin Haibin pernah memimpin pengembangan kerangka pelatihan pembelajaran penguatan veRL dan sistem pelatihan terdistribusi MegaScale yang berskala besar, dan kembali dengan cepat menunjukkan perubahan dalam aliran talenta top model besar antara China dan AS.

Sebelum bergabung dengan tim AML (Machine Learning Applications) ByteDance pada tahun 2020, Lin Haibin pernah terlibat dalam pengembangan kerangka MXNet di Amazon AWS. Selama di ByteDance, Lin Haibin memimpin pengembangan sistem pelatihan rekomendasi GPU dan perpustakaan komunikasi kolektif ByteCCL, serta memimpin tim mengatasi tantangan kolaborasi GPU paralel yang melibatkan puluhan ribu GPU untuk menyempurnakan sistem pelatihan MegaScale. Saat ini, volume panggilan harian model besar Doubao berada di tingkat tinggi, dan pengembangan multimodal serta agen cerdas menuntut stabilitas tinggi dari kluster pelatihan. Pengetahuan Lin Haibin tentang seluruh sistem teknologi ByteDance sebelumnya memungkinkan langsung mendukung iterasi sistem pelatihan terdistribusi tingkat dasar.

Selain itu, kerangka pelatihan pembelajaran penguatan open-source veRL yang dikembangkan Lin Haibin telah diadopsi oleh Alibaba Tongyi Qianwen dan Laboratorium AI Shanghai. Ketentuan kembali karyawan ByteDance menyatakan bahwa karyawan yang keluar selama 3 bulan dan tidak memiliki catatan pelanggaran dapat mengajukan kembali ke perusahaan, dan jika keluar kurang dari 1 tahun, tingkat jabatan dan gaji tetap sama. Kembalinya Lin Haibin ke ByteDance menanggapi langkah insentif terbaru untuk tim inti model besar. ByteDance telah membuka opsi saham khusus bernilai 13 dolar AS per saham kepada karyawan Departemen Seed. Saat ini, persaingan untuk talenta model besar telah meningkat menjadi kompetisi gabungan antara "opsi saham + otonomi + daya komputasi". Sebelumnya, sekitar 70 anggota dari Laboratorium Seed telah berpindah ke perusahaan model besar eksternal, dan ByteDance berusaha membalikkan kehilangan personel melalui desain saham khusus.

(Sumber: BlockBeats)