Mantan insinyur ByteDance Seed: Satu putaran iterasi ByteDance membutuhkan setengah tahun, Google konon hanya membutuhkan tiga bulan.

robot
Pembuatan abstrak sedang berlangsung
ME News melaporkan, pada 24 April (UTC+8), menurut pemantauan Dongcha Beating, mantan insinyur tim Seed ByteDance, sekarang asisten profesor di Universitas Peking, Zhang Chi, mengungkapkan dalam podcast 'Into Asia' bahwa ByteDance membutuhkan waktu sekitar setengah tahun untuk menyelesaikan satu putaran pelatihan model besar (pre-training dan post-training), sementara Google dilaporkan hanya membutuhkan tiga bulan.
Dia berpendapat bahwa kecepatan iterasi adalah salah satu alasan inti mengapa perusahaan China sulit mengejar.
Zhang Chi bekerja di ByteDance selama sekitar satu tahun, di tim matematika yang lebih bersifat penelitian. Dia mengatakan bahwa positioning tim tersebut 'lebih untuk promosi', berbeda dengan tim pre-training dan post-training yang bertanggung jawab atas pengiriman model.
Zhang Chi menggambarkan budaya benchmaxxing (berburu skor) di dalam Seed: pemimpin tim mengevaluasi kinerja berdasarkan benchmark yang mereka tangani, semua orang berlomba untuk mendapatkan skor, 'tetapi ini tidak dapat diterjemahkan menjadi pengalaman yang baik dalam penggunaan nyata'.
Dia mengatakan bahwa di atas kertas, model perusahaan besar China dapat menyamai model mutakhir Amerika, tetapi dalam penggunaan nyata 'tidak cukup baik'.
Tujuan Seed adalah menjadi yang terbaik secara global, 'tetapi sayangnya, saya tidak berpikir kita telah mencapainya', bahkan target menjadi nomor satu di dalam negeri 'juga tidak tercapai'.
Pada akhir tahun 2024, Seed mengaku telah menyamai GPT-4o, kemudian DeepSeek dirilis, tim menyadari kesenjangan masih ada. Ketika dia bergabung, seluruh tim sedang beralih secara mendesak ke reinforcement learning.
(Sumber: BlockBeats)
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar
  • Disematkan