Mantan insinyur Seed ByteDance: Satu putaran iterasi ByteDance membutuhkan enam bulan, Google dikabarkan hanya membutuhkan tiga bulan.

robot
Pembuatan abstrak sedang berlangsung
ME News berita, 24 April (UTC+8), menurut pemantauan Dongcha Beating, mantan insinyur tim Seed ByteDance, sekarang asisten profesor di Universitas Peking, Zhang Chi, mengungkapkan dalam podcast "Into Asia" bahwa ByteDance membutuhkan waktu sekitar setengah tahun untuk menyelesaikan satu putaran pelatihan model besar (pra-pelatihan ditambah pasca-pelatihan), sementara Google dilaporkan hanya membutuhkan tiga bulan. Dia menganggap kecepatan iterasi adalah salah satu alasan inti mengapa perusahaan China kesulitan mengejar. Zhang Chi bekerja di ByteDance sekitar satu tahun, tim matematika tempatnya bekerja bersifat lebih riset, dia sendiri mengatakan posisi tim tersebut "lebih untuk promosi", berbeda dengan tim pra-pelatihan dan pasca-pelatihan yang bertanggung jawab atas pengiriman model. Zhang Chi mendeskripsikan budaya benchmaxxing (mengejar skor) di internal Seed: pemimpin tim mengevaluasi kinerja berdasarkan benchmark yang diurus, semua orang berlomba mengejar skor, "tetapi ini tidak bisa diubah menjadi pengalaman baik dalam penggunaan nyata". Dia mengatakan di atas kertas model perusahaan besar China bisa menyamai model terdepan Amerika, tetapi saat digunakan nyata "tidak cukup baik". Target Seed adalah menjadi yang terbaik global, "tetapi sayangnya, saya tidak berpikir kita sudah mengejar", bahkan target nomor satu di dalam negeri "juga belum tercapai". Akhir 2024 Seed mengakui menyamai GPT-4o, lalu DeepSeek dirilis, tim menyadari kesenjangan masih ada, saat dia bergabung seluruh tim sedang buru-buru beralih ke reinforcement learning. (Sumber: BlockBeats)
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar
  • Disematkan