Kesimpulan dari Stanford ini cukup menyakitkan: membuka bobot hanyalah permulaan, hambatan data adalah sungai pertahanan.

Tim NLP Stanford di Twitter menyatakan bahwa data pelatihan agen yang saat ini tersedia secara umum terutama digunakan untuk tahap pelatihan lanjutan, terutama untuk model seperti Qwen. Model-model ini mungkin telah dilatih pada sejumlah besar data agen. Mereka berpendapat bahwa jumlah data agen yang dibutuhkan untuk melatih model sumber terbuka yang berkualitas dari awal jauh melebihi skala pelatihan lanjutan hanya dengan bobot terbuka, menyoroti kekurangan data agen selama tahap pra-pelatihan. Sumber: InFoQ