Altman hampir mengakui bahwa model yang dilatih dengan data AI murni telah dilatih, dan mengatakan bahwa secara matematis manusia tidak lagi diperlukan data manusia

Menurut pemantauan Beating, Altman berbicara tentang data sintetis dalam podcast CEO Nicholas Thompson dari The Atlantic Monthly. Thompson mengatakan bahwa saat ini di internet di mana-mana ada konten yang ditulis oleh AI, manusia bahkan belajar gaya penulisan dari AI, dan di masa depan model tidak mungkin tidak mengonsumsi data yang dihasilkan AI. Dia mengatakan, “GPT-4 adalah model terakhir yang tidak banyak menggunakan data AI,” Altman mengangguk setuju.

Thompson langsung bertanya: Apakah pernah melatih model yang sepenuhnya menggunakan data sintetis (menggunakan output AI untuk melatih AI generasi berikutnya)? Altman berhenti sejenak, mengatakan, “Saya tidak yakin apakah saya harus mengatakannya.” Kalimat ini setara dengan mengiyakan. Dia kemudian mengatakan bahwa inti dari model adalah belajar melakukan penalaran, dan hal ini sepenuhnya bisa dilakukan dengan data sintetis. Dia memberi analogi matematika: apakah model yang sama sekali tidak pernah melihat data manusia, bisa menghitung lebih baik dari manusia? “Saya rasa bisa.” Tapi sebaliknya, apakah model yang tidak pernah terpapar budaya manusia bisa memahami nilai-nilai manusia? “Mungkin tidak.”

Data sintetis selalu memiliki istilah “penyakit sapi gila”: AI yang terus-menerus mengonsumsi outputnya sendiri, apakah informasinya akan menurun dan memburuk dari generasi ke generasi? Menurut Altman, mengajarkan AI matematika tidak membutuhkan manusia, mengajarkan AI memahami manusia membutuhkan manusia.