Altmanはほぼ純粋なAIデータで訓練されたモデルを走らせたことを認め、数学的にはすでに人間のデータは必要ないとも述べている。

動態監測 Beating によると、Altman は『アトランティック』誌のCEO Nicholas Thompson のポッドキャストで合成データについて語った。Thompson は現在インターネット上にAIが書いたコンテンツが溢れており、人間も書き方のスタイルをAIから学んでいると述べ、将来的にはモデルがAI生成のデータを取り込まざるを得なくなるだろうと言った。彼は「GPT-4はAIデータをほとんど使わなかった最後のモデルだ」と言い、Altman は頷いて同意した。

Thompson は直接質問した：完全に合成データ（AIの出力を使って次世代のAIを訓練する）だけで訓練されたモデルはあるのか？Altman は一瞬止まり、「言うべきかどうか分からない」と答えた。この言葉は暗に認めたことになる。彼は続けて、モデルの核心は推論を学ぶことであり、そのことは純粋な合成データだけでも可能だと述べた。数学を例に挙げて、「人間のデータを一切見たことのないモデルは、人間よりも計算が得意になれるのか？」と尋ね、「できると思う」と答えた。しかし逆に、人間の文化に触れたことのないモデルは人間の価値観を理解できるのか？と問うと、「多分無理だろう」と答えた。

合成データには「狂牛病」のような懸念がある：AIが自分の出力を繰り返し学習することで、情報が世代を経て退化・劣化してしまうのではないかというものだ。Altman の見解では、AIに数学を教えるのに人間は必要ないが、人間の理解を教えるには人間が必要だと述べた。