"期待通り"が何を意味するのかはよくわからないが - おそらく事前学習の損失の観点から - 期待されるべきことは、事前に予測できない新たな現象が前例のない規模で現れることである。これは、GPT-4 サイズのモデルと GPT-3 サイズのモデルの違いにおいて非常に真実であった。