Saya terus melihat argumen bahwa engineer perlu membakar token untuk membenarkan gaji mereka.

Itu terbalik.

Token bukan output. Mereka adalah biaya.

Yang penting adalah berapa banyak pekerjaan berguna yang dilakukan per unit komputasi, bukan seberapa cepat Anda bisa membakar uang.

Engineer yang kuat mengompresi loop.

Lebih sedikit token.

Latensi lebih rendah.

Lebih banyak siklus iterasi.

Keputusan lebih baik.

Engineer yang lemah memaksa dengan brute force.

Lebih banyak token.

Lebih banyak noise.

Kebingungan yang sama, hanya diperbesar.

Komputasi menjadi kendala sumber daya lagi.

Bukan karena kita tidak memiliki cukupnya.

Tetapi karena sebagian besar orang tidak tahu cara menggunakannya secara efisien.