sepertinya openai bertaruh besar pada inferensi untuk mengalahkan anthropic dalam 6 bulan ke depan:

> antara cerebras dan chip ai jalapeño yang akan datang, openai akan memiliki tumpukan perangkat keras terbaik yang dioptimalkan untuk GPT
> mereka telah memangkas biaya inferensi sebesar 50% (menurut informasi) yang akan menghemat $10Ms
> gpt 5.6 sangat bergantung pada penalaran dan eksekusi agen (berat pada inferensi)
inferensi menyumbang 40-50% dari pengeluaran komputasi di laboratorium, memangkasnya setengahnya akan membebaskan komputasi untuk digunakan dalam pelatihan - efek gabungan dari ini tidak bisa diremehkan menurut saya
inferensi juga merupakan sumber uang besar: margin pendapatan anthropic sekitar ~80%
pemenang akan ditentukan oleh bagaimana mereka mengelola inferensi.