Salah satu perubahan terbesar dalam AI adalah pelatihan chip AI menjadi chip yang dioptimalkan untuk inferensi - dan untuk alasan yang BAGUS:

inferensi adalah tempat uang (dan kecerdasan) dihasilkan
> anthropic dikabarkan membuat margin pendapatan 80% dari inferensi. mereka akan menguntungkan sebelum laboratorium AI lainnya.
> apple, meta, openai, google semuanya membuat chip AI kustom mereka sendiri untuk dan inferensi
> laboratorium model Tiongkok (meskipun dengan keterbatasan perangkat keras) membangun kecerdasan terdepan murni dengan memaksa model untuk berpikir lebih lama.
intinya adalah: inferensi akan melampaui layanan AI lainnya dengan jarak yang sangat jauh.