Anthropic mengakuisisi perusahaan rintisan chip Inggris Fractile yang memproduksi chip inferensi, yang kemudian dinilai mencapai 1 miliar dolar AS

Menurut pemantauan Beating, Anthropic sedang bernegosiasi dengan perusahaan startup London, Fractile, untuk membeli chip inferensi mereka, yang diperkirakan akan diproduksi massal dan masuk ke pusat data tahun depan. Fractile didirikan pada akhir 2022, dengan solusi inti menggantikan GPU yang bergantung pada HBM (memori berperforma tinggi) dengan SRAM (memori akses acak statis), mengurangi perpindahan data antara chip dan penyimpanan eksternal, sehingga menurunkan konsumsi daya dan biaya inferensi. Pendekatan serupa juga dilakukan oleh Cerebras dan Groq.

Protokol ini masih dalam tahap awal, skala tidak diketahui, dan ada kemungkinan pembicaraan gagal. Namun, pesanan potensial ini telah menjadi poin utama dalam putaran pendanaan terbaru Fractile. Fractile sedang mencari pendanaan lebih dari 100 juta dolar dengan valuasi lebih dari 1 miliar dolar, dengan Founders Fund, 8VC, dan Accel sedang dalam pembicaraan. Sebelumnya, Fractile hanya mengumpulkan dana sebesar 15 juta dolar, dengan investor termasuk Kindred Capital, Dana Inovasi NATO, dan Oxford Science Enterprises.

Anthropic secara sengaja menyebar pasokan chip. Perusahaan telah menyewa server cloud dari Google dan Amazon, dan pada musim gugur tahun lalu berjanji untuk menyewa server Nvidia dari Microsoft Azure senilai 30 miliar dolar (Nvidia menyumbang 10 miliar dolar dan Microsoft 5 miliar dolar sebagai investasi saham sebagai imbalannya), baru-baru ini juga menyetujui pembelian chip buatan Google untuk digunakan di luar Google Cloud. Reuters sebelumnya melaporkan bahwa Anthropic juga sedang mempertimbangkan untuk merancang chip inferensi sendiri, serupa dengan strategi OpenAI dan Meta.

Biaya inferensi adalah titik sakit utama Anthropic saat ini. Tahun lalu, margin laba kotor bisnis inferensi perusahaan lebih rendah dari yang diperkirakan internal, dan lonjakan permintaan Claude Code baru-baru ini menyebabkan kekurangan daya komputasi, dengan beberapa pengguna dibatasi selama jam sibuk, dan pengembang secara terbuka mengeluhkan. CEO Nvidia, Jensen Huang, baru-baru ini menyatakan penyesalannya karena tidak berinvestasi lebih awal di Anthropic, percaya bahwa hal itu mungkin dapat mencegah perusahaan beralih besar-besaran ke chip dari Google dan Amazon.