Lupa menetapkan batas 1 perusahaan membakar 500 juta dolar dalam satu bulan di Claude

Penulis: Bao Yilong; Sumber: Wallstreet Jingwen

Gelombang panas AI perusahaan sedang menghadapi krisis tagihan yang pertama dalam arti sebenarnya.

Pada 28 Mei, menurut Axios yang mengutip seorang konsultan AI, salah satu klien perusahaan mereka baru-baru ini menghabiskan 500 juta dolar dalam satu bulan untuk Claude, hanya karena tidak menetapkan batas penggunaan apa pun untuk karyawan.

Analisis menunjukkan bahwa banyak perusahaan saat dengan cepat meluncurkan alat AI, memusatkan perhatian pada fungsi dan promosi, tetapi mengabaikan mekanisme pengendalian biaya.

Raksasa teknologi seperti Microsoft, Amazon, dan lainnya sedang mengambil langkah-langkah, mengurangi alat AI internal atau menghentikan proyek pelacakan penggunaan AI, untuk membendung perilaku konsumsi berlebihan yang disebut "tokenmaxxing" (maksimalisasi token).

Seorang wakil presiden senior Amazon harus memperingatkan karyawan:

Jangan gunakan AI hanya untuk menggunakan AI.

Masalah inti yang dihadapi pasar saat ini bukan lagi "haruskah mengadopsi AI", melainkan "sudah menghabiskan begitu banyak uang, apa yang sebenarnya didapatkan".

Amazon Tutup, "Skor Palsu" Internal Menimbulkan Biaya Nyata

Kasus Amazon dari sudut pandang lain mengungkapkan dilema pengelolaan AI perusahaan.

Menurut laporan yang mengutip dua orang yang mengetahui, platform pengembang Amazon, Kiro, pernah memiliki papan peringkat internal bernama "Kirorank", yang memberi skor berdasarkan tingkat aktivitas penggunaan AI karyawan.

Namun, papan peringkat ini secara tak terduga memicu perilaku karyawan yang meningkatkan peringkat dengan membiarkan agen AI menjalankan tugas-tugas tanpa makna, yang langsung menyebabkan peningkatan konsumsi daya komputasi perusahaan.

Wakil presiden senior Amazon, Dave Treadwell, mengakui minggu ini kepada karyawan bahwa papan peringkat ini awalnya baik, tetapi hasil akhirnya adalah karyawan yang mendorong biaya operasional perusahaan naik melalui "tokenmaxxing".

Dia secara tegas menginstruksikan karyawan agar tidak fokus pada konsumsi token, melainkan pada pembuatan produk yang lebih baik, dan menegaskan "jangan gunakan AI hanya untuk menggunakan AI".

Amazon kemudian mengonfirmasi dalam pernyataannya bahwa dashboard versi percobaan ini "bukan alat resmi atau disetujui, dan telah dinonaktifkan".

Meta juga mengalami hal serupa, di mana karyawan berusaha meningkatkan konsumsi token untuk mendapatkan posisi yang menguntungkan dalam peringkat internal perusahaan.

Fenomena ini menunjukkan bahwa ketika penggunaan AI dimasukkan ke dalam penilaian, bisa berbalik dan memicu insentif karyawan untuk melakukan konsumsi daya komputasi yang tidak efektif.

Amazon kemudian beralih ke indikator "penyebaran terstandardisasi" sebagai pengganti konsumsi token, dengan fokus pada apakah insinyur dapat terus menghasilkan kode yang bernilai nyata melalui AI.

Perlu dicatat bahwa pengeluaran modal Amazon tahun ini diperkirakan mencapai 200 miliar dolar, sebagian besar dialokasikan untuk AI dan infrastruktur pusat data.

Empat Masalah Utama: Mengapa Uang untuk AI Tidak Memberikan Imbal Hasil

Menurut Axios, adopsi AI perusahaan saat ini menghadapi empat hambatan struktural.

Pemilihan kasus penggunaan yang tidak tepat. CEO Velastegui Ventures dan mantan Kepala AI Microsoft, Sophia Velastegui, mengatakan bahwa kebanyakan orang cenderung menggunakan AI untuk mengotomatisasi pekerjaan yang tidak mereka sukai, bukan pekerjaan yang paling bernilai bagi perusahaan.

Dia berpendapat bahwa perusahaan harus memusatkan sumber daya AI pada skenario yang langsung mendorong pendapatan, bukan sekadar meluas tanpa arah.

Kurangnya pengendalian biaya. Query AI bukan tanpa biaya; paket perusahaan mengenakan biaya berdasarkan token, bahkan query sederhana sehari-hari dapat dengan cepat menumpuk biaya yang signifikan, tetapi sebagian besar departemen bisnis tidak memiliki pemahaman yang jelas tentang hal ini.

Manusia adalah hambatan terbesar. Velastegui menyebutkan bahwa pendekatan "menyebar" AI yang umum digunakan saat ini adalah jalur yang tidak dapat memberikan pengembalian nyata.

Perusahaan menumpuk banyak alat AI kepada karyawan, tetapi kurang panduan dan fokus yang efektif, sehingga efisiensi adopsi yang sebenarnya rendah.

Kekhawatiran tentang data terbuka. CEO Boosted.ai, Josh Pantony, yang fokus pada alat AI di industri keuangan, menunjukkan bahwa ketika perusahaan enggan membuka data internal yang bersifat rahasia karena kekhawatiran keamanan data, efektivitas agen AI akan sangat berkurang, dan pengembalian investasi pun sulit dicapai.

Token ekonomi: Variabel inti baru dalam narasi AI

Di balik perdebatan ini, ada logika investasi yang lebih kompleks yang sedang direkonstruksi.

Wallstreet Jingwen menyebutkan, menurut pendapat terbaru dari kepala divisi Goldman Sachs One-Delta, Rich Privorotsky, variabel utama dalam perdagangan AI telah beralih dari "apakah teknologi ini layak" ke "apakah biayanya dapat ditanggung".

DeepSeek dilaporkan menurunkan harga Token sebesar 75%, sementara Xiaomi MiMo menurunkan harga hampir 99%, yang berpotensi memicu "perang harga" setelah subsidi.

Dia menunjukkan bahwa hambatan infrastruktur akhirnya akan mereda, dan pasar tidak seharusnya membayar premi terlalu tinggi untuk "masalah yang akan terselesaikan".

Rich Privorotsky juga mengajukan hipotesis, apakah Token yang lebih murah akan lebih dulu menggantikan layanan inferensi berbiaya tinggi? Jika permintaan tumbuh dengan penundaan waktu, pendapatan dari penyedia layanan cloud, perusahaan model, dan infrastruktur AI mungkin menghadapi tekanan tahap tertentu.

Dia berpendapat bahwa pengeluaran Token yang rasional mungkin menjadi topik penting di tingkat dewan direksi pada kuartal kedua dan ketiga tahun ini, tidak kalah pentingnya dengan narasi pertumbuhan AI itu sendiri.

Menurut Indeks Pengeluaran Token LLM Silicon Data Bloomberg, harga Token sejak akhir Februari tahun ini telah naik sekitar 65%, dan harga perangkat lunak AI di AS selama setahun terakhir meningkat antara 20% hingga 37%.

Tren biaya ini memicu perusahaan untuk meninjau kembali strategi pengadaan AI mereka. Ketika "mendapatkan 90% output dengan biaya 10%" menjadi semakin memungkinkan, ketergantungan perusahaan pada model-model canggih yang mahal mungkin akan menurun secara sistematis.

CEO Micro1, Ali Ansari, menyatakan bahwa perusahaan sedang mengalami "ayunan sehat" dari penggunaan AI yang berlebihan ke penggunaan yang rasional. Dia berpendapat:

Saat ini, bidang AI yang benar-benar efektif hanyalah pemrograman.

Pertarungan Bull dan Bear: Realitas yang Sama, Dua Interpretasi

Dalam hal pengembalian investasi AI, data yang sama dalam kerangka analisis berbeda mengarah pada kesimpulan yang sangat berbeda.

Pandangan bullish menganggap bahwa kekacauan saat ini hanyalah rasa sakit yang wajar dalam proses transformasi.

Menurut Jim Schneider dari Goldman Sachs pada awal Mei, hingga 2030, AI berbasis agen akan mendorong pertumbuhan konsumsi token sebanyak 24 kali, dan margin kotor dari penyedia layanan cloud besar dan penyedia model akan kembali positif dalam 3 hingga 12 bulan ke depan.

Riset ekonomi dari JPMorgan juga menemukan bahwa pada awal 2026, lonjakan besar dalam paket Python di PyPI akan terjadi, yang tidak terlihat saat peluncuran ChatGPT pada 2022, menunjukkan bahwa peningkatan produktivitas nyata sedang berlangsung.

Pandangan bearish dijelaskan secara sistematis dalam laporan Jim Covello, analis semikonduktor Goldman Sachs, pada April.

Dia menunjukkan bahwa hampir semua nilai dalam rantai pasokan AI mengalir ke perusahaan semikonduktor, yang belum pernah terjadi sebelumnya dan tidak berkelanjutan secara historis. Seharusnya, perusahaan chip mendapatkan manfaat saat pelanggan mendapatkan manfaat, tetapi siklus ini menunjukkan bahwa kemakmuran mereka didasarkan pada konsumsi di bagian hulu rantai industri.

Kedua narasi ini berlangsung bersamaan, dan hasilnya belum pasti. Yang pasti, persamaan sederhana "pertumbuhan konsumsi token sama dengan keberhasilan transformasi AI" telah dipatahkan.

Dari kasus ekstrem pengeluaran 500 juta dolar dalam satu bulan, hingga penghentian papan peringkat palsu Amazon, investasi AI sedang menjalani pengawasan yang lebih ketat terhadap imbal hasilnya. Berapa banyak nilai nyata yang akan dihasilkan dari tagihan AI berikutnya, akan menjadi momen penentu dari taruhan besar ini.