市場で面白い傾向に気づいた。

かつてはトークンを水のように豪快に使っていた企業が、
今では計算機を手に請求書とにらめっこしている。
freeuseの時代は正式に終わった。

2年前はすべてがシンプルだった。
大手投資家が請求書を支払い、私たちは長いプロンプトを書き、
モデルにPDFドキュメントを丸ごと投げ込み、誰も気にしなかった。
今？ 1つのトークンは実際のお金だ。
条件付きの単位ではなく、真のキャッシュ。

実際、何が変わったのか？
まず、計算能力のコストが急激に上昇した。
NVIDIA H100チップを巡る争いは地政学的な対立に変わった。
次に、APIリクエストの1日の量が数百万を超えると、
わずかな「1Kトークン」が突然、資金を吸い上げるマシンになる。
トークンは実際の通貨と同等だ。

多くの人がどこにお金が流れているのか理解していなかったこともわかる。
請求書を見てショックを受ける。でも問題は価格そのものではなく、
私たちの使い方にある。
解決策は3つ：セマンティックキャッシング、プロンプトの圧縮、モデルのルーティング。
これはもはや贅沢ではなく、必要性だ。

セマンティックキャッシングは最も簡単な節約方法だ。
ユーザーは「パスワードのリセット方法は？」と何百回も問い合わせる。
なぜ毎回GPT-4を起動するのか？
最初に計算し、結果をキャッシュし、次のリクエストはキャッシュから返す。
遅延は秒からミリ秒に、コストはほぼゼロに近づく。

プロンプトの圧縮はもう外科手術だ。
アルゴリズムは、どの言葉が重要で、どれが不要かを分析する。
1000トークンのテキストを300に圧縮しつつ意味を保持できる。
機械に自分たちの言語でやり取りさせることを許可し、
結果は同じまま、料金は70％削減。

モデルのルーティングはアーキテクチャの仕事だ。
すべてがGPT-4に必要なわけではない。
単純なデータ抽出なら、安価なLlama 3 8BやClaude 3 Haikuにルーティング。
複雑な論理的推論なら、強力なモデルを使う。
会社の受付がCEOに質問を渡さないのと同じように。

最先端チームのやり方を見てきた。
OpenClawはモバイルデバイス上でほぼトークンをコントロールしている。
自由に生成させる代わりに、モデルにJSONスキーマを埋めさせる。
制約のように見えるが、実はトラフィックを節約している。
Hermes Agentは別の道を行く — 動的メモリ。
最後の3〜5会話を保存し、古いものは軽いモデルで要約し、
ベクトルデータベースに保存。
これはハッキングではなく、コンテキストの外科的管理だ。

今、最も重要なのは思考の変化だ。
以前はトークンを消費財とみなしていた。
割引を見ればカゴに入れる。
AIがメニューを作るためにLLMを無差別に接続していた。
月末の請求書はショックだった。

今は投資的思考に切り替える必要がある。
各トークンは投資だ。
自問自答する：「これで何が得られたか？」
チケット解決率は上がったか？
バグ修正時間は短縮されたか？
それともただの娯楽か？
ルールベースの機能が10セントかかるなら、
LLMは1トークンあたり1ドルだが、
コンバージョン率を2％向上させるなら、
迷わずカットすべきだ。

「大規模で包括的」な解決策から、
「小さく洗練された」正確な打撃へと移行する。
ビジネスが「AIに10万のレポートを読ませられるか？」と聞くなら、
私は「何百万トークンの収益をカバーできるか？」と問う。
計算しよう。節約しよう。
トークンを商品店のオーナーのように扱う。

これは技術的に遠い話ではなく、むしろ農業的だ。
しかしこれこそがAI産業の成熟段階だ。
無制限の補助金の時代は終わった。
アーキテクチャを理解し、モバイルで最適化し、
トークンの数字を冷静に計算できる者だけが残る。
潮が引いたとき、誰が裸で泳いでいるか見えるだろう。
今回は、節約できずにいる企業が残る。
一滴一滴を金塊のように大切にする者だけが生き残る。