"AI as a service" = エンドポイントを呼び出す。

あなたは他人の脳を借りています。すべての計算、推論、記憶は、あなたが制御できないデータセンターにあります。

さて、反対を想像してみてください:

コンピュテーションをすべてアウトソーシングする代わりに、あなたのエージェントは必要な部分から自らを構築します。

問題が発生すると、単に「エンドポイントを呼び出す」だけではありません。

それはコンポーネント、具体的なモデルの重み、ルーチン、データセットを要求し、残りをローカルで組み立てます。

選ぶ必要はありません:

「オールローカル」(遅くて電力を多く消費)
対
「オールクラウド」(高価でプライバシーが不足している)

両方を持つことができますが、賢く配分してください:

1) 重要な推論 ローカルで

あなたのアイデンティティ、データ、好みに関わるすべてはあなたのデバイス上で動作します。往復はなく、漏洩もなく、信頼の前提もありません。

2) 重い計算をリモートで

モデルのトレーニング、大規模コンテキストタスク - 分散ネットワークのGPUまたはノードにオフロードされます。

あなたは秘密のソースを保持し、重要な作業は他の場所で行われます。

レイテンシが低下し、プライバシーが向上し、コストが変化します。

これがインテリジェンスがポータブルになる時です。

これはデザインによるハイブリッドです。