CoinbaseはデフォルトのAIモデルをGLM5.2、Kimi2.7などのオープンソースモデルに切り替え、AIコストを半減させた。

robot
概要作成中
火星财经ニュース、6月28日、CoinbaseのCEOであるBrian Armstrong氏は、同社がデフォルトのAIモデルをGLM 5.2、Kimi 2.7などのオープンソースモデルに切り替え、インテリジェントなモデルルーティングやキャッシュ最適化などの措置を組み合わせることで、トークン使用量が持続的に指数関数的に増加する中、AI支出をほぼ半減させたことを明らかにした。 Brian Armstrong氏は、Coinbaseはもはや使用制限や消費通知に頼ってコストを管理するのではなく、デフォルトでコストの低いオープンソースモデルを採用し、必要なシナリオでのみ高性能な最先端モデルを呼び出すと述べた。さらに、同社は自動モデルルーティング、キャッシュヒット率の向上、コンテキストの簡素化などを通じて推論コストをさらに削減している。 注目すべきは、この発言が、AnthropicのCEOが最近、オープンソースモデルとモデル蒸留に対する懸念を何度も公に表明している時期に行われたことだ。Coinbaseの実践は、エンタープライズ向けAIアプリケーションにおいて、オープンソースモデルがコストと効率を両立する重要な選択肢となりつつあることを示している。
原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし