9.6万トークンの中央値、このコンテキストウィンドウは『偉大なギャツビー』全巻を飲み込んでしまった——エージェント時代の推論コストは深刻に過小評価されている

原文表示
MeNews
エージェントのワークロードが静かに推論経済を再形成する
[ME AI]() メッセージ、エージェントのワークロードが静かに推論経済学を再構築しています。私たちはSemiAnalysisの43万2千件の実際のコーディングエージェントリクエストからデータを抽出し、中央値は3万2千や6万4千ではなく、9万6千の入力トークンであることを発見しました。参考までに、これはあなたが質問を入力する前に、モデルが『偉大なギャツビー』全文の長さを超えるテキストを処理したことを意味します。(1/3)🧵(出典:AiHot)
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし