光電融合チップはトークンコストを50%削減できる見込み。国内の計算力クラスターがコスト削減の鍵となる可能性

robot
概要作成中
金色財経によると、7月19日現在、AIスマートエージェントの各業界での活用が深まるにつれて、トークンの利用回数は高速な成長を続けています。今後、計算能力(算力)コストをさらに引き下げるにはどうすればよいかが、各方面の注力ポイントとなっています。業界関係者によると、彼らは算力プラットフォームを通じて複数の主流大規模言語モデルの利用を調整し、総合的にトークンコストを引き下げています。さらに、全国規模で大規模な算力クラスターの整備を加速しています。加えて、国産の算力チップが支える超大規模算力クラスターは、次段階のコスト削減の鍵だと業界では見なされています。さらに今後3〜5年の間に、光チップなどより先進的な新技術が実用化されることも、算力コストを下げるための別の探求方向になる可能性があります。「光電融合のチップは電気(電)チップに比べて、コアとなるのは演算の遅延がより低く、消費電力もより低い点です。1トークンあたりのコストはそれに応じて50%下がることもあり、さらにそれ以上になる可能性もあります。」(金十)
原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし
  • ピン留め