オープンソース推論エンジンSGLangチームが1億ドルのシードラウンド資金調達を完了、Accelがリード投資

robot
概要作成中

据动察 Beating 監測、オープンソース推論エンジン SGLang の背後にいるチームは正式に会社 RadixArk を設立し、1億ドルのシードラウンド資金調達を完了し、投資後の評価額は4億ドルとなった。Accel がリード投資し、Spark Capital が共同リード、NVIDIA(NVenturesを通じて)と AMD の二つのチップ競合も同時に出資し、MediaTek も投資者の一員である。

SGLang はモデルとハードウェアの間の中間層であり、より効率的にビデオメモリを調整することで AI 推論コストを削減する。プロジェクトは2023年に開始され、現在毎日 Google、Microsoft、NVIDIA、Oracle、xAI などに対して数兆トークンを処理している。RadixArk は同時にもう一つのオープンソースプロジェクト Miles を運営しており、大規模強化学習の訓練に焦点を当てており、MoE(混合専門家、部分的にパラメータを活性化して計算量を削減するモデルアーキテクチャ)の訓練に既に使用されている。

会社は Zhu Banghua と Sheng Ying によって設立された。資金は二つのオープンソースプロジェクトの拡張に使われ、より多くのモデルアーキテクチャとハードウェアプラットフォームをサポートし、企業向けのホスティングインフラサービスも展開する予定である。

原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし