开源推理引擎SGLang团队完成1亿美元种子轮融资,Accel领投

robot
摘要生成中

据动察 Beating 监测,开源推理引擎 SGLang 背后的团队正式成立公司 RadixArk,完成 1 亿美元种子轮融资,投后估值 4 亿美元。Accel 领投,Spark Capital 联合领投,英伟达(通过 NVentures)和 AMD 两家芯片对手同时参投,联发科也在投资方之列。

SGLang 是模型与硬件之间的中间层,通过更高效地调度显存来降低 AI 推理成本。项目 2023 年启动,目前每天为谷歌、微软、英伟达、Oracle、xAI 等处理数万亿 token。RadixArk 同时运营另一个开源项目 Miles,专注大规模强化学习训练,已被用于 MoE(混合专家,一种只激活部分参数来降低计算量的模型架构)训练。

公司由 Banghua Zhu 和 Ying Sheng 创立。融资将用于扩展两个开源项目,支持更多模型架构和硬件平台,并推出面向企业的托管基础设施服务。

此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论