据动察 Beating 监测,开源推理引擎 SGLang 背后的团队正式成立公司 RadixArk,完成 1 亿美元种子轮融资,投后估值 4 亿美元。Accel 领投,Spark Capital 联合领投,英伟达(通过 NVentures)和 AMD 两家芯片对手同时参投,联发科也在投资方之列。 SGLang 是模型与硬件之间的中间层,通过更高效地调度显存来降低 AI 推理成本。项目 2023 年启动,目前每天为谷歌、微软、英伟达、Oracle、xAI 等处理数万亿 token。RadixArk 同时运营另一个开源项目 Miles,专注大规模强化学习训练,已被用于 MoE(混合专家,一种只激活部分参数来降低计算量的模型架构)训练。 公司由 Banghua Zhu 和 Ying Sheng 创立。融资将用于扩展两个开源项目,支持更多模型架构和硬件平台,并推出面向企业的托管基础设施服务。
开源推理引擎SGLang团队完成1亿美元种子轮融资,Accel领投
据动察 Beating 监测,开源推理引擎 SGLang 背后的团队正式成立公司 RadixArk,完成 1 亿美元种子轮融资,投后估值 4 亿美元。Accel 领投,Spark Capital 联合领投,英伟达(通过 NVentures)和 AMD 两家芯片对手同时参投,联发科也在投资方之列。
SGLang 是模型与硬件之间的中间层,通过更高效地调度显存来降低 AI 推理成本。项目 2023 年启动,目前每天为谷歌、微软、英伟达、Oracle、xAI 等处理数万亿 token。RadixArk 同时运营另一个开源项目 Miles,专注大规模强化学习训练,已被用于 MoE(混合专家,一种只激活部分参数来降低计算量的模型架构)训练。
公司由 Banghua Zhu 和 Ying Sheng 创立。融资将用于扩展两个开源项目,支持更多模型架构和硬件平台,并推出面向企业的托管基础设施服务。