PANews 7月27日訊息,Kimi.ai 團隊在開放 Kimi K3 模型權重與技術報告的同時,陸續開源多項底層基礎設施:包含用於分散式 MoE 訓練的高效能通訊程式庫 MoonEP、面向大規模智能體工作流程的分散式環境系統 AgentENV(與 kvcache-ai 合作),以及基於 CUTLASS 的 Kimi Delta Attention 高效能核心 FlashKDA。官方表示,這些元件可降低大規模 MoE 與智能體強化學習訓練中的通訊與推理開銷,並作為 flash-linear-attention 的即插即用後端使用。
206.99萬 熱度
4.83萬 熱度
1.31億 熱度
81.69萬 熱度
28.82萬 熱度
Kimi K3 開源多項核心元件支撐大規模智慧體訓練
PANews 7月27日訊息,Kimi.ai 團隊在開放 Kimi K3 模型權重與技術報告的同時,陸續開源多項底層基礎設施:包含用於分散式 MoE 訓練的高效能通訊程式庫 MoonEP、面向大規模智能體工作流程的分散式環境系統 AgentENV(與 kvcache-ai 合作),以及基於 CUTLASS 的 Kimi Delta Attention 高效能核心 FlashKDA。官方表示,這些元件可降低大規模 MoE 與智能體強化學習訓練中的通訊與推理開銷,並作為 flash-linear-attention 的即插即用後端使用。