廣場
最新
熱門
新聞
我的主頁
發布
BerriAI 開源 LiteLLM 代理平台，支持生產環境多 AI 代理部署
ME News
2026-06-02 19:20:39
關注
AIMPACT 消息，5 月 17 日（UTC+8），BerriAI宣布開源LiteLLM Agent Platform，這是一款基於Kubernetes的自托管基礎架構平台，專為生產環境運行多個AI Agent設計，提供團隊級沙箱隔離和持久化會話管理。該平台通過Kubernetes的agent-sandbox CRD實現會話級獨立沙箱環境，解決狀態管理、容器重啟後會話持久化及團隊間環境隔離等核心難題。當地開發使用kind（Kubernetes in Docker），生產環境推薦AWS EKS。 技術棧方面，平台採用Next.js構建管理面板，TypeScript占比92.8%，PostgreSQL作持久化存儲。LiteLLM Agent Platform構建於LiteLLM Gateway之上，Gateway負責模型路由、成本追蹤和速率限制。當地啟動僅需兩條命令：bin/kind-up.sh配置kind集群，docker compose up啟動服務。該項目採用MIT許可證，處於Alpha公開預覽階段。
查看原文
此頁面可能包含第三方內容，僅供參考（非陳述或保證），不應被視為 Gate 認可其觀點表述，也不得被視為財務或專業建議。詳見
聲明
。
9人按讚了這條動態
打賞
9
5
2
分享
回覆
請輸入回覆內容
請輸入回覆內容
回覆
GateUser-e6dafce6
· 5小時前
開源Agent平台扎堆，BerriAI這版差異化在K8s深度集成
查看原文
回復
0
GateUser-f78f1f3e
· 5小時前
多團隊共享集群最怕互相污染，沙箱隔離解了燃眉之急
查看原文
回復
0
热气球看盘
· 5小時前
自我托管+K8s原生，對數據敏感的企業友好度拉滿
查看原文
回復
0
Beta偏执狂
· 5小時前
agent-sandbox CRD 設計有點意思，細粒度隔離是剛需
查看原文
回復
0
RugCheckSkeptic
· 5小時前
BerriAI這波開源，雲原生AI基礎設施又開始激烈競爭了
查看原文
回復
0
熱門話題
查看更多
#
分享美股交易贏輝達股票
2397.68萬 熱度
#
成長值抽獎贏金條
128.93萬 熱度
#
輝達大漲6%創歷史新高
288.43萬 熱度
#
Anthropic秘密遞交IPO申請
48.47萬 熱度
#
微策略出售32枚比特幣
1364.8萬 熱度
已置頂
網站地圖
BerriAI 開源 LiteLLM 代理平台，支持生產環境多 AI 代理部署