廣場
最新
熱門
新聞
我的主頁
發布
BerriAI 開源 LiteLLM 代理平台，支持生產環境多 AI 代理部署
ME News
2026-06-03 16:02:37
關注
摘要生成中
AIMPACT 消息，5 月 17 日（UTC+8），BerriAI宣布開源LiteLLM Agent Platform，這是一款基於Kubernetes的自托管基礎架構平台，專為生產環境運行多個AI Agent設計，提供團隊級沙箱隔離和持久化會話管理。該平台通過Kubernetes的agent-sandbox CRD實現會話級獨立沙箱環境，解決狀態管理、容器重啟後會話持久化及團隊間環境隔離等核心難題。當地開發使用kind（Kubernetes in Docker），生產環境推薦AWS EKS。 技術棧方面，平台採用Next.js構建管理面板，TypeScript占比92.8%，PostgreSQL作持久化存儲。LiteLLM Agent Platform構建於LiteLLM Gateway之上，Gateway負責模型路由、成本追蹤和速率限制。當地啟動僅需兩條命令：bin/kind-up.sh配置kind集群，docker compose up啟動服務。該項目採用MIT許可證，處於Alpha公開預覽階段。
查看原文
此頁面可能包含第三方內容，僅供參考（非陳述或保證），不應被視為 Gate 認可其觀點表述，也不得被視為財務或專業建議。詳見
聲明
。
打賞
按讚
回覆
轉發
分享
回覆
請輸入回覆內容
請輸入回覆內容
回覆
暫無回覆
熱門話題
查看更多
#
分享美股交易贏輝達股票
332.49萬 熱度
#
Gate攜手Alpaca鏈接數字資產與股票金融交易
240.77萬 熱度
#
BTC觸底66000
9790.66萬 熱度
#
ZEC逆勢上漲
391.47萬 熱度
#
成長值抽獎贏金條
129.66萬 熱度
已置頂
網站地圖
BerriAI 開源 LiteLLM 代理平台，支持生產環境多 AI 代理部署