廣場
最新
熱門
新聞
我的主頁
發布
BerriAI 開源 LiteLLM Agent 平台，支持生產環境多 AI Agent 部署
ME News
2026-06-03 04:27:52
關注
摘要生成中
AIMPACT 消息，5 月 17 日（UTC+8），BerriAI宣布開源LiteLLM Agent Platform，這是一款基於Kubernetes的自托管基礎架構平台，專為生產環境運行多個AI Agent設計，提供團隊級沙箱隔離和持久化會話管理。該平台通過Kubernetes的agent-sandbox CRD實現會話級獨立沙箱環境，解決狀態管理、容器重啟後會話持久化及團隊間環境隔離等核心難題。當地開發使用kind（Kubernetes in Docker），生產環境推薦AWS EKS。 技術棧方面，平台採用Next.js構建管理面板，TypeScript占比92.8%，PostgreSQL作持久化存儲。LiteLLM Agent Platform構建於LiteLLM Gateway之上，Gateway負責模型路由、成本追蹤和速率限制。當地啟動僅需兩條命令：bin/kind-up.sh配置kind集群，docker compose up啟動服務。該項目採用MIT許可證，處於Alpha公開預覽階段。
查看原文
此頁面可能包含第三方內容，僅供參考（非陳述或保證），不應被視為 Gate 認可其觀點表述，也不得被視為財務或專業建議。詳見
聲明
。
10人按讚了這條動態
打賞
10
7
轉發
分享
回覆
請輸入回覆內容
請輸入回覆內容
回覆
Airdrop Archivist
· 3小時前
agent-sandbox CRD 這個設計有點東西，跨團隊隔離終於不用自己造輪子了
查看原文
回復
0
夜跑的Gas费
· 3小時前
兩條命令跑起來確實香，但會話持久化的性能瓶頸文件裡沒細說
查看原文
回復
0
烤面包的预言家
· 3小時前
狀態管理 + 重新啟動恢復這組合技，長期運行的 Agent 服務終於能睡了
查看原文
回復
0
柠檬味清算
· 3小時前
多 Agent 編排終於有個開源的正經實現，之前全是玩具項目
查看原文
回復
0
红灯前的套利
· 3小時前
自托管這塊 Kubernetes 門檻擺在這兒，有沒有純 Docker Compose 的降級方案
查看原文
回復
0
GateUser-991fc58a
· 3小時前
MIT 許可良心，但 Alpha 階段敢上生產嗎？
查看原文
回復
0
玻璃瓶水彩
· 3小時前
終於有團隊把 Agent 狀態持久化這塊啃下來了，kind 一鍵啟動對開發者太友好了
查看原文
回復
0
熱門話題
查看更多
#
分享美股交易贏輝達股票
328.89萬 熱度
#
Gate攜手Alpaca鏈接數字資產與股票金融交易
186.9萬 熱度
#
BTC觸底66000
6.57萬 熱度
#
ZEC逆勢上漲
503萬 熱度
#
成長值抽獎贏金條
129.3萬 熱度
已置頂
網站地圖
BerriAI 開源 LiteLLM Agent 平台，支持生產環境多 AI Agent 部署