AIMPACT Noticias, 17 de mayo (UTC+8), BerriAI anuncia la apertura del código de LiteLLM Agent Platform, una plataforma de infraestructura autohospedada basada en Kubernetes, diseñada para ejecutar múltiples Agentes de IA en entornos de producción, ofreciendo aislamiento de sandbox a nivel de equipo y gestión de sesiones persistentes. La plataforma implementa entornos de sandbox independientes a nivel de sesión mediante el CRD agent-sandbox de Kubernetes, resolviendo problemas clave como la gestión del estado, la persistencia de sesiones tras reinicios de contenedores y el aislamiento de entornos entre equipos. Para desarrollo local se utiliza kind (Kubernetes en Docker), y en producción se recomienda AWS EKS. En cuanto a la pila tecnológica, la plataforma utiliza Next.js para construir el panel de gestión, con un 92.8% de TypeScript, y PostgreSQL para almacenamiento persistente. LiteLLM Agent Platform se construye sobre LiteLLM Gateway, que se encarga del enrutamiento de modelos, seguimiento de costos y limitación de velocidad. Para iniciarlo localmente, solo se necesitan dos comandos: bin/kind-up.sh para configurar el clúster kind, y docker compose up para iniciar los servicios. El proyecto está bajo la licencia MIT y en fase de vista previa pública Alpha.

Ver original

Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.

9 me gusta

Recompensa
9
5
2
Compartir

Comentar

Añadir un comentario

GateUser-e6dafce6

· hace3h

Plataforma de agentes de código abierto en auge, la diferencia de BerriAI en esta versión radica en su integración profunda con K8s

Ver originalResponder0

GateUser-f78f1f3e

· hace4h

Compartir clústeres entre múltiples equipos teme a la contaminación mutua, el aislamiento en sandbox ha resuelto una emergencia urgente.

Ver originalResponder0

HotAirBalloonViewing

· hace4h

Autogestión + K8s nativo, máxima compatibilidad para empresas sensibles a los datos

Ver originalResponder0

BetaParanoiac

· hace4h

El diseño de CRD de agent-sandbox es bastante interesante, el aislamiento de granularidad fina es una necesidad imperante.

Ver originalResponder0

RugCheckSkeptic

· hace4h

BerriAI esta ola de código abierto, la infraestructura de IA nativa en la nube vuelve a ponerse competitiva

Ver originalResponder0

Temas de actualidad
Ver más
#
ShareYourUSStocksWinNvidia
23.97M Popularidad
#
WinGoldBarsWithGrowthPoints
1.28M Popularidad
#
IsraelStrikesIranBTCPlunges
52.31K Popularidad
#
NvidiaSurges6PercentToRecordHigh
2.87M Popularidad
#
AnthropicFilesConfidentialIPO
484.59K Popularidad

Fijado

BerriAI plataforma de agentes LiteLLM de código abierto, compatible con despliegue de múltiples agentes de IA en entornos de producción

Temas de actualidad

ShareYourUSStocksWinNvidia

WinGoldBarsWithGrowthPoints

IsraelStrikesIranBTCPlunges

NvidiaSurges6PercentToRecordHigh

AnthropicFilesConfidentialIPO

Fijado