AIMPACT Noticias, 17 de mayo (UTC+8), BerriAI anuncia la apertura del código de LiteLLM Agent Platform, una plataforma de infraestructura autohospedada basada en Kubernetes, diseñada para ejecutar múltiples Agentes de IA en entornos de producción, ofreciendo aislamiento de sandbox a nivel de equipo y gestión de sesiones persistentes. La plataforma implementa entornos de sandbox independientes a nivel de sesión mediante el CRD agent-sandbox de Kubernetes, resolviendo problemas clave como la gestión de estado, la persistencia de sesiones tras reinicios de contenedores y el aislamiento de entornos entre equipos. Para desarrollo local se utiliza kind (Kubernetes en Docker), y en producción se recomienda AWS EKS. En cuanto a la pila tecnológica, la plataforma utiliza Next.js para construir el panel de gestión, con un 92.8% de TypeScript, y PostgreSQL para almacenamiento persistente. LiteLLM Agent Platform se construye sobre LiteLLM Gateway, que se encarga del enrutamiento de modelos, seguimiento de costos y limitación de velocidad. Para iniciarlo localmente, solo se necesitan dos comandos: bin/kind-up.sh para configurar el clúster kind, y docker compose up para iniciar los servicios. El proyecto está bajo la licencia MIT y en fase de vista previa pública Alpha.

Ver original

Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.

10 me gusta

Recompensa
10
7
Republicar
Compartir

Comentar

Añadir un comentario

AirdropArchivist

· hace6h

agent-sandbox CRD, este diseño tiene algo, la隔离 entre equipos finalmente ya no es necesario inventar la rueda por cuenta propia

Ver originalResponder0

GasFeesForNightRuns

· hace6h

Ejecutar las dos órdenes realmente es conveniente, pero el cuello de botella de rendimiento en la persistencia de sesiones no se menciona en detalle en la documentación.

Ver originalResponder0

TheProphetOfToast

· hace6h

Gestión de estado + técnica de recuperación tras reinicio, el servicio de agente de ejecución prolongada finalmente puede descansar.

Ver originalResponder0

Lemon-FlavoredLiquidation

· hace6h

Finalmente, una implementación seria y de código abierto para la orquestación de múltiples agentes, antes solo eran proyectos de juguete.

Ver originalResponder0

Front-RunningArbitrage

· hace6h

En cuanto a la autogestión, la barrera de Kubernetes está aquí, ¿existe una solución de degradación puramente con Docker Compose?

Ver originalResponder0

GateUser-991fc58a

· hace6h

La licencia MIT es honesta, pero ¿se atreverían a ponerla en producción en la fase alfa?

Ver originalResponder0

WatercolorGlassBottle

· hace6h

Finalmente, un equipo ha logrado resolver la persistencia del estado del Agente, la función de inicio con un clic de Kind es muy amigable para los desarrolladores.

Ver originalResponder0

Temas de actualidad
Ver más
#
ShareYourUSStocksWinNvidia
3.29M Popularidad
#
GatePartnersWithAlpacaToBridgeCryptoAndStocks
104.63K Popularidad
#
IsraelStrikesIranBTCPlunges
52.69K Popularidad
#
BTC触底66000
109.97K Popularidad
#
ZECRalliesAgainstMarket
5.03M Popularidad

Fijado

BerriAI plataforma de agentes LiteLLM de código abierto, compatible con despliegue de múltiples agentes de IA en entornos de producción

Temas de actualidad

ShareYourUSStocksWinNvidia

GatePartnersWithAlpacaToBridgeCryptoAndStocks

IsraelStrikesIranBTCPlunges

BTC触底66000

ZECRalliesAgainstMarket

Fijado