منصة BerriAI مفتوحة المصدر LiteLLM Agent، تدعم نشر العديد من وكلاء الذكاء الاصطناعي في بيئة الإنتاج

robot
إنشاء الملخص قيد التقدم
AIMPACT رسالة، 17 مايو (UTC+8)، أعلنت BerriAI عن إطلاق منصة وكيل LiteLLM مفتوحة المصدر، وهي منصة بنية تحتية مستضافة ذاتيًا تعتمد على Kubernetes، مصممة لتشغيل عدة وكلاء ذكاء اصطناعي في بيئة الإنتاج، وتوفر عزل بيئة sandbox على مستوى الفريق وإدارة جلسات مستمرة.
تقوم المنصة بتنفيذ بيئة sandbox مستقلة على مستوى الجلسة من خلال CRD الخاص بـ Kubernetes المسمى agent-sandbox، مما يحل مشكلات إدارة الحالة، واستمرارية الجلسة بعد إعادة تشغيل الحاوية، وعزل بيئات الفرق.
للتطوير المحلي، يُستخدم kind (Kubernetes في Docker)، وبيئة الإنتاج موصى بها AWS EKS.
من ناحية التقنية، تعتمد المنصة على Next.js لبناء لوحة الإدارة، مع نسبة TypeScript تصل إلى 92.8%، وPostgreSQL للتخزين المستدام.
تم بناء منصة وكيل LiteLLM فوق Gateway الخاص بـ LiteLLM، والذي يتولى توجيه النماذج، وتتبع التكاليف، وتقييد المعدلات.
بدء التشغيل المحلي يتطلب أمرين فقط: bin/kind-up.sh لإعداد مجموعة kind، وdocker compose up لتشغيل الخدمة.
يستخدم المشروع رخصة MIT، وهو في مرحلة المعاينة العامة ألفا.
شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
  • أعجبني
  • تعليق
  • إعادة النشر
  • مشاركة
تعليق
إضافة تعليق
إضافة تعليق
لا توجد تعليقات
  • مُثبت