AIMPACT رسالة، 17 مايو (UTC+8)، أعلنت BerriAI عن إطلاق منصة وكيل LiteLLM مفتوحة المصدر، وهي منصة بنية تحتية ذاتية الاستضافة تعتمد على Kubernetes، مصممة لتشغيل عدة وكلاء ذكاء اصطناعي في بيئة الإنتاج، وتوفر عزل بيئة sandbox على مستوى الفريق وإدارة جلسات مستمرة. توفر المنصة بيئة sandbox مستقلة على مستوى الجلسة من خلال CRD الخاص بـ Kubernetes المسمى agent-sandbox، مما يحل مشكلات إدارة الحالة، واستمرارية الجلسة بعد إعادة تشغيل الحاوية، وعزل بيئات الفرق. للاستخدام المحلي، يتم استخدام kind (Kubernetes في Docker)، ويوصى باستخدام AWS EKS في بيئة الإنتاج. من ناحية التقنية، تعتمد المنصة على Next.js لبناء لوحة الإدارة، مع نسبة TypeScript تصل إلى 92.8%، وPostgreSQL للتخزين المستمر. تم بناء منصة LiteLLM Agent على منصة LiteLLM Gateway، التي تتولى توجيه النماذج، وتتبع التكاليف، وتقييد المعدلات. لتشغيلها محليًا، يكفي أمران: bin/kind-up.sh لإعداد مجموعة kind، وdocker compose up لتشغيل الخدمة. يستخدم المشروع رخصة MIT، وهو في مرحلة المعاينة العامة ألفا.

شاهد النسخة الأصلية

قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.

تسجيلات الإعجاب 10

أعجبني
10
5
2
مشاركة

تعليق

إضافة تعليق

GateUser-e6dafce6

· منذ 8 س

منصات الوكيل مفتوحة المصدر تتجمع، والاختلاف في إصدار BerriAI هو التكامل العميق مع K8s

شاهد النسخة الأصليةرد0

GateUser-f78f1f3e

· منذ 8 س

أكثر ما يخشاه الفرق المتعددة عند مشاركة مجموعة الحوسبة هو التلوث المتبادل، وعزل الصندوق الرملي حلّ الأزمة بشكل عاجل

شاهد النسخة الأصليةرد0

HotAirBalloonViewing

· منذ 8 س

الاستضافة الذاتية + K8s الأصلية، تعظيم ودية الشركات الحساسة للبيانات

شاهد النسخة الأصليةرد0

BetaParanoiac

· منذ 8 س

تصميم CRD لوكيل-صندوق الاختبار ممتع قليلاً، العزل الدقيق هو الحاجة الملحة

شاهد النسخة الأصليةرد0

RugCheckSkeptic

· منذ 8 س

BerriAI هذه الموجة من المصدر المفتوح، والبنية التحتية للذكاء الاصطناعي السحابية الأصلية تعود للمنافسة مرة أخرى

شاهد النسخة الأصليةرد0

المواضيع الرائجة
عرض المزيد
#
ShareYourUSStocksWinNvidia
24M درجة الشعبية
#
WinGoldBarsWithGrowthPoints
1.29M درجة الشعبية
#
IsraelStrikesIranBTCPlunges
52.46K درجة الشعبية
#
BTC触底66000
10.27K درجة الشعبية
#
ZECRalliesAgainstMarket
5.02M درجة الشعبية

مُثبت

خريطة الموقع

منصة وكيل LiteLLM مفتوحة المصدر من BerriAI، تدعم نشر العديد من وكلاء الذكاء الاصطناعي في بيئة الإنتاج

المواضيع الرائجة

ShareYourUSStocksWinNvidia

WinGoldBarsWithGrowthPoints

IsraelStrikesIranBTCPlunges

BTC触底66000

ZECRalliesAgainstMarket

مُثبت