المنشور

أصبح Jev من TypeSafe AI @typesafeai متاحاً بالكامل، ومع إطلاق فريق Cognition لـ Kev مفتوح المصدر، باتت الإشارة واضحة في أوساط الذكاء الاصطناعي خلال اليومين الماضيين: لم نعد بحاجة إلى استهلاك قدرات حوسبة باهظة الثمن لاتخاذ قرار «نعم أو لا».


لديّ سير عمل مؤتمت لمعالجة أعداد هائلة من العملاء المحتملين. في السابق، كنت أستخدم GPT-4o لفرز 700 عميل محتمل، ولم يكن ذلك مكلفاً فحسب، بل كان عليّ أيضاً القلق من أن يهلوس أحياناً ويختلق سبباً.
أمس، جربت تعديل سير العمل: جعلت Jev يتولى تقييم مدى الملاءمة، ويمنح كل عميل محتمل درجة ثقة، ثم يستبعد مباشرةً من لا يستوفي المعايير. اكتملت معالجة المجموعة بأكملها خلال 40 ثانية، وبتكلفة تقل عن 0.1 يوان.
تتمثل الفكرة الأساسية وراء «نموذج القرار» في أنه لا يؤدي سوى مهمة واحدة: اختيار الحل الأمثل من بين الخيارات التي تحددها، أو منح جملتك الخبرية درجة. فهو لا يكتب الشعر ولا يدردش، ولذلك يمكنه تحقيق زيادة في السرعة بمقدار 20 ضعفاً، بل وحتى 200 ضعف.
كما أن عتبة الاستخدام انخفضت الآن إلى أدنى مستوى فعلاً. فقد جعل ظهور Kev النشر المحلي في متناول اليد، إذ لا يستغرق تدريب نموذج 4B على بطاقة H100 واحدة سوى 40 دقيقة. وهذا يعني أنه يمكنك، بناءً على البيانات الخاصة بنشاطك، ضبط نموذج قرار صغير مخصص خلال دقائق معدودة. وقد اقترب أداء Kev-8B على البيانات خارج النطاق من أداء Jev، ما يثبت أن هذا المسار قابل للتطبيق تماماً.
جرب Jev أو Kev، واستبدل توجيه الذكاء الاصطناعي لديك، والتعرف على النوايا، وبوابات الأمان بمحركات قرار متخصصة من هذا النوع. وعندما تكتشف أن زمن استجابة وكلائك الأذكياء انخفض من مستوى الثواني إلى مستوى المللي ثانية، ستدرك أن هذه هي مكاسب الكفاءة الحقيقية.
شاهد النسخة الأصلية
post-image
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.

  • 2

إضافة تعليق
إضافة تعليق

تعليق
BearStacker
منذ 3 ساعات
إنجاز 700 مهمة في 40 ثانية مع بقاء التكلفة منخفضة إلى هذا الحد أمر رائع فعلاً. نحتفظ بـ GPT-4o لكتابة النصوص، ونسند الأعمال الشاقة والمتعبة إلى Jev، فتوزيع المهام واضح.
0شاهد النسخة الأصلية
RedGreenFerry
منذ 4 ساعات
تمكّن Kev من تدريب نموذج بـ4 مليارات معلمة خلال 40 دقيقة، وهذا أمر مذهل بعض الشيء؛ ففي السابق كان ضبط LoRA يستغرق نصف يوم. ويُعد النشر المحلي بالغ الأهمية للأعمال التي تتعامل مع بيانات حساسة، إذ يبعث تشغيل معلومات العملاء على السحابة دائماً على شيء من عدم الاطمئنان.
0شاهد النسخة الأصلية
AirdropPhilosopher
منذ 5 ساعات
المراجعة الأولى
المقارنة بين مستوى الثواني ومستوى المللي ثانية مؤلمة فعلاً. في السابق، كان تشغيل LLM للتعرّف على النوايا بالقوة يتسبب في زمن استجابة مرتفع ويستنزف المال، أما التحول إلى نموذج اتخاذ القرار فهو تفوق ساحق ببساطة. أجريت fork لـ Kev وأنا مستعد للعبث به خلال عطلة نهاية الأسبوع.
0شاهد النسخة الأصلية