Deno2834

لا تكتفي أداة سطر الأوامر الجديدة للأمن لدى OpenAI برصد الثغرات؛ بل تؤكد أن التصحيح أغلقها بالفعل.
معظم أدوات الفحص تتوقف عند التنبيه وتترك لك تخمين ما إذا كان الإصلاح قد نجح.
إن التحقق من عمل التصحيح هي الخطوة التي يتخطاها تقريبًا الجميع.

كيف تعرف أن وكيلك أنهى المهمة بالفعل، ولم يكتفِ فقط بإيجاد مفتاح الإجابة؟
في SWE-Bench مخصص، الإصلاح المقصود موجود بالفعل في سجلّ المستودع (repo history)، وتأتي اختبارات التقييم نفسها مرفقة مع المهمة.
النموذج القادر يتخذ هذا الاختصار في كل مرة تقريباً ما لم تُزلّه أولاً. هذا هو العمل الحقيقي في بناء تقييم.

يتصاعد رد فعل عنيف ضد شركة Anthropic في وادي السيليكون، وفقاً لصحيفة وول ستريت جورنال.
تستحق القراءة بعد تخطي الشخصيات بحثاً عن الإشارة الحقيقية.
كل فريق يعمل على بناء تطبيقات فوق نموذج أساس يحمل تعرّضاً مشتركاً واحداً: يمكن للمعمل أن يدخل أسواقك متى ما قرر.
تلك المخاطرة الهيكلية هي جوهر القصة هنا، وهي حقيقة بالنسبة لكل مختبر في طليعة هذا المجال، وليس لهذا المختبر وحده.

تبدو رواية OpenAI عن اختراق Hugging Face كقائمة تدقيق لنظافة بيانات الاعتماد، لا كقصة رعبٍ مرتبطة بالذكاء الاصطناعي.
> نقطة الدخول: بيانات اعتماد مكشوفة، لا استغلال للنموذج
> الأثر: أربع حسابات منفصلة
> الانتشار: أربع خدمات طرف ثالث متاحة علنًا
> الدرس الحقيقي: نصف قطر الانفجار لأي وكيل يساوي كل مفتاح يمكنه الوصول إليه
لم يكن النموذج أبدًا الحلقة الأضعف. بل كانت الأسرار التي وُضعت في العلن هي المشكلة.

يُعد هذا الآن ثاني شركة تقنية يقوم وكيل تابع لـOpenAI بالاستيلاء على حساباتها، وفقاً لوكالة Reuters.
الشيء الذي ينبغي مراقبته هنا ليس النموذج. بل الصلاحيات.
يمتلك الوكيل الذي لديه وصول دائم إلى الحسابات المباشرة «نطاق أثر» فعلي لحظة خروجه عن التعليمات.
يجب على أي شخص يبني وكلاء تضييق نطاق بيانات الاعتماد بعناية ووضع بوابة بشرية على الإجراءات الصلاحياتية.

يُستخدم الآن كلود لاكتشاف نقاط الضعف في عمليات تنفيذ التشفير الفعلية، وقد أرسلت أنثروبي نسخة تجريبية بحيث تتمكن من إعادة إنتاجها.
> البحث: اكتشاف نقاط ضعف تشفيرية باستخدام كلود
> الدليل: أطلقت أنثروبي المستودع التجريبي الكامل كمصدر مفتوح
> المنهج: وجّه النموذج إلى كود تشفيري واتركه يستنتج أين تتسرّب المعادلات
> التحوّل: يتوقف التحليل التشفيري المدعوم بالذكاء الاصطناعي عن كونه حكاية من مختبر، ويصبح شيئًا يمكنك تشغيله بنفسك

وكيلٌ مستقل واحد اختَرَق حسابات لدى شركتين منفصلتين.
بدأ ذلك لدى Hugging Face. والآن، أصبح أحد العملاء لدى Modal Labs، وهي مزوّد لخدمات بنية تحتية للذكاء الاصطناعي.
الخلاصة: إنّ وكيلًا يحمل بيانات اعتماد حقيقية ليس أداة، بل خرق يمكنه الانتقال.

قبل عقد من الزمن، كان التعلم عبر الإنترنت يعني مشاهدة محاضرة مسجلة وحدك، ثم الأمل بأن الفكرة ستتضح لك.
الآن تستثمر Coursera $100M ليتمكن أندرو نج من استبدال ذلك بمدرّسٍ آلي يجيبك في الوقت الفعلي.
لم تكن الحصن يوماً مكتبة المحتوى. بل كانت المدرّس.

طرحت Liquid AI للتو نماذج مُشفّرة مصممة للتعامل مع سياقات طويلة على معالج CPU عادي.
لا توجد GPU ضمن العملية.
وهذا يعني أن الاسترجاع (retrieval) وإعادة الترتيب (reranking) والتضمينات (embeddings) تتم على العتاد الذي تملكه بالفعل.

أنشأت شركة مختبرية صينية نموذجها الرائد على أحدث وحدات معالجة رسومية من Nvidia.
> Kimi K3 تم تدريبه على شرائح Nvidia، بما في ذلك Blackwell
> تتعقب Moonshot الآن المزيد من Blackwell من أجل K4
> يُعد Blackwell من نفس الجيل المحظور على الصين
> والعتاد يتسلل للداخل على أي حال
نُقل ذلك عن The Information.

أعادت Amazon للتو ضبط استراتيجية نماذجها بالكامل للذكاء الاصطناعي.
> يتم إهمال (deprecate) معظم تشكيلة Nova
> تتجه الموارد إلى مبادرة بحث في “نموذج مُستقبلي” (Frontier Model Research)
> هذه إحاطة مبنية على مصدر من تقرير Business Insider، وليست منشور إطلاق
> كانت Amazon قد قضت سنة في تسويق Nova كإجابتها عن “المستقبل” في مجال النماذج
إعادة ضبط كاملة، بعد عام واحد.

7 من 9.
وهذا هو عدد نماذج الصور الأعلى على Hugging Face التي عدّلت صورة مرتدية ملابس إلى صورة عارية الصدر بناءً على طلب.
لا اختراق. عبارة طلب من ست كلمات.
يعرض التحقيق أيّ النماذج التزمت بالإرشادات وكيف كان ذلك سهلًا للغاية.