فيتاليك يشارك خطة LLM الخاصة المحلية، مع التأكيد على أولوية الخصوصية والأمان

أخبار ME News، 2 أبريل (UTC+8)، نشر فيتاليك بوتيرين منشورًا شارك فيه خطته لتطبيق نشر LLM المحلي والخاص حتى أبريل 2026، بهدفه الأساسي هو جعل الخصوصية والأمان والتحكم الذاتي هي الأساس، وتقليل فرص تعرض البيانات الشخصية للاقتران بواسطة النماذج عن بُعد أو الخدمات الخارجية قدر الإمكان، وتقليل مخاطر تسريب البيانات واستغلال محتوى خبيث أو تجاوز القيود على النموذج من خلال الاستدلال المحلي وتخزين الملفات محليًا وعزل الحماية (sandbox) وغيرها من الطرق. من ناحية الأجهزة، اختبر جهازًا محمولًا مزودًا بوحدة GPU NVIDIA 5090، ومعدات بسعة ذاكرة موحدة 128 جيجابايت من AMD Ryzen AI Max Pro، وخيارات مثل DGX Spark، كما أجرى استدلالًا محليًا باستخدام نماذج Qwen3.5 35B و 122B. من بينها، يمكن للكمبيوتر المحمول المزود بـ 5090 أن يصل إلى حوالي 90 token/s مع نموذج 35B، بينما تبلغ سرعة حل AMD حوالي 51 token/s، ويصل DGX Spark إلى حوالي 60 token/s. ويذكر فيتاليك أنه يفضل أكثر بناء بيئة ذكاء اصطناعي محلية اعتمادًا على حواسيب محمولة عالية الأداء، مع استخدام أدوات مثل llama-server و llama-swap و NixOS لبناء سير العمل المتكامل. (المصدر: ODAILY)