فيتاليك يشارك خطة LLM الخاصة المحلية، مع التأكيد على الأولوية للخصوصية والأمان

رسالة ChainCatcher: شارك فيتاليك بوتيرين منشورًا يوضح فيه حلول نشر نماذج لغوية كبيرة (LLM) محليّة وخاصة حتى أبريل 2026، وهدفها الأساسي هو جعل الخصوصية والأمان والتحكم الذاتي أساسًا، وتقليل قدر الإمكان فرص وصول النماذج البعيدة والخدمات الخارجية إلى البيانات الشخصية، والحد من مخاطر تسريب البيانات، وتجاوز النموذج للقيود (jailbreak)، واستغلال المحتوى الخبيث عبر الاستدلال المحلي وتخزين الملفات محليًا وعزلها داخل بيئات حظر/عزل (sandbox) وغيرها من الأساليب.

من ناحية العتاد، اختبر حلولًا مثل أجهزة محمولة مزودة بوحدة معالجة رسومية NVIDIA 5090، وأجهزة بسعة 128 جيجابايت من الذاكرة الموحدة (مع معالج AMD Ryzen AI Max Pro)، بالإضافة إلى حلول مثل DGX Spark، كما أجرى استدلالًا محليًا باستخدام نماذج Qwen3.5 بحجمي 35B و122B.

ضمن ذلك، يحقق الكمبيوتر المحمول المزود بـ 5090 حوالي 90 token/s عند نموذج 35B، بينما يصل حل AMD إلى نحو 51 token/s، ويحقق DGX Spark نحو 60 token/s. وذكر فيتاليك أنه يفضّل بناء بيئة ذكاء اصطناعي محلية اعتمادًا على أجهزة محمولة عالية الأداء، مع استخدام أدوات مثل llama-server وllama-swap وNixOS لبناء سير العمل الكامل.