Віталік поділився рішенням локальної приватної LLM, підкреслюючи пріоритет конфіденційності та безпеки

ME News повідомлення, 2 квітня (UTC+8), Віталік Бутерін опублікував допис, де поділився власним планом розгортання локальних та приватизованих LLM станом на квітень 2026 року; ключова мета — взяти за основу конфіденційність, безпеку та автономний контроль, максимально зменшивши можливості контакту віддалених моделей та зовнішніх сервісів із персональними даними, а також знизити ризики витоку даних, обходу захистів моделей (jailbreak) і використання зловмисного контенту завдяки локальному виведенню, локальному зберіганню файлів та ізоляції в пісочниці. У частині обладнання він протестував ноутбук із NVIDIA 5090 GPU, пристрої з AMD Ryzen AI Max Pro та єдиною пам’яттю 128 GB, а також рішення на кшталт DGX Spark, і виконав локальне виведення за допомогою моделей Qwen3.5 35B та 122B. Зокрема, на 5090-ноутбуці для 35B-моделі швидкість сягала приблизно 90 tokens/s, для AMD-варіанта — близько 51 tokens/s, для DGX Spark — приблизно 60 tokens/s. Віталік зазначив, що йому більше до вподоби будувати локальне AI-середовище на основі високопродуктивних ноутбуків, а для створення загального робочого процесу використовувати інструменти на кшталт llama-server, llama-swap та NixOS. (Джерело: ODAILY)