ME News ニュース、4 月 2 日(UTC+8)、Vitalik Buterin は2026年4月までのローカライズされたプライベートLLM展開計画を共有し、コア目標はプライバシー、安全性、自主制御を前提とし、リモートモデルや外部サービスが個人データに接触する機会をできるだけ減らすことにあります。また、ローカル推論、ファイルのローカル保存、サンドボックス隔離などの方法を通じて、データ漏洩、モデルの脱獄、悪意のあるコンテンツの利用リスクを低減しています。 ハードウェア面では、NVIDIA 5090 GPU搭載のノートパソコン、AMD Ryzen AI Max Pro 128 GB統一メモリデバイス、DGX Sparkなどの方案をテストし、Qwen3.5 35Bと122Bモデルを用いたローカル推論を行いました。その中で、5090ノートパソコンは35Bモデルで約90トークン/秒、AMD方案は約51トークン/秒、DGX Sparkは約60トークン/秒を達成しています。Vitalikは、より高性能なノートパソコンを基盤としたローカルAI環境の構築を好み、同時にllama-server、llama-swap、NixOSなどのツールを用いて全体のワークフローを構築すると述べています。(出典:ODAILY)
VitalikはローカルプライベートLLMソリューションを共有し、プライバシーとセキュリティを最優先することを強調しました
ME News ニュース、4 月 2 日(UTC+8)、Vitalik Buterin は2026年4月までのローカライズされたプライベートLLM展開計画を共有し、コア目標はプライバシー、安全性、自主制御を前提とし、リモートモデルや外部サービスが個人データに接触する機会をできるだけ減らすことにあります。また、ローカル推論、ファイルのローカル保存、サンドボックス隔離などの方法を通じて、データ漏洩、モデルの脱獄、悪意のあるコンテンツの利用リスクを低減しています。 ハードウェア面では、NVIDIA 5090 GPU搭載のノートパソコン、AMD Ryzen AI Max Pro 128 GB統一メモリデバイス、DGX Sparkなどの方案をテストし、Qwen3.5 35Bと122Bモデルを用いたローカル推論を行いました。その中で、5090ノートパソコンは35Bモデルで約90トークン/秒、AMD方案は約51トークン/秒、DGX Sparkは約60トークン/秒を達成しています。Vitalikは、より高性能なノートパソコンを基盤としたローカルAI環境の構築を好み、同時にllama-server、llama-swap、NixOSなどのツールを用いて全体のワークフローを構築すると述べています。(出典:ODAILY)