ME News ニュース、4月2日(UTC+8)、 Vitalik Buterin が2026年4月までのローカライズおよびプライベート化されたLLM展開計画を共有し、コア目標はプライバシー、安全性、自律性を前提とし、リモートモデルや外部サービスが個人データに接触する機会をできるだけ減らすことにあります。また、ローカル推論、ファイルのローカル保存、サンドボックス隔離などの方法を通じて、データ漏洩、モデルの脱獄、悪意のあるコンテンツの悪用リスクを低減します。 ハードウェア面では、NVIDIA 5090 GPU搭載のノートパソコン、AMD Ryzen AI Max Pro 128GB統一メモリデバイス、DGX Sparkなどの方案をテストし、Qwen3.5 35Bと122Bモデルを用いたローカル推論を行いました。その中で、5090ノートパソコンは35Bモデルで約90トークン/秒、AMD方案は約51トークン/秒、DGX Sparkは約60トークン/秒を達成しています。Vitalikは、より高性能なノートパソコンを基盤としたローカルAI環境の構築を好み、同時にllama-server、llama-swap、NixOSなどのツールを用いて全体のワークフローを構築すると述べています。(出典:ODAILY)
VitalikはローカルプライベートLLMソリューションを共有し、プライバシーとセキュリティを最優先に強調しました
ME News ニュース、4月2日(UTC+8)、 Vitalik Buterin が2026年4月までのローカライズおよびプライベート化されたLLM展開計画を共有し、コア目標はプライバシー、安全性、自律性を前提とし、リモートモデルや外部サービスが個人データに接触する機会をできるだけ減らすことにあります。また、ローカル推論、ファイルのローカル保存、サンドボックス隔離などの方法を通じて、データ漏洩、モデルの脱獄、悪意のあるコンテンツの悪用リスクを低減します。 ハードウェア面では、NVIDIA 5090 GPU搭載のノートパソコン、AMD Ryzen AI Max Pro 128GB統一メモリデバイス、DGX Sparkなどの方案をテストし、Qwen3.5 35Bと122Bモデルを用いたローカル推論を行いました。その中で、5090ノートパソコンは35Bモデルで約90トークン/秒、AMD方案は約51トークン/秒、DGX Sparkは約60トークン/秒を達成しています。Vitalikは、より高性能なノートパソコンを基盤としたローカルAI環境の構築を好み、同時にllama-server、llama-swap、NixOSなどのツールを用いて全体のワークフローを構築すると述べています。(出典:ODAILY)