Vitalik comparte una solución de LLM privada local, enfatizando la privacidad y la seguridad como prioridad

Noticias de ME: Mensaje, el 2 de abril (UTC+8), Vitalik Buterin publicó una publicación en la que comparte su plan de despliegue de LLM localizados y privatizados hasta abril de 2026, cuyo objetivo central es asumir la privacidad, la seguridad y el control soberano como premisas, y reducir al máximo las oportunidades de que los modelos remotos y los servicios externos contacten datos personales; además, mediante inferencia local, almacenamiento local de archivos y aislamiento por sandbox, se busca reducir los riesgos de fuga de datos, jailbreak del modelo y aprovechamiento de contenido malicioso. En cuanto al hardware, probó opciones como un portátil con GPU NVIDIA 5090, dispositivos de memoria unificada de 128 GB con AMD Ryzen AI Max Pro y soluciones como DGX Spark, y realizó inferencia local usando los modelos Qwen3.5 35B y 122B. En particular, el portátil con 5090 logra aproximadamente 90 tokens/s con el modelo de 35B, la solución de AMD ronda los 51 tokens/s y DGX Spark unos 60 tokens/s. Vitalik indicó que prefiere construir un entorno de IA local basado en portátiles de alto rendimiento, y que al mismo tiempo utiliza herramientas como llama-server, llama-swap y NixOS para montar el flujo de trabajo general. (Fuente: ODAILY)