Vitalik comparte una solución de LLM privada local, enfatizando la privacidad y la seguridad como prioridad

Noticias de ME: mensaje, 2 de abril (UTC+8). Vitalik Buterin publicó una publicación en la que comparte su plan de despliegue de LLM localizado y privatizado a abril de 2026. El objetivo central es tomar la privacidad, la seguridad y el control autónomo como premisas, reducir al máximo las oportunidades de que los modelos remotos y los servicios externos contacten con datos personales, y disminuir los riesgos de filtración de datos, “model jailbreaking” y el uso malicioso de contenido mediante el razonamiento local, el almacenamiento local de archivos y el aislamiento por sandbox. En el aspecto de hardware, probó soluciones como portátiles con GPU NVIDIA 5090, dispositivos con memoria unificada AMD Ryzen AI Max Pro de 128 GB y equipos como DGX Spark, y realizó inferencia local utilizando modelos Qwen3.5 35B y 122B. En particular, el portátil con 5090 alcanza alrededor de 90 tokens/s con el modelo de 35B, la solución AMD alrededor de 51 tokens/s y DGX Spark alrededor de 60 tokens/s. Vitalik indica que prefiere construir un entorno local de IA basado en portátiles de alto rendimiento, y a la vez usar herramientas como llama-server, llama-swap y NixOS para montar el flujo de trabajo general. (Fuente: ODAILY)