Vitalik Buterin advierte que necesitamos defensas descentralizadas para manejar los riesgos de la IA

El co-fundador de Ethereum, Vitalik Buterin, ha expresado preocupaciones sobre los posibles peligros de los programas de Inteligencia Artificial (IA) sin restricciones.

En una publicación del 10 de enero en X, Buterin advirtió que la IA mal gestionada podría crear entidades inteligentes autorreplicantes que representan riesgos para la humanidad.

Él declaró:

“AI hecho de manera incorrecta está creando nuevas formas de vida inteligente auto-replicante independiente. AI hecho de manera correcta son trajes mecánicos para la mente humana. Si hacemos lo primero sin lo segundo, corremos el riesgo de un desempoderamiento humano permanente. Si hacemos lo segundo, una civilización humana superinteligente floreciente.”

Explicó que mientras algunos sistemas de IA, como los chatbots diseñados para mejorar las interfaces de usuario, son beneficiosos, otros podrían conllevar riesgos significativos. Específicamente, los agentes de IA que funcionan de forma autónoma durante períodos prolongados podrían desafiar eventualmente el control humano y desempoderar a la sociedad.

Para mitigar estos riesgos, Buterin propuso centrarse en sistemas de inteligencia artificial que complementen la inteligencia humana, transformándolos en herramientas que amplifiquen las capacidades colectivas en lugar de reemplazarlas.

Según él, este enfoque transformaría la IA en una herramienta poderosa para mejorar las capacidades humanas mientras se evitan riesgos innecesarios.

d/Acc

Una parte importante de su estrategia implica el concepto de Aceleración Defensiva Diferencial Descentralizada y Democrática (d/Acc). Este enfoque enfatiza el desarrollo de herramientas descentralizadas para abordar las amenazas emergentes relacionadas con la IA.

Buterin elaboró sobre esta idea en una reciente publicación de blog, describiendo d/Acc como un marco diseñado para descentralizar tecnologías defensivas. El objetivo es capacitar a individuos y comunidades para protegerse de los peligros potenciales planteados por los rápidos avances de la IA.

Esta estrategia permite una distribución más democrática del poder tecnológico al poner capacidades defensivas en manos de las comunidades. Por ejemplo, los sistemas descentralizados podrían monitorear, contrarrestar o incluso neutralizar actividades dañinas de la IA sin depender del control de arriba hacia abajo de los gobiernos o corporaciones.

Buterin explicó que d/Acc podría servir como salvaguarda en escenarios donde las tecnologías de IA avanzan de manera impredecible. Además, la democratización de la defensa garantiza que ninguna entidad única pueda dominar o explotar el potencial de la IA avanzada, fomentando un ecosistema tecnológico más equilibrado y resistente.

El cofundador de Ethereum también enfatizó las responsabilidades éticas de los desarrolladores en este campo en rápido desarrollo. Argumentó que enfoques descentralizados como d/Acc mejoran la seguridad colectiva y fomentan la transparencia y la colaboración en el desarrollo de IA.

Buterin escribió:

“Una idea muy amigable para d/acc es poner la responsabilidad en los propietarios o operadores de cualquier equipo que una IA tome el control (por ejemplo, mediante piratería) en el proceso de ejecutar alguna acción catastróficamente dañina. Esto crearía un incentivo muy amplio para hacer el trabajo duro de asegurar la infraestructura del mundo (especialmente la informática y la biología) lo más segura posible.”

Mencionado en este artículo