Vitalik propone un acuerdo de compromiso entre dos bandos de la IA: acordar de antemano que, si se presenta un caso extremo, se activará una pausa

Jinse Finance informa que el 11 de julio, el cofundador de Ethereum, Vitalik Buterin, publicó un texto para debatir la controversia sobre la IA superinteligente. Señaló que, en el ámbito de la IA, actualmente existen dos corrientes: una sostiene que la superinteligencia llegará necesariamente antes de 2040 y que, por lo tanto, debe controlarse cuanto antes; la otra considera que la IA es solo una tecnología ordinaria y que lo de “pausar” busca controlar a la humanidad. Vitalik dijo que no está seguro de cuál tiene razón y que está abierto a la idea de ralentizar o pausar; sin embargo, se opone a la narrativa de que las grandes empresas de IA están impulsando un “código abierto dañino”, ya que, en su opinión, eso es, en esencia, una concentración de poder.

Vitalik propuso un plan de compromiso: ambas partes pueden acordar con antelación que, si ocurren ciertos escenarios extremos (como una superpandemia o un desempleo masivo), se acepta activar una pausa de la IA; si esos escenarios no se presentan, entonces se avanza según la propuesta de la otra parte. Admitió que todas las soluciones tienen defectos y que la humanidad solo puede elegir entre “no perfecto” y “menos perfecto”; aun así, en ambos mundos vale la pena impulsar tecnologías defensivas como verificación formal, criptografía y hardware de seguridad.