Así que hay una historia salvaje sobre cómo uno de los mayores fondos de guerra en políticas de IA en el mundo comenzó con una moneda de perro y un armario en Canadá. Vitalik Buterin acaba de explicar cómo sucedió todo, y honestamente, se ha vuelto mucho más complicado de lo que cualquiera esperaba.

En 2021, los creadores de Shiba Inu hicieron un movimiento que fue pura genialidad de marketing: depositaron una gran cantidad de tokens SHIB en la cartera de Vitalik sin pedir permiso. La jugada era obvia: poner en los materiales de marketing "Vitalik posee la mitad de nuestra oferta" y aprovechar el hype. Excepto que los tokens en realidad se dispararon en valor a más de $1 mil millones. Vitalik quería salir antes de que explotara la burbuja, lo que llevó a ese momento absurdo en el que tuvo que llamar a su madrastra en Canadá y pedirle que entrara en su armario, leyera un número de 78 dígitos de un papel, y lo sumara a otro número de 78 dígitos de su mochila. Así es como se liquida una fortuna de shiba inu cuando no estás físicamente allí.

Logró vender lo que pudo por ETH y donó $50 millones a GiveWell. Pero todavía tenía montañas de SHIB, así que dividió el resto. La mitad fue para CryptoRelief para infraestructura médica en India y su propia investigación. La otra mitad—aproximadamente $500 millones tras la liquidación—fue para el Instituto del Futuro de la Vida, una organización centrada en riesgos existenciales de la IA, biotecnología y armas nucleares.

Aquí es donde se pone interesante. FLI originalmente presentó a Buterin una hoja de ruta que cubría las principales categorías de riesgo y "iniciativas pro-paz y pro-epistemología". Él pensó que podrían retirar tal vez $10 a $25 millones, dado lo delgada que era la liquidez de SHIB. En cambio, lograron una salida de $500 millones. Una moneda meme que nadie tomó en serio acabó creando un momento filantrópico de mil millones de dólares.

Pero luego FLI cambió de rumbo de manera radical. Según Buterin, se desplazaron hacia "acción cultural y política como método principal"—una desviación bastante importante del enfoque original. Su preocupación es real: la acción política coordinada a gran escala con enormes fondos tiende a salir mal. Puede conducir a resultados no deseados, generar reacciones adversas y terminar resolviendo problemas de maneras que son tanto autoritarias como frágiles.

Señaló la estrategia de bioseguridad de FLI como ejemplo. Su enfoque principal ha sido incorporar límites en los modelos de IA para que se nieguen a crear resultados peligrosos. Pero Buterin ve esto como frágil porque los jailbreaks y el ajuste fino hacen que esas restricciones sean fáciles de eludir. Siguiendo esa lógica hasta su extremo, se llega a "prohibir la IA de código abierto" o "apoyar a una buena empresa de IA y no dejar que nadie más compita". Enfoques así fracasan estrepitosamente—hacen que el resto del mundo sea tu enemigo.

También hay un problema estructural con las estrategias centradas en la regulación. Cuando los gobiernos restringen tecnologías peligrosas, las organizaciones de seguridad nacional quedan exentas, y esas mismas organizaciones a menudo son parte del riesgo. Es una contradicción inherente.

Dicho esto, Buterin reconoció que algunos de los trabajos recientes de FLI han sido sólidos. Se ha sentido alentado por su declaración de "IA pro-humana" que aparentemente une a conservadores, progresistas, libertarios y países de América, Europa y China. También están investigando formas de prevenir la concentración de poder en la IA, lo cual es importante.

Pero el problema principal sigue siendo: una donación que Buterin nunca planeó hacer, con tokens que nunca quiso tener, terminó financiando una organización que se movió en una dirección en la que no se inscribió. Ahora están desplegando cientos de millones de dólares de maneras que le incomodan. Él planteó estas preocupaciones a FLI en privado varias veces antes de hacerlo público. La fortuna de shiba inu se convirtió en algo mucho más complejo de lo que cualquiera anticipó.