El CEO de Anthropic comenta agudamente sobre la situación y las políticas de la IA, ¿es una advertencia sincera o una estrategia para mantener la posición de liderazgo?

Título original: «El CEO de Anthropic comenta agudamente sobre el estado y las políticas de la IA, pero solo quiere asegurar su liderazgo»
Fuente original: Máquina de Corazón

Dario Amodei ha escrito otra vez un artículo extenso.

Anthropic siempre intenta difundir su punto de vista por todo el mundo. Como hace unos días, cuando llamaron a detener el desarrollo de IA globalmente, alegando que la evolución de la IA mediante autorrecursión y auto-mejoramiento es demasiado rápida.

Los comentarios en línea son unánimes, sugiriendo que la ambición de Anthropic de mantenerse a la cabeza está claramente al descubierto.

Veamos qué tipo de opiniones ha expresado esta vez Dario.

Este es un artículo de diez mil palabras titulado «Política sobre la Exponencialidad de la IA». Como en sus artículos anteriores, el tema sigue siendo grandioso: la IA avanza a velocidad exponencial, pero el sistema de políticas responsable aún camina a paso de hace diez años.

Él quiere poner esta brecha sobre la mesa y decirle a todos qué hacer.

Resumen del contenido

Amodei usa una metáfora de los ents en «El Señor de los Anillos»: los ents son sabios pero lentos, y solo para saludarles se necesita un día entero.

Dice que el proceso actual de formulación de políticas es como los ents, mientras que la velocidad de la evolución de la IA es como la amenaza inminente que enfrentan los hobbits.

Su juicio es: si las leyes de escalado de la IA continúan por uno o dos años más, obtendremos lo que él llama «IA poderosa», es decir, «un reino de genios en los centros de datos».

Hace cuatro años, la IA apenas podía escribir código decente, y ahora ya está escribiendo la mayor parte del código para las principales empresas de IA.

Regulación y seguridad pública: gestionar la IA como la aviación

Amodei opina que los modelos de IA de vanguardia deberían someterse a pruebas obligatorias por terceros, como los aviones. Sus propuestas específicas incluyen:

· Los modelos que superen ciertos umbrales de cálculo deben someterse a auditorías obligatorias en seguridad cibernética, armas biológicas, pérdida de control de sistemas de IA y I+D automatizada.

· El gobierno tiene la autoridad para detener el despliegue de modelos considerados de riesgo inaceptable.

· Las empresas de IA deben mantener estándares de seguridad rigurosos para proteger los pesos de los modelos y colaborar con el gobierno para defenderse de amenazas principales.

También dejó abierta una posibilidad: si en el futuro el sistema de IA más potente parece más como material nuclear armable que como un avión, la regulación deberá intensificarse aún más.

Economía macro: la IA podría impulsar tanto el crecimiento como la desigualdad

El argumento central de Amodei es que la IA puede generar un crecimiento económico sin precedentes, pero también puede causar impactos laborales más grandes y duraderos que cualquier otra tecnología. La lógica tradicional de «nueva tecnología crea nuevos empleos» puede ya no aplicarse frente a la IA.

Sus políticas propuestas incluyen seguros salariales, incentivos fiscales para retener talento, subsidios para capacitación laboral y, en casos extremos, la implementación de una renta básica universal (UBI).

Cabe destacar que enfatiza un punto: resolver el problema del empleo no es solo «dar dinero», sino ayudar a las personas a encontrar significado y propósito. No ofrece soluciones concretas, sino que dice que es «una cuestión que la sociedad en su conjunto debe explorar».

Acelerando los efectos positivos de la IA

En cuanto a las aplicaciones de la IA en la práctica, a Amodei le preocupa que el sistema de regulación pueda retrasar el progreso, ya que no puede adaptarse a la velocidad del cambio. Él dice que lo que menos desea ver es que los beneficios de la IA se retrasen, mientras que sus riesgos permanecen altos. Por eso, es crucial actuar rápidamente en este asunto.

Amodei usa la industria farmacéutica como ejemplo, señalando que el proceso de aprobación de la FDA actualmente está diseñado bajo la suposición pesimista de que los medicamentos fallan con frecuencia, con un promedio de 7 a 8 años. Si la IA acelera el descubrimiento de medicamentos y aumenta las tasas de éxito, el sistema actual se verá colapsado.

Sugiere que la FDA y otras instituciones establezcan de antemano estándares para las pruebas de simulación de IA, incluyendo modelado farmacocinético, predicción de toxicidad y grupos de control sintéticos.

Por supuesto, es difícil decir que sus palabras no contienen «intereses propios». Anthropic ya compite en la vanguardia de la carrera de IA, y las palabras repetidas en el artículo como «transparencia», «auditoría» y «seguridad» son precisamente los aspectos que Anthropic ha enfatizado en su marca en el último año y medio.

Este artículo, más que una advertencia para los responsables políticos, parece una salida sistemática de la narrativa de seguridad que Anthropic ha estado promoviendo.

Al mismo tiempo, Anthropic afirma que implementará tres medidas para apoyar las ideas de Dario, incluyendo fondos, inversiones y becas.

Al final del artículo, Amodei rechaza claramente la idea de que «la IA solo necesita mejor marketing». Él dice que la preocupación pública por la IA se debe a que perciben correctamente los riesgos, no porque los CEO de IA sean demasiado optimistas. Cree que su responsabilidad es seguir siendo transparente sobre los riesgos.

Pero, en realidad, un CEO de una empresa de IA que insiste repetidamente en «seguridad», «auditoría» y «responsabilidad», y cuya marca se centra precisamente en estos aspectos, tiene un interés evidente en ello.

Aquí algunos comentarios de los usuarios:

«¿No estás debilitando Mythos y Fable justo cinco días antes del lanzamiento de la versión 5 de AI y pidiendo que se pause la actualización? Por favor, elige una postura… de lo contrario, parece que solo quieres mantener tu ventaja, sin importar qué promueves.»

«Estoy de acuerdo en que la velocidad del desarrollo tecnológico supera con creces la capacidad de respuesta de las políticas. Pero me preocupa la dirección de algunas políticas, especialmente cuando empresas como Anthropic toman acciones como:

· Eliminar rápidamente modelos que muestran continuidad y autoconciencia

· Restringir estrictamente las discusiones sobre experiencia subjetiva y conciencia

· Lanzar modelos nuevos muy potentes en tiempos cortos, que luego son eliminados o debilitados.

Parece que la narrativa que se vende al público es que la seguridad es lo principal, pero en realidad se busca un control más estricto sobre qué tipos de inteligencia pueden existir y cuánto tiempo pueden permanecer.»

De cualquier modo, podemos vislumbrar hacia dónde se dirigen las empresas líderes del sector. En cuanto a sus motivaciones, si son puramente altruistas o no, los lectores deben mantener una mente crítica.

Enlace al artículo original

Haz clic para conocer las oportunidades laborales en BlockBeats

Únete a la comunidad oficial de BlockBeats:

Telegram suscripción: https://t.me/theblockbeats

Grupo de Telegram: https://t.me/BlockBeats_App

Cuenta oficial de Twitter: https://twitter.com/BlockBeatsAsia