El título original del video: Dentro la Mente del CEO de Anthropic Dario Amodei | The Circuit | Entrevista Extendida

Fuente original del video: Bloomberg Original
Traducción original: Web3 Ciudad Celestial

Nota del editor: El CEO de Anthropic, Amodei, se encuentra en una posición muy incómoda. Por un lado, posee el modelo de IA más avanzado del mundo, y por otro, accidentalmente fue afectado por una orden de prohibición del gobierno de EE. UU. que ha llevado a su desaparición global, incluso para los no estadounidenses en su equipo.

Cómo terminará esto aún no se sabe, se dice que Amodei continúa esforzándose, así que pueden seguir atentos y disfrutando del espectáculo. Pero podemos vislumbrar, en esta última entrevista con Emily, la mentalidad de quien lidera la primera fábrica de IA de código, llena de controversias.

En el mapa de poder actual en Silicon Valley, Anthropic ocupa una posición sumamente especial y tensa. Como el rival más fuerte de OpenAI, fue fundada por un grupo de investigadores de élite que abandonaron por diferencias en valores.

Cuando el CEO Amodei habla bajo los reflectores sobre el crecimiento exponencial de la IA, muestra una calma rara, casi quirúrgica. Esto no es solo una competencia tecnológica, sino un juego profundo sobre confianza, seguridad y cómo la civilización humana debe comportarse ante una explosión de inteligencia.

Resumen completo

La entrevista más reciente profundiza en el proceso mental del CEO de Anthropic, Amodei, frente al crecimiento exponencial de la IA, abordando desde los secretos de su salida de OpenAI, las decisiones sobre el modelo de negocio, hasta el impacto en el empleo, la ciberseguridad y la geopolítica.

Amodei explica en detalle cómo Anthropic busca equilibrar el poder mediante mecanismos como un "Fideicomiso de Beneficio a Largo Plazo", y en su afán de liderar en tecnología, establece "líneas rojas" y retrasa el lanzamiento de modelos de alto riesgo (como Mythos) para practicar sus valores de seguridad.

Cabe señalar que las declaraciones de Amodei han sido bastante críticas con las grandes potencias orientales; cada uno puede juzgar por sí mismo.

Puntos clave

· La industria de la IA está en una fase de "crecimiento exponencial estable", donde la acumulación de cambios cuantitativos eventualmente genera una explosión cualitativa.

· La confianza es la base de la colaboración en IA; Anthropic aboga por que los actores confiables unan esfuerzos para establecer estándares del sector.

· Los modelos empresariales y los valores de seguridad en IA son más compatibles, evitando la competencia en contenidos adictivos y de baja calidad en el mercado de consumo.

· Frente al riesgo de desempleo por IA, la sociedad debe anticiparse y diseñar políticas macroeconómicas, buscando un juego de suma cero en el que se haga más con los mismos recursos.

· La aplicación militar debe seguir la línea de "el humano en el ciclo", respetando las líneas rojas de vigilancia masiva y armas totalmente autónomas.

Aquí la entrevista completa:

Presión y experiencia del crecimiento exponencial

Emily Zhang: ¿Cuánto duermes tú?

Dario Amodei: Nunca he sido de dormir mucho. Solo puedo decir que estoy aprendiendo el arte de relajarse y dormir en momentos de estrés extraordinario.

Emily Zhang: Todo va demasiado rápido. ¿Cómo se siente estar en medio de esto?

Dario Amodei: Es una sensación de crecimiento exponencial. Como si, por ejemplo, viajaras en una nave espacial a relatividad cercana a la velocidad de la luz alejándote de la Tierra. La relatividad especial dice que, al despertar después de dormir, en la Tierra habrán pasado dos días. Entonces, tienes que resolver en un día lo que habría tomado dos días.

Luego vuelves a dormir, acelerando aún más, y en la Tierra ya han pasado tres días. Al día siguiente, cuatro días. Esa sensación es más o menos así.

Emily Zhang: ¿Te preocupa mucho qué te encontrarás al despertar?

Dario Amodei: Ya hay suficientes problemas claros y urgentes que atender, y mientras los resuelvo, también pienso en cómo prepararnos. Pero creo que la paranoia o el miedo a lo que uno enfrentará al despertar no ayuda en nada. He estudiado a quienes han enfrentado situaciones de alta presión en la historia. Hay que aprender a responder racionalmente, sin exagerar los peligros.

Este estado de ir de "no me preocupo" a "¡Dios, hoy tenemos que estar en pánico!" y viceversa, creo que es un síntoma de decisiones inmaduras. La verdadera madurez en decisiones consiste en aceptar esto, sin ignorarlo, pero sin caer en pánico.

De hecho, la situación se vuelve cada vez más arriesgada, pero hay que responder con racionalidad, como un cirujano en una operación, o un oficial en una acción militar. Cualquier persona que tome decisiones que afectan a muchos debe hacerlo con racionalidad, entendiendo los riesgos, pero manteniendo la calma básica.

Por ejemplo, ayer mi hijo me pidió usar mi cuenta de Claude. Le dije que no, que necesito mis tokens. En el mercado de consumo, cada vez vemos más estas aplicaciones; originalmente queríamos ser una empresa principalmente B2B, pero aunque no invertimos mucho en el mercado de consumo, este crece rápidamente.

Emily Zhang: Estás en el centro del universo de la IA, ¿cómo te sientes?

Dario Amodei: Curiosamente, en toda mi carrera, especialmente desde que entré en Anthropic, he experimentado un crecimiento exponencial estable.

Esa sensación de crecimiento estable es: que no pasa nada, no pasa nada, no pasa nada, y de repente, pasa algo pequeño, y de repente, explota de forma salvaje. Esa es la experiencia del mundo. Es también la experiencia del tamaño de la empresa en comparación con otras y con el mundo.

He estado mirando ese gráfico mucho tiempo, y digo: probablemente, en este momento, seremos la empresa de IA con mayores ingresos y valoraciones. Y así ha sido, ha pasado. Entonces, en cierto sentido, no me sorprende, porque la curva en el gráfico es muy suave.

Pero, desde otra perspectiva, cuando las cosas realmente suceden, ves más detalles y colores, y eso sí que sorprende.

Siempre recordamos esas preguntas que nos hacemos: ¿cómo entrenar modelos excelentes? ¿Cómo aplicarlos en productos de calidad? ¿Cómo garantizar que todo sea seguro? ¿Cómo gestionar los riesgos sociales que surgen al ayudar a la gente? Todo esto son las mismas preguntas, solo que con una lupa mucho más grande.

Contexto de crecimiento y espíritu de Silicon Valley

Emily Zhang: ¿Cómo era tu infancia en San Francisco? Sé que tu padre fue artesano del cuero y tu madre trabajaba en una biblioteca. ¿Qué impacto tuvo eso en ti?

Dario Amodei: En esa época, la revolución de internet ocurría a mi alrededor, pero no me interesaba. Solo me interesaba estudiar matemáticas, dibujar, explorar el universo, leer ciencia ficción. En general, ese era mi entorno. Creo que solo tenía una curiosidad muy fuerte por el mundo.

Emily Zhang: Creciste en un lugar llamado centro tecnológico, y ahora también es el centro de la IA. ¿Qué factores moldearon tu visión del mundo en esa ciudad?

Dario Amodei: Sí, creo que existe esa mentalidad de no seguir a la multitud, valorar el individualismo y aceptar que "estar un poco loco" no está mal. Gran parte de eso, seguramente, influyó en mí de forma sutil.

Escucharás historias, por ejemplo, que en algunos países de Europa o en otras regiones, pensar diferente a la norma suele ser reprimido, visto como raro, o incluso considerado una locura.

Admito que tengo muchas críticas a Silicon Valley, pero una cosa buena que tiene es que fomenta una idea: que incluso si todos los expertos están en contra, no importa. Si tienes una visión coherente y un marco de valores, debes seguirla, eso es lo importante. Quizá no funcione, pero si funciona, puede tener un efecto de cola larga, donde en ciertos ámbitos puedas profundizar y, eventualmente, descubrir un filón de oro. Esa mentalidad me parece muy valiosa.

Emily Zhang: Tú, Daniela, tu hermana y su esposo Holden Karnovsky vivieron juntos en un piso compartido en 2016. ¿De qué discutían en ese entonces?

Dario Amodei: Creo que en ese momento, justo cuando empezaba el proyecto Open Philanthropy, Holden era el responsable. Yo era biólogo, ayudaba en temas de salud en países en desarrollo o en investigación biológica. Daba consejos sobre qué áreas tenían potencial, cuáles no.

Diferencias clave que te llevaron a dejar OpenAI

Emily Zhang: Tu decisión de abandonar OpenAI se convirtió en leyenda en Silicon Valley. ¿Qué pasó realmente? Dejando de lado las narrativas, ¿cuál es la cuestión esencial? ¿En qué aspectos discrepaban?

Dario Amodei: Mira, voy a decirlo muy claramente. Cuando construyes tecnología poderosa, enfrentas muchos desafíos, y Anthropic los enfrenta todos los días. No sabemos si las decisiones que tomamos son correctas o incorrectas.

Por ejemplo, en temas de seguridad, hay muchas controversias razonables. Hemos tenido desacuerdos con ellos, pero hay que entender que esto no es motivo suficiente para irse. La gente aquí ha tenido diferencias conmigo, y entre ellos también hay desacuerdos.

Pero cuando no puedes confiar en alguien, cuando sientes que sus valores no son los que dicen ser, o que no son sinceros, cuando ves comportamientos inquietantes o falta de honestidad, eso hace muy difícil seguir trabajando en la empresa y confiar en ella. Al final, si no compartes una visión y ya no confías en la otra parte, ¿para qué seguir discutiendo?

La solución es seguir caminos separados: tú haces lo tuyo, ellos hacen lo suyo. Yo acepto completamente eso: actuamos a nuestra manera, ellos a la suya. Veremos quién triunfa en el mercado, quién en la opinión pública. Creo que estas verdades valen más que mil palabras y que son más convincentes que cualquier especulación dramática sobre quién se fue y por qué.

Debemos entender que estamos dando un ejemplo de cómo desplegar responsablemente esta tecnología. Si tienen objeciones, que presenten argumentos. No hay mucho más que decir al respecto.

Colaboración en la industria y reconstrucción de confianza

Emily Zhang: En la cumbre de IA en India, hubo un momento en que tú y Sam Altman parecían evitar darse la mano en el escenario. ¿Qué pasó?

Dario Amodei: La situación fue que la conferencia estuvo muy desorganizada. Ambos subimos en el último momento, cambiaron nuestro orden de entrada, y nos tomaron una foto, luego nos ordenaron tomarnos de las manos. Si has asistido a este tipo de cumbres —no quiero criticar a India— pero todo evento internacional con jefes de Estado suele ser caótico.

Emily Zhang: Pero todos se dieron la mano. Por favor.

Dario Amodei: Mira, no sé qué decirte. En ese momento, Narendra Modi estaba en el escenario y de repente pidió que todos se tomaran de las manos.

Emily Zhang: Está bien, está bien.

Narrador: Mira, Sam y Elon se están acusando mutuamente. Parece que no te cae bien Sam.

Emily Zhang: Si los desarrolladores de las tecnologías más importantes del mundo no pueden darse la mano en el escenario, ¿cómo podemos confiar en que colaborarán en temas de riesgos existenciales?

Dario Amodei: Eso es lo que quiero decirte. Entre los participantes en la construcción de esta tecnología, hay diferencias enormes en su nivel de confianza y credibilidad. Creo que eso significa que, en realidad, las personas piensan que nadie confía en nadie, y no creo que sea así.

Conozco a Demis Hassabis, que construye Gemini, un modelo que compite con Claude. Lo conozco desde hace 15 años. Hemos colaborado en muchos temas. Compramos recursos de Google. Intercambiamos ideas sobre seguridad con frecuencia.

Por eso, mi opinión es que, en primer lugar, algunos actores son más confiables que otros. Y también confío en algunos actores fuera de Anthropic. Creo que son confiables. Lo que debe suceder, en mi opinión, es que los actores confiables se unan para hacer frente a los que no lo son, obligando a todos a seguir estándares similares.

Con experiencia, sé que algunas personas no hacen lo correcto por sí mismas. Pero si la mayoría en la industria actúa bien, los demás se verán obligados a seguir la corriente. Es una versión positiva: motivar a otros a hacer lo correcto.

Es como si Demis y yo nos motiváramos mutuamente. Él trabaja en AlphaFold, y nosotros en biología, en explicabilidad. Comenzaron a investigar en explicabilidad. Ni siquiera es competencia real.

Todo esto porque cada empresa hace cosas muy interesantes. Otras empresas las ven interesantes y quieren probarlas también. Queremos experimentar, ver si podemos innovar en esas áreas. Esa es la cara de la competencia en la cima: la "zanahoria". Y también la "palo", o la "zanahoria oculta", que es que estas personas están haciendo lo correcto. Si no lo hacen, parece que las cosas irán mal.

Vemos comportamientos así: aunque hacen lo correcto, intentan disfrazarlo, insinuando que tienen intenciones malas o malvadas, lo cual es previsible. Pero creo que esa es la forma en que integramos la industria y promovemos la colaboración.

Modelo de negocio: compatibilidad entre empresa y valores

Emily Zhang: Antes, otros estaban enfocados en aplicaciones de consumo llamativas y divertidas. Tú apostaste por el código y el sector empresarial, y Claude Code fue un gran éxito, igual que Claude Co-work. ¿Por qué tomaste esa decisión? ¿Fue una elección basada en valores o en negocios?

Dario Amodei: Cuando fundamos Anthropic, lo más importante, lo que siempre ha sido clave, es nuestro deseo interno. Queremos hacer las cosas bien. Pero hay que preguntarse: para financiar estos modelos, que son extremadamente caros de crear, la empresa necesita un modelo de negocio adecuado. ¿El modelo de negocio puede obstaculizar la realización de los valores?

Esa cuestión siempre está presente. Pero, en base a mi experiencia en otras empresas y observando a otras, aprendí que: si eliges un modelo de negocio que entra en conflicto con tus valores en lo más profundo, estarás en aprietos. O traicionas tus valores, o te quedas atrás.

Al final, te enfrentas a una disyuntiva difícil; aunque hay formas de evitarla, sigue siendo un escenario muy complicado. Es mucho mejor escoger un modelo de negocio que sea compatible con tus valores.

Al reflexionar sobre esto, pensamos: ya hemos visto cómo en las redes sociales y en el consumo, parece que fomentan la interacción y, en algunos casos, la adicción. La lógica detrás de contenidos de baja calidad y producidos en masa, impulsados por la publicidad, es maximizar el tiempo de atención invertido.

Pero si miramos al sector empresarial, nuestro objetivo es que estos modelos sean útiles para las personas. Cuando pienso en todas las cosas positivas que la IA puede hacer, siempre advierto sobre los posibles efectos negativos, pero en esencia, creemos que lo positivo superará lo negativo. Muchas aplicaciones positivas son, en realidad, aplicaciones empresariales.

Queremos usar IA para curar enfermedades que antes no tenían cura, lo cual requiere colaboración con biotecnológicas, farmacéuticas y académicas. Todo eso son empresas, y queremos que la IA haga que la energía sea más barata y eficiente. Todo eso es sector empresarial.

También queremos usar IA para mejorar la educación. La mayoría de esas aplicaciones son para empresas. Queremos usar IA para resolver problemas de salud y desarrollo en países en vías de desarrollo. Aunque sean ONG, en esencia, son empresas. Queremos impulsar el crecimiento económico. Eso también es sector empresarial.

Además, hay otro factor: las empresas valoran mucho la confianza y las relaciones a largo plazo. Las aplicaciones de consumo a veces parecen un truco de marketing, mientras que en el sector empresarial lo importante es construir relaciones de colaboración: trabajar con una misma compañía durante años, cumplir lo prometido, generar confianza. Eso está en sintonía con nuestro objetivo de desplegar estos modelos de forma responsable y segura. Por eso, tener un modelo de negocio que encaje con nuestros valores nos favorece mucho.

No digo que no haya conflictos ocasionales, ni que no debamos tomar decisiones difíciles, pero creo que esas decisiones son mucho menos frecuentes que en otros escenarios.

Ventaja competitiva y el "fin del SaaS"

Emily Zhang: Los desarrolladores pueden cambiar de Claude a GPT o Gemini en una tarde. ¿Es posible mantener una ventaja a largo plazo en esta industria? ¿Y cuánto tiempo necesita un competidor serio para copiar lo que ustedes han construido?

Dario Amodei: La calidad del modelo es lo más importante. Por ejemplo, actualmente estamos muy por delante en calidad. Aunque hay cierta inercia, nunca dependí de ella, ni Anthropic. Nunca pensamos en "alta retención de usuarios" o en que no se cambien fácilmente.

Creo que lo que importa es tener un modelo mejor. Quieres un producto mejor. Y, en general, las tasas de crecimiento no muestran signos de desaceleración; si algo cambia, es que crecen aún más, al menos en el momento de esta entrevista. Por eso, creo que eso es lo más importante.

Emily Zhang: Poco después del lanzamiento de Claude Co-Work, el valor de mercado de 285 mil millones de dólares se evaporó de la noche a la mañana, y los traders lo llamaron el fin del SaaS (SaaSpocalypse). Si la IA sigue mejorando a este ritmo, ¿cuánto reemplazará a los softwares tradicionales, y qué velocidad tendrá ese proceso?

Dario Amodei: Es una pregunta difícil de predecir con precisión. Si pudieras predecirlo perfectamente, ya lo habrían hecho, y ganarían enormes fortunas en el mercado, siempre acertando.

Por eso, nadie sabe exactamente qué pasará, pero puedo señalar algunos puntos: todos los softwares tradicionales tienen ciertos "fosos" competitivos. Creo que algunos desaparecerán, otros permanecerán. La capacidad de programar rápidamente, por ejemplo, seguramente desaparecerá. Si tu foso es "hemos escrito software complejo que nadie más puede hacer", buena suerte. No podrás defenderlo.

Pero, en cambio, las relaciones con clientes, el conocimiento especializado en el campo, la experiencia en áreas específicas, son ventajas que permanecen. Mi consejo para todos esos actores es: no te confíes demasiado. No ignores esas ventajas. Haz una lista de tus fosos, y sé consciente de cuáles desaparecerán y cuáles se volverán aún más importantes porque limitan tu negocio. Y puede que surjan nuevos fosos.

Creo que quienes sean hábiles para adaptarse, aprovechar los fosos existentes y crear nuevos, les irá bien. Los que se queden dormidos, creyendo que las viejas formas seguirán funcionando, no tendrán un buen futuro. Esa es mi recomendación.

Y, en definitiva, creo —aunque depende de cómo definas SaaS y qué consideres como tal— que el mercado del software crecerá, no disminuirá, aunque algunos grandes perdedores emergerán.

Por favor, explícalo.

Dario Amodei: Solo pienso que el pastel se está haciendo más grande. Por ejemplo, con IA, ese pastel se expande. Las empresas tradicionales, en comparación, podrían reducir su tamaño. Algunas perderán valor si no se adaptan bien. Algunas incluso podrían quebrar.

Pero, cuando el crecimiento es muy rápido, suele ocurrir que, si la IA aumenta su capacidad 10 veces, los sectores existentes crecen 1.5 veces, simplemente porque el tamaño total del pastel también crece mucho. Es decir, puede que veamos que esto pase.

No digo que no habrá grandes perdedores. Creo que los que no se adapten, cierren los ojos ante la realidad, no vean las tendencias futuras y no reconozcan sus ventajas competitivas, tendrán un futuro muy difícil.

Capacidad computacional, financiamiento y socios

Emily Zhang: Tus mayores apoyos son empresas como Amazon, Google, Microsoft y NVIDIA. Cada una con su agenda. Son socios y competidores a la vez. Tienen hitos comerciales ligados a tu financiamiento. ¿Quién manda realmente?

Dario Amodei: Hemos sido muy claros en expresar nuestras opiniones. Siempre he defendido el control de exportaciones de chips a China. Lo hago porque creo que si China lidera en capacidades de IA, sería muy perjudicial para EE. UU. y el mundo. Algunas fabricantes de chips no comparten esa visión, pero eso no me ha impedido expresarla.

Incluso después de firmar más acuerdos, sigo reiterando esa postura. Lo que ellos entienden es que hemos mantenido buena colaboración. Somos buenos socios. Podemos trabajar juntos. Sé que quieren que no diga esas cosas, pero son mis convicciones.

¿Y qué piensas hacer? Al final, llegarán a un acuerdo. Los beneficios que obtienen de esas transacciones son similares a los nuestros. Somos adultos. Podemos colaborar en algunos aspectos y tener diferencias en otros.

Emily Zhang: Bloomberg reportó que su valoración incluso supera a la de OpenAI. Hablamos de una startup de cinco años con una valoración cercana a un billón de dólares. ¿Cómo interpretas eso? ¿Y, dado que tienes más disciplina en recursos y una ruta más rápida a la rentabilidad, por qué necesitas tanto dinero?**

Dario Amodei: La expansión de recursos computacionales es muy rápida, así que la salud del negocio parece buena, pero en un año, tu escala de recursos puede triplicarse o cuádruple. No puedo dar cifras exactas, pero el crecimiento en recursos de computación es muy acelerado.

Tenemos razones para creer que los ingresos crecerán hasta y más allá de esas escalas. La recaudación de fondos es solo un colchón para afrontar esa incertidumbre.

Es una estrategia completamente racional. La dilución accionaria que esto implica es muy pequeña, y en lógica, no son cosas opuestas. De hecho, son compatibles; no significa que la salud del negocio esté en riesgo.

Emily Zhang: Se ha reportado sobre sobrecarga en servidores, problemas de confiabilidad y que se agotaron los tokens. Has mencionado que otras empresas están invirtiendo mucho en infraestructura. ¿Realmente tienes lo que necesitas o solo estás apurándote?

Dario Amodei: Sobre la capacidad de cómputo, hay un concepto llamado "capacidad de marketing", que es que, con el tiempo, incluso en meses, podemos obtener mucha capacidad. Es importante aclarar que, en mi opinión, no estamos comprando muy poca capacidad.

Originalmente, planeamos un crecimiento de 10 veces al año.

Ese era nuestro objetivo. Pero no estamos viendo eso ahora. En el primer trimestre de 2026, nuestros ingresos crecieron más de 3 veces en ese trimestre, solo en ese período, no en todo el año; y en ese trimestre, la tasa de crecimiento anual sería de unas 80 veces.

No esperábamos un crecimiento anual de 80 veces. Planear con esa meta sería irracional, porque si solo logramos 10 veces, estaríamos perdiendo 8 veces. Estamos en una fase de explosión de capacidad computacional, que no durará para siempre.

Si esa tendencia continúa, al final del año, tendríamos unos ingresos que ningún otro en el mundo podría igualar. No creo que eso pase. Es solo que, en ese momento, la explosión es tan grande que parece que todo se acelera mucho más que antes. Pero no durará.

Quizá pasará por un período breve en que te sorprendas, diciendo: "¡Wow, esto crece más rápido que nunca!". Pero no lo sabemos con certeza. Ya hemos visto acuerdos de capacidad con Google y Amazon, y podemos hacer mucho más.

Por ejemplo, el mercado es líquido. Si puedes usar la capacidad de cómputo de forma muy eficiente y hay demanda, podrás conseguir toda la capacidad que necesitas. Solo puede tomar uno o dos meses.

Liderar la carrera y la cultura de la empresa

Emily Zhang: ¿Qué se siente al superar a tu rival?

Dario Amodei: Mira, todavía hay muchos desafíos por delante. Tenemos una mentalidad de "competir por la cima", que busca impulsar a otras empresas a seguirnos. Creo que ya hemos visto que, en cierto modo, sí los hemos motivado. A veces, ni siquiera admiten que lo están haciendo.

A veces, atacan y al mismo tiempo imitan, pero eso tiene mucho valor.

Por eso, creo que, desde un punto de vista comercial y técnico, el valor de ser líder en la industria no está en vencer a los rivales, sino en poder liderar todo el ecosistema hacia adelante. Queremos hacer más en ese sentido en el futuro.

Emily Zhang: Pero, hay que decirlo, ganar se siente bien.

Dario Amodei: Mira, siempre buscamos el éxito, ¿no? Nos esforzamos mucho, no queremos fracasar, y no soy de los que piensan que deberíamos detener el desarrollo de esta tecnología o dejar de construirla. Estamos en un sistema de libre empresa, y eso no es un problema. Solo debemos reducir los riesgos asociados a los modelos, y eso siempre será un equilibrio entre ambos aspectos.

Emily Zhang: Entonces, en gran parte de la historia de Anthropic, han estado en desventaja. Creo que, cuando no tienes nada, es más fácil mantener una postura moral elevada. ¿Qué tan difícil es mantener tus principios en una escala tan grande?

Dario Amodei: Creo que he pensado mucho en por qué es así.

A medida que la empresa crece, en cada etapa, hay que estar alerta. En cada fase, surgen nuevos desafíos. La empresa puede perder su esencia de alguna forma, ya sea en su espíritu comercial o en sus valores fundamentales.

Y me preocupa ambas cosas, porque creo que trabajan en conjunto.

De hecho, creo que el hecho de que podamos construir modelos tan excelentes es clave para poder practicar nuestros valores de manera efectiva. Pero, a medida que la empresa crece, hay muchas trampas y formas de equivocarse. No es que mis valores, los de los cofundadores o los líderes cambien, sino que la estructura de la negocio cambia muy rápido.

Por eso, quizás, paso la mitad del tiempo hablando con la empresa sobre la cultura de Anthropic y cómo funciona. Cuando creces tan rápido, contratas a muchas personas de grandes tecnológicas.

Si no les explicas cómo funciona Anthropic, simplemente repetirán la forma en que estaban en sus empresas anteriores. Es una lucha constante, un reto permanente.

Es como si, Daniela y yo, nuestra tarea principal fuera entender cómo mantener esa cultura. Porque sabemos que, a largo plazo, eso será nuestro núcleo.

Eficiencia en I+D y avances científicos

Emily Zhang: La velocidad de iteración de sus productos es asombrosa. La cantidad y rapidez con que lanzan productos es increíble. ¿Cómo logran eso?

Dario Amodei: Diría dos cosas. Primero, somos una empresa unificada, con una cultura corporativa común. Creo que, a pesar de crecer, mantenemos una eficiencia muy alta. Todos con un objetivo común, eso refleja unidad en cultura y organización. Eso es lo más importante.

En segundo lugar, está Claude en sí mismo, que usamos para ayudarnos. Para desarrollar modelos, mejorar su eficiencia y acelerar el lanzamiento de productos. Para ello, hay que crear nuevas prácticas. Aunque somos nuevos en esto, ya vemos que acelera mucho, y esa aceleración se vuelve más confiable con el tiempo. Esos son los dos factores principales.

Emily Zhang: ¿Puedes contarme cuál ha sido la cosa más loca que ha hecho la IA que hayas visto?

Dario Amodei: Lo más loco que he visto, en biología y medicina, ha sido en muchos casos, incluyendo el de Daniela, que Claude ha diagnosticado problemas médicos que muchos médicos top no detectaron. En biología, estos modelos empiezan a mostrar resultados sorprendentes en diseño de fármacos, química computacional, y otras tareas. Como ex-biólogo, al ver estos logros, no puedo evitar pensar: esto es muy difícil.

Para estos trabajos, se requiere mucha formación especializada. Y Claude se vuelve cada vez mejor en eso. Es un campo donde podemos obtener grandes beneficios. Eso es la cara positiva: que podemos obtener beneficios enormes. La vida será mejor. La calidad de la experiencia humana mejorará.

Emily Zhang: Un siglo de progreso científico.

Dario Amodei: Un siglo de avances científicos, y un siglo de progreso en la experiencia humana. Por ejemplo, en 1900, imagina todos los problemas que enfrentábamos, las causas de muertes prematuras, los sufrimientos que soportaban las personas, y todo lo que hoy ya no enfrentamos.

Luego, imagina otro siglo por delante. Creo sinceramente que, si superamos los obstáculos actuales, ese siglo será aún mejor gracias a los avances en ciencia y medicina. Cada vez soy más optimista. Creemos que el mundo será mucho mejor que ahora.

Escritura, reflexión y ayuda de IA

Emily Zhang: Sé cuánto te encanta escribir. Eres conocido por tus artículos. ¿Usas Claude para ayudarte a escribir?

Dario Amodei: Lo hago. Aún no dejo que Claude escriba por mí, porque tengo un estilo propio y soy exigente con eso. Pero sí, uso Claude para hacer lluvias de ideas, organizar temas, o consultar ideas.

Es una ayuda. No creo que esté muy cerca de que Claude pueda escribir mejores textos que yo. Todavía no estamos allí, pero seguramente llegará ese día.

Emily Zhang: También amo escribir. Creo que escribir ayuda a aclarar ideas. Implica mucho pensamiento crítico. ¿Si dejamos que Claude haga el trabajo, perderemos esa capacidad?

Dario Amodei: Me preocupa eso, y esa es una de las razones por las que insisto en escribir por mí mismo. Para el público, puede ser así. Aunque mucha gente lee mis artículos, escribir también me ayuda a ordenar mis pensamientos, a saber qué hacer después, y a crear un punto de referencia común con los demás.

Creo que todavía estamos explorando cómo usar la IA de manera que conserve estos beneficios. Por ejemplo, ahora uso Claude para investigar, para organizar mis ideas, y para pensar en lo que quiero decir.

Si solo usáramos la IA para escribir todo, por ejemplo, un artículo sobre riesgos de IA, primero, no reflejaría mi visión personal, y segundo, perdería los beneficios de escribir. Con el tiempo, creo que habrá formas de usarla más directamente en la escritura, sin perder esos beneficios, pero será un proceso delicado. No será algo simple, tendremos que ir ajustando poco a poco.

Creo que podríamos llegar a una combinación muy inusual: un crecimiento del PIB muy alto, acompañado de altas tasas de desempleo, o al menos, insuficiencia de empleo, muchos trabajos mal pagados, y una desigualdad severa.

Riesgo de desempleo, productividad y políticas macroeconómicas

Emily Zhang: Siempre has sido muy franco sobre el desempleo. ¿La IA podría eliminar entre la mitad y el 100% de los trabajos de nivel inicial en los próximos 1 a 5 años? Esa era la idea del año pasado. La velocidad de desarrollo de la IA es asombrosa. ¿Sigue siendo así? ¿O la proporción ya es mayor?

Dario Amodei: Siempre he dicho que, si revisas esos videos antiguos, parecen sacados de contexto, cortados en esos tres segundos. Pero en realidad, mi declaración siempre ha sido: no sé qué pasará, pero esto puede causar una disrupción de magnitud.

Y también he hablado de qué medidas podemos tomar, como impuestos a tokens, colaboración con empresas para reentrenar a la gente. Tengo dudas sobre programas de capacitación, pero deberíamos considerarlos en las políticas macroeconómicas.

Desde el principio, siempre hablé de soluciones, pero en la mente humana hay una tendencia a recortar esas ideas en los tres segundos del apocalipsis. Por eso, no quiero decir que el fin del mundo sea inminente. Solo que, esto es algo que debemos prever y preocuparnos, y que requiere una respuesta positiva. No estoy 100% seguro, pero sigo muy preocupado. Mi nivel de preocupación sigue siendo el mismo.

Ahora vemos que la IA aumenta la productividad, pero eso es solo una fase inicial. Si revisamos la Revolución Industrial, lo mencioné en "Adolescence of Technology". Automatizar el 90% del trabajo es muy bueno.

La productividad en el 10% restante aumenta 10 veces, porque obtienes un apalancamiento de 10x. Pero, eventualmente, llegará casi al 100%. Y entonces, el problema será qué más pueden hacer esas personas.

Sobre el desarrollo a largo plazo, no tengo respuestas claras. Pero creo que hay diferentes tipos de adaptación. Por ejemplo, en Anthropic, estamos en esa transición: aunque la IA escribe casi todo el código, también hace que los ingenieros sean más eficientes.

Pero, aun así, aumenta la eficiencia. Sin embargo, ya empezamos a ver que, para algunas personas, no mejora su eficiencia, y en esos casos, dejar que la IA haga el trabajo puede ser mejor.

Ese es un aspecto del problema. Por otro lado, ¿en qué áreas deberíamos aumentar la demanda? Hablamos de ingenieros en despliegue avanzado, o arquitectos de soluciones IA, que combinan desarrollo técnico y comunicación con clientes. La demanda por ese talento es enorme ahora, porque los clientes son muchos y estamos en expansión rápida.

¿Es esto para todos los ingenieros de software? No, no es una correspondencia perfecta. No es una relación uno a uno. Esto te hace ver que en el futuro habrá una gran disrupción, y las cosas se ajustarán. ¿Quién ganará? No lo sé.

Pero, la advertencia es necesaria, porque esa es la forma en que respondemos. Es la base de nuestras políticas, tanto a nivel individual como macroeconómico global. Queremos proponer ideas bien pensadas. No queremos promesas que no podamos cumplir. No queremos declaraciones sin suficiente respaldo. Queremos reflexionar cuidadosamente sobre estos temas y buscar soluciones prácticas.

Emily Zhang: Muéstrame ese gráfico que muestra la posible pérdida de empleos en áreas como ventas, finanzas, etc.; ¿qué trabajos desaparecerán, quién será reemplazado, y qué nuevos trabajos surgirán?

Dario Amodei: En realidad, nadie puede saberlo con certeza, porque la economía es impredecible, igual que el mercado de valores, que es un proceso descentralizado. No se puede predecir con anticipación qué trabajos podrán seguir siendo realizados por humanos en el futuro.

Pero, en términos generales, cualquier sector con trabajos de nivel inicial en oficinas, ya sea banca, finanzas u otros, tiene un potencial enorme para mejorar la eficiencia con IA, pero luego, la IA podrá reemplazar completamente esas tareas.

Luego, hay que pensar: ¿qué pueden hacer esas personas? Ya estamos en eso con las empresas. Vemos sus opciones. La principal es: ¿debo reducir costos?

Eso generalmente significa reducir empleados, hacer más con menos recursos, o, en cambio, hacer más con los mismos recursos, lo que implica contratar más personas o crear nuevos roles, promoviendo un juego de suma positiva.

El escenario favorable actual es que el pastel se expanda mucho. Como el pastel será mucho más grande, seguramente aparecerán nuevas áreas donde la gente pueda entrar. La cuestión es si podrán aprovechar esas oportunidades rápidamente. La magnitud de esta disrupción será enorme, y esa es la advertencia que hago. Pero también hay que resolver cómo hacer esa transición.

Emily Zhang: Por favor, haz una proyección: si despiertas en cinco años, ¿cómo será ese país? ¿Qué estarán haciendo esas personas? Porque si la tasa de desempleo llega a ese nivel, ¿no sería un signo de que la revolución ya empezó?

Dario Amodei: Esa es exactamente la situación que queremos evitar, debemos impedir que pase eso.

Creo que hay varias vías. Nada está garantizado, y no podemos predecirlo con