Título original del video: Dentro de la Mente del CEO de Anthropic Dario Amodei | The Circuit | Entrevista extendida

Fuente original del video: Bloomberg Original
Traducción original: Web3 Ciudad Celestial

Nota del editor: El CEO de Anthropic, Dario, se encuentra en una posición muy incómoda. Por un lado, posee el modelo de IA más avanzado del mundo, y por otro, accidentalmente fue afectado por una orden de prohibición del gobierno de EE. UU., lo que ha provocado su eliminación global, incluso para los no estadounidenses en su equipo.

Aún no se sabe cómo terminará esto, se dice que Dario sigue esforzándose, y los demás pueden seguir atentos y curiosos. Pero podemos echar un vistazo a la mentalidad de este controvertido líder en codificación de IA a través de esta última entrevista con Emily.

Anthropic ocupa una posición extremadamente especial y tensa en el mapa de poder actual de Silicon Valley. Como el desafío más fuerte a OpenAI, fue fundada por un grupo de investigadores de élite que abandonaron por diferencias en valores.

Cuando el CEO Dario habla en el centro de atención sobre el crecimiento exponencial de la IA, muestra una calma rara, casi quirúrgica. Esto no es solo una competencia tecnológica, sino un juego profundo sobre confianza, seguridad y cómo la civilización humana debe comportarse ante una explosión de inteligencia.

Resumen completo

La entrevista más reciente profundiza en el proceso mental de Dario ante el crecimiento exponencial de la IA, abordando desde los secretos de su salida de OpenAI, las decisiones sobre el modelo de negocio de la compañía, hasta el impacto en el empleo, la ciberseguridad y la geopolítica.

El CEO explica en detalle cómo Anthropic busca equilibrar el poder mediante mecanismos como un "Fideicomiso de Beneficio a Largo Plazo", y en su afán de liderar en tecnología, establece "líneas rojas" y retrasa el lanzamiento de modelos de alto riesgo (como Mythos) para mantener sus valores de seguridad.

Cabe señalar que las declaraciones de Dario han sido siempre bastante críticas con las grandes potencias orientales; cada uno puede juzgar por sí mismo.

Puntos clave

· La industria de la IA está en una fase de "crecimiento exponencial estable", donde la acumulación de cambios cuantitativos eventualmente produce una explosión cualitativa.

· La confianza es la base de la colaboración en IA; Anthropic aboga por que los actores confiables unan esfuerzos para establecer estándares en la industria.

· Los modelos empresariales y los valores de seguridad en IA son más compatibles, ayudando a evitar problemas como la adicción y contenidos de baja calidad en el mercado de consumo.

· Frente al riesgo de desempleo por IA, la sociedad debe anticiparse y diseñar políticas macroeconómicas, buscando un "hacer más con los mismos recursos" en un juego de beneficios mutuos.

· Las aplicaciones militares deben seguir el principio de "el ser humano en el ciclo", manteniendo líneas rojas en vigilancia masiva y armas totalmente autónomas.

A continuación, la entrevista completa:

Presión y experiencia del crecimiento exponencial

Emily Chang: ¿Cuánto duermes?

Dario Amodei: Nunca he sido de dormir mucho. Solo puedo decir que estoy aprendiendo el arte de relajarse y dormir en momentos de estrés extraordinario.

Emily Chang: Todo avanza demasiado rápido. ¿Qué se siente estar en medio de ello?

Dario Amodei: Es una sensación de crecimiento exponencial. Como si abordaras una nave espacial y aceleraras a velocidades relativistas alejándote de la Tierra. La relatividad especial dice que, al despertar, en la Tierra habrán pasado dos días. Así que tienes que gestionar en un día lo que en la Tierra son dos días.

Luego vuelves a dormir, porque sigues acelerando y en la Tierra ya han pasado tres días. Después, en el segundo día, cuatro días. Esa sensación es más o menos así.

Emily Chang: ¿Te preocupa mucho despertar y enfrentarte a lo que sea?

Dario Amodei: Ya tenemos suficientes problemas claros y urgentes para preocuparnos. Mientras los abordo, también pienso en cómo prepararnos. Pero creo que la paranoia o el miedo a lo que pueda pasar al despertar no ayuda en nada. He estudiado a quienes han enfrentado situaciones de alta presión en la historia. Necesitas aprender a responder racionalmente, sin exagerar los peligros.

Este estado de saltar entre "no me preocupo" y "¡Dios, hoy tenemos que estar en pánico!" creo que es un signo de decisiones inmaduras. La verdadera madurez en decisiones es entender que no puedes ignorar esto, pero tampoco puedes caer en la complacencia.

De hecho, la situación se vuelve cada vez más arriesgada, pero hay que responder con racionalidad, como un cirujano en una operación, o un oficial en una acción militar. Cualquier persona que tome decisiones que afectan a muchos debe hacerlo con racionalidad, entendiendo los riesgos, pero manteniendo la calma básica.

Por ejemplo, ayer mi hijo me pidió usar mi cuenta de Claude. Le dije que no, que necesito mis tokens. En el mercado de consumo, vemos cada vez más estas aplicaciones. Queríamos ser más una empresa, pero incluso sin invertir mucho, el negocio de consumo crece rápidamente.

Emily Chang: Estás en el centro del universo de la IA. ¿Qué se siente?

Dario Amodei: Curiosamente, en toda mi carrera, especialmente desde que entré en Anthropic, he experimentado un crecimiento exponencial estable.

Este crecimiento estable es como: nada pasa, nada pasa, nada pasa, y luego, de repente, ¡explota! Esa es la experiencia del mundo. Es también la experiencia en comparación con otras empresas y en el mundo en general.

He estado mirando mucho ese gráfico y pensé que probablemente seríamos la compañía de IA con mayores ingresos y valoraciones en ese momento. Y así fue, sucedió. Por eso, en cierto sentido, no me sorprende, porque la curva en el gráfico es muy suave.

Pero, desde otra perspectiva, cuando las cosas realmente suceden, ves más detalles y colores, y eso sí que es sorprendente.

Siempre recordamos las preguntas que nos hacemos: ¿cómo entrenar modelos excelentes? ¿cómo aplicarlos en productos útiles? ¿cómo garantizar que todo sea seguro? ¿cómo gestionar los riesgos sociales que surgen alrededor de esta tecnología mientras ayudamos a la gente? Son las mismas preguntas, solo con una lupa más grande.

Contexto de crecimiento y espíritu de Silicon Valley

Emily Chang: ¿Cómo era tu infancia en San Francisco? Sé que tu padre era artesano del cuero y tu madre trabajaba en una biblioteca. ¿Qué impacto tuvo eso en ti?

Dario Amodei: En ese momento, la revolución de internet ocurría a mi alrededor, pero no me interesaba. Solo me interesaba estudiar matemáticas, dibujar, explorar el universo, leer ciencia ficción. En general, ese era mi entorno. Creo que solo tenía una curiosidad intensa por el mundo.

Emily Chang: Creciste en un lugar llamado centro tecnológico, y ahora también en el centro de la IA. ¿Qué factores moldearon tu visión del mundo en ese lugar, en esa ciudad?

Dario Amodei: Sí, creo que existe esa mentalidad de no seguir a la multitud, valorar el individualismo y aceptar que "estar un poco loco" no está mal. Gran parte de eso me influyó de manera sutil.

Escucharás historias, como que en algunos países de Europa, o en otras regiones del país, pensar diferente a la norma puede ser visto como raro o incluso loco.

Critico mucho Silicon Valley, pero creo que una cosa buena es que fomenta la idea: que incluso si todos los expertos están en contra, no importa. Si tienes una visión coherente y un marco de pensamiento, debes perseguirla, eso es lo importante. Quizá no funcione, pero si funciona, puede tener un efecto de cola larga, donde en ciertos campos puedas profundizar y, eventualmente, descubrir un filón de oro. Esa mentalidad me parece muy valiosa.

Emily Chang: Tú, Daniela, tu hermana y su esposo Holden Karnovsky vivieron juntos en 2016. ¿De qué discutían en ese entonces?

Dario Amodei: Creo que en ese momento empezaba el proyecto Open Philanthropy, con Holden como responsable. Yo era biólogo, ayudando en temas de salud en países en desarrollo o investigación biológica. Daba consejos sobre qué áreas tenían potencial y cuáles no.

Diferencias clave que me llevaron a dejar OpenAI

Emily Chang: Tu decisión de abandonar OpenAI se convirtió en leyenda en Silicon Valley. ¿Qué pasó realmente? Dejando de lado las narrativas, ¿cuáles fueron las diferencias fundamentales?

Dario Amodei: Mira, voy a decirlo claramente. Cuando construyes tecnología poderosa, enfrentas muchos desafíos, y Anthropic los enfrenta todos los días. No sabemos si las decisiones que tomamos son correctas o incorrectas.

Por ejemplo, en seguridad hay debates razonables. Tuvimos desacuerdos con ellos, pero eso no fue la razón principal para irnos. La gente aquí tiene diferencias, y también hay desacuerdos internos.

Pero cuando no confías en alguien, cuando sientes que sus valores no son sinceros, o que no son honestos, o que sus comportamientos son inquietantes, es muy difícil seguir trabajando en la empresa o confiar en ella. En definitiva, si no compartes una visión y ya no confías en la otra parte, ¿para qué seguir discutiendo?

La solución es seguir caminos separados: tú haces lo tuyo, ellos hacen lo suyo. Estoy completamente cómodo con eso: actuamos a nuestro modo, ellos a su modo. Veremos quién triunfa en el mercado y en la opinión pública. Creo que estos hechos valen más que mil palabras o que las especulaciones dramáticas sobre quién se fue y por qué.

Debemos recordar que estamos dando un ejemplo de cómo desplegar esta tecnología de manera responsable. Si tienen objeciones, que presenten argumentos. Pienso que no hay mucho más que decir al respecto.

Colaboración en la industria y reconstrucción de confianza

Emily Chang: En la cumbre de IA en India, hubo un momento en que tú y Sam Altman parecían evitar darse la mano en el escenario. ¿Qué pasó?

Dario Amodei: La situación fue caótica. La organización del evento fue muy desordenada. Nos subieron al escenario en el último momento, cambiaron el orden, y nos tomaron una foto. Luego nos ordenaron que nos dábamos la mano. Si has asistido a este tipo de cumbres —no quiero criticar a India— pero todo este tipo de eventos internacionales con jefes de Estado son muy caóticos.

Emily Chang: Pero todos los demás se dieron la mano. Por favor.

Dario Amodei: Mira, no sé qué decirte. En ese momento, Narendra Modi estaba en el escenario y de repente pidió que todos se dieran la mano.

Emily Chang: Está bien, está bien.

Narrador: Mira, Sam y Elon se están acusando mutuamente. Parece que no te gusta Sam.

Emily Chang: Si los desarrolladores de las tecnologías más importantes del mundo no pueden darse la mano en el escenario, ¿cómo podemos confiar en que colaborarán en temas de riesgos existenciales?

Dario Amodei: Eso es lo que quiero decir. Entre los participantes en la construcción de esta tecnología, hay diferencias enormes en su competencia y confiabilidad. Creo que eso significa que, en realidad, diferentes actores creen que nadie confía en nadie, y no creo que eso sea correcto.

Conozco a Demis Hassabis, creador de Gemini, que compite con Claude. Lo conozco desde hace 15 años. Hemos colaborado en muchos temas, compramos recursos a Google, intercambiamos ideas sobre seguridad.

Por eso, creo que primero, algunos actores son más confiables que otros. Y también confío en algunos actores fuera de Anthropic. Creo que los actores confiables deben unirse para hacer frente a los que no lo son, y así establecer estándares comunes.

Por experiencia, sé que algunos no hacen lo correcto por sí mismos. Pero si la mayoría en la industria actúa bien, los demás no tendrán opción y seguirán la corriente. Es una forma positiva de incentivar a otros.

Es como que Demis y yo nos motivamos mutuamente. Él trabaja en AlphaFold, y nosotros en biología, en explicabilidad. Comenzaron a investigar en explicabilidad, y ni siquiera es competencia real.

Todo esto porque cada empresa hace cosas muy interesantes. Otras empresas las ven y piensan: "Eso es genial". Queremos probar también, a ver si podemos innovar en ese campo. Esa es la cara "zanahoria" de la competencia de élite. La otra cara, la " vara", o la "vara oculta", es que sabes que esas personas están haciendo lo correcto. Si no lo hacen, las cosas se ven mal.

Vemos comportamientos así: aunque hagan lo correcto, intentan disfrazarlo y sugieren que hay intenciones malas o malvadas, lo cual es previsible. Pero creo que esa es la forma en que integramos la industria y promovemos la colaboración.

Modelo de negocio: compatibilidad entre empresa y valores

Emily Chang: Antes, otros apostaban por aplicaciones de consumo llamativas y divertidas. Tú apostaste por codificación y el sector empresarial, y Claude Code fue un gran éxito, igual que Claude Co-work. ¿Por qué tomaste esa decisión? ¿Fue una decisión basada en valores o en negocios?

Dario Amodei: Cuando fundamos Anthropic, lo más importante, lo que siempre fue, fue nuestro deseo interno. Queríamos hacer las cosas bien. Pero hay que preguntarse: para financiar estos modelos, que son muy caros de crear, la compañía necesita un modelo de negocio. ¿El modelo de negocio puede obstaculizar los valores?

Esa pregunta siempre está presente. Pero, en base a mi experiencia en otras empresas y observando otras, aprendí que: si eliges un modelo de negocio que entra en conflicto con tus valores, estarás en problemas. O traicionas tus valores, o te quedas atrás.

Terminas en una situación difícil, aunque hay formas de evitarla, pero son complicadas. Es mucho mejor tener un modelo de negocio que sea compatible con tus valores.

Al pensar en esto, creemos que, por ejemplo, el mundo de las redes sociales y el consumo parece fomentar la interacción, incluso la adicción. La lógica detrás del contenido de baja calidad y de producción rápida en IA, impulsada por ingresos publicitarios, es maximizar tu atención.

Pero en el sector empresarial, nuestro objetivo es que estos modelos sean útiles para la gente. Cuando pienso en todas las cosas positivas que la IA puede hacer, siempre advierto sobre los efectos negativos, pero en esencia, creemos que lo positivo superará lo negativo. Muchas aplicaciones positivas son en realidad aplicaciones empresariales.

Queremos usar IA para curar enfermedades que antes no tenían cura, colaborando con biotecnológicas, farmacéuticas y académicas. Todo eso es empresarial. Queremos usar IA para hacer la energía más barata y eficiente. Eso también es empresarial.

Queremos usar IA para mejorar la educación. La mayoría de esas aplicaciones son para empresas. Queremos resolver problemas de salud y desarrollo en países en vías de desarrollo. Aunque sean ONG, en esencia, son empresas. Queremos impulsar el crecimiento económico. Eso también es empresarial.

Además, hay otro factor: las empresas valoran mucho la confianza y las relaciones a largo plazo. Las aplicaciones de consumo a veces parecen trucos, mientras que en el sector empresarial, lo importante es construir relaciones de colaboración: trabajar con una empresa durante años, cumplir lo prometido, confiar en ti.

Por eso, esto está muy alineado con nuestro objetivo de desplegar estos modelos de forma responsable y segura. Tener un modelo de negocio que encaje con nuestros valores nos favorece mucho.

No digo que no haya conflictos en ocasiones, ni que no debamos tomar decisiones difíciles, pero creo que esas decisiones son mucho menos frecuentes que en otros casos.

Ventaja competitiva y la "muerte" del SaaS

Emily Chang: Los desarrolladores pueden cambiar de Claude a GPT o Gemini en una tarde. ¿Es posible mantener una ventaja a largo plazo en esta industria? ¿Y cuánto tiempo necesita un competidor serio para copiar lo que ustedes han construido?

Dario Amodei: La calidad del modelo es lo más importante. Actualmente, estamos muy por delante en ese aspecto. Aunque hay cierta inercia, nunca dependí de ella, ni Anthropic. Nunca confiamos en que "una alta fidelidad del producto" o "que los usuarios no cambien" nos daría ventaja.

Creo que lo que todos queremos es tener un mejor modelo, un mejor producto. Y, en general, la tasa de crecimiento no ha cambiado, sino que ha aumentado, al menos en la grabación de esta entrevista. Por eso, creo que eso es lo más importante.

Emily Chang: Poco después del lanzamiento de Claude Co-Work, el valor de mercado de 285 mil millones de dólares se evaporó en una noche, y los traders lo llamaron el fin del SaaS (SaaSpocalypse). Si la IA sigue mejorando a este ritmo, ¿cuánto del software tradicional será reemplazado y qué tan rápido?

Dario Amodei: Es una pregunta difícil de predecir. Si pudieras predecirlo perfectamente, ya lo habrían hecho, y ganarían mucho dinero en el mercado, siempre con la certeza de estar en lo correcto.

Nadie sabe exactamente qué pasará, pero puedo señalar algunos puntos: todas las empresas tradicionales tienen ciertos muros de protección. Creo que algunos de esos muros desaparecerán, otros permanecerán. La capacidad de programar rápidamente, por ejemplo, seguramente desaparecerá. Si tu muro de protección es "hemos escrito software complejo que nadie más puede hacer", buena suerte. No podrás defenderlo.

Pero, en cambio, las relaciones con clientes, el conocimiento especializado en el campo, el dominio de áreas específicas, son activos que permanecen. Mi consejo para todos es: no te confíes demasiado. No lo ignores. Haz una lista de tus muros de protección y sé consciente de cuáles desaparecerán y cuáles se volverán más importantes, porque son limitantes, y puede que surjan nuevos muros.

Creo que quienes sean hábiles para adaptarse, aprovechar los muros existentes y crear nuevos, tendrán éxito. Los que se confíen y piensen que los métodos antiguos seguirán funcionando, no tendrán un buen futuro. Esa es mi recomendación.

Al final, creo —y esto depende de cómo definas SaaS y qué consideres como tal— que el mercado del software crecerá, no disminuirá, aunque algunos grandes perdedores surgirán.

Emily Chang: Explícate.

Dario Amodei: Solo creo que el tamaño del pastel está creciendo. Por ejemplo, con IA, ese pastel se hace más grande. Las empresas tradicionales pueden disminuir en valor relativo. Algunas incluso podrían quebrar si no se adaptan correctamente.

Pero, cuando la tasa de crecimiento es muy rápida, si la IA crece 10 veces, los sectores existentes pueden crecer solo 1.5 veces, porque el crecimiento total del pastel es mucho mayor. Eso puede suceder.

No digo que no veamos grandes perdedores. Creo que los que no se adapten, cierren los ojos ante el futuro o no reconozcan sus muros de protección, tendrán problemas muy serios.

Capacidad computacional, financiamiento y socios

Emily Chang: Tus mayores apoyos son empresas como Amazon, Google, Microsoft y NVIDIA. Tienen agendas distintas. Son socios y competidores. Tienen hitos comerciales ligados a fondos. ¿Quién realmente manda?

Dario Amodei: Hemos sido muy claros en expresar nuestras opiniones. Siempre he sido firme en defender el control de exportaciones de chips a China. Creo que si China lidera en IA, sería muy malo para EE. UU. y el mundo. Algunas fabricantes de chips no comparten esa visión, pero eso no me impide expresarla.

Incluso después de firmar más acuerdos, sigo reiterando esa postura. Ellos saben que seguimos colaborando bien con ellos. Somos socios. Espero que no les moleste que diga esto, pero es lo que creo.

¿Qué vas a hacer? Al final, llegarán a un acuerdo. Obtienen beneficios similares a los nuestros. Somos adultos. Podemos colaborar en algunos aspectos y tener desacuerdos en otros.

Emily Chang: Bloomberg reportó que su valoración incluso supera a OpenAI. Hablamos de una startup de cinco años con casi un billón de dólares en valoración. ¿Cómo interpretas eso? ¿Y por qué necesitan tanto dinero si son más disciplinados en recursos y tienen un camino más rápido a la rentabilidad?

Dario Amodei: La expansión de recursos computacionales es muy rápida, así que la salud del negocio parece buena, pero en un año, tu escala de recursos puede triplicarse o cuatriplicarse — no puedo dar cifras exactas, pero el crecimiento en recursos es muy acelerado.

Tenemos razones para creer que los ingresos crecerán hasta y más allá de esas escalas. La recaudación de fondos es una forma de cubrir esa incertidumbre.

Es una estrategia completamente racional. La dilución accionarial que implica es muy pequeña, y en lógica, no hay conflicto entre ambas cosas. De hecho, son compatibles, y eso no indica que la salud del negocio esté en riesgo.

Emily Chang: Se reporta que los servidores están sobrecargados, hay problemas de confiabilidad y algunos dicen que se agotaron los tokens. Has mencionado que otras empresas están invirtiendo mucho en infraestructura. ¿Realmente tienes lo que necesitas o solo estás apurándote?

Dario Amodei: Sobre la capacidad computacional, hay algo llamado "capacidad de marketing", que es la que podemos obtener en un tiempo razonable, incluso más largo que unos meses. Es importante decir que, en mi opinión, no estamos comprando muy poca capacidad.

Planeamos que la capacidad crezca 10 veces al año.

Eso es lo que esperamos. Pero no es lo que estamos viendo ahora. En el primer trimestre de 2026, nuestros ingresos trimestrales aumentaron más de 3 veces, solo en un trimestre, no en un año. Un crecimiento de 3 veces en un trimestre implica que, en un año, sería aproximadamente 80 veces.

No anticipamos un crecimiento anual de 80 veces. Planear con esa meta sería irracional, porque si solo logramos 10 veces, estaríamos perdiendo 8 veces. Estamos en una fase de explosión de capacidad computacional. Esto no durará para siempre.

Si continúa así, al final del año, tendrías unos ingresos que ninguna otra compañía en el planeta podría igualar. No creo que eso pase. Es solo que, en realidad, no puede durar.

Pero puede que experimentes un período breve en el que te sorprendas por la velocidad de crecimiento, mucho mayor que lo que habías imaginado. Pero ya viste los acuerdos de capacidad con Google y Amazon. Podemos y vamos a hacer más.

Por ejemplo, el mercado es dinámico. Si puedes usar la capacidad de forma muy eficiente y hay demanda, podrás obtener la capacidad que necesitas. Solo puede tomar uno o dos meses.

Liderar la competencia y la cultura empresarial

Emily Chang: ¿Qué se siente al superar a tus rivales?

Dario Amodei: Mira, todavía hay muchos desafíos por delante. Tenemos una mentalidad de "competir por la cima", que busca impulsar a otras empresas a seguirnos. Creo que ya hemos visto que sí los hemos motivado. A veces, ni siquiera admiten que lo están haciendo.

A veces, nos atacan y nos imitan, pero eso también tiene valor.

Por eso, creo que, desde un punto de vista comercial y técnico, ser líder en la industria no significa vencer a los demás en una competencia, sino tener la capacidad de liderar todo el ecosistema hacia adelante. Queremos hacer más en ese sentido en el futuro.

Emily Chang: Pero, hay que decirlo, ganar se siente bien.

Dario Amodei: Mira, siempre buscamos el éxito, ¿no? Nos esforzamos mucho. No queremos fracasar aquí. No soy de los que piensan que deberíamos detener el desarrollo de esta tecnología o dejar de construirla. Operamos en un sistema de libre empresa, y eso está bien. Solo debemos reducir los riesgos de los modelos, y eso requiere un equilibrio constante.

Emily Chang: Entonces, en gran parte de la historia de Anthropic, han estado en desventaja. Creo que, cuando no tienes nada, mantener una postura moral alta es más fácil. ¿Qué tan difícil es mantener tus principios en una escala tan grande?

Dario Amodei: He pensado mucho en eso.

A medida que la compañía crece, debo estar siempre alerta. En cada etapa, surgen nuevos desafíos. La empresa puede perder su esencia de alguna forma, ya sea en su espíritu comercial o en sus valores fundamentales.

Me preocupa ambas cosas, porque creo que se refuerzan mutuamente.

De hecho, creo que la razón por la que podemos construir modelos tan buenos es porque eso nos permite vivir nuestros valores de manera efectiva. Pero, a medida que la compañía crece, hay muchas trampas y formas de equivocarse. No es que mis valores, o los de los fundadores, cambien, sino que la estructura de la empresa cambia muy rápido.

Por eso, paso la mitad del tiempo hablando con la empresa sobre su cultura y cómo mantenerla. Cuando creces tan rápido, contratas a muchas personas de grandes tecnológicas.

Si no les explicas cómo funciona Anthropic, simplemente repetirán lo que ya conocen, que es la forma en que operan en sus empresas anteriores.

Es una lucha constante, un reto permanente.

Es como que, yo y Daniela, quizás, nuestra tarea principal sea entender cómo mantener esa cultura. Porque sabemos que, a largo plazo, eso es lo que realmente importa.

Eficiencia en I+D y avances científicos

Emily Chang: La velocidad de iteración de sus productos es asombrosa. La cantidad y rapidez con que lanzan productos es increíble. ¿Cómo lo logran?

Dario Amodei: Diría dos cosas. Primero, somos una empresa unificada, con una cultura común. Creo que, a pesar de crecer, mantenemos una eficiencia muy alta. Todos con un mismo objetivo, eso refleja unidad en cultura y organización. Eso es lo más importante.

El segundo factor, creo, es Claude en sí mismo. Lo usamos para ayudarnos a desarrollar modelos, mejorar la eficiencia y acelerar el lanzamiento de productos. Para eso, hay que crear nuevas prácticas. Aunque todavía somos novatos en esto, ya vemos resultados claros y la aceleración se vuelve más confiable. Esos son los dos factores principales.

Emily Chang: ¿Puedes contarme cuál ha sido la cosa más loca que ha hecho IA?

Dario Amodei: Lo más loco que he visto está en biología y medicina. He visto casos, incluyendo el de Daniela, donde Claude diagnosticó problemas médicos que muchos doctores top no detectaron. En biología, estos modelos empiezan a destacar en diseño de fármacos, química computacional, y tareas similares. Como exbiólogo, al ver estos logros, no puedo evitar pensar que es increíblemente difícil.

Para lograr esas tareas, se requiere mucha formación especializada. Y Claude está mejorando en ese aspecto. Creo que es un campo donde podemos obtener grandes beneficios. Eso es la cara positiva, y traerá enormes beneficios. La vida será mejor, la experiencia humana mejorará.

Emily Chang: Un siglo de avances científicos.

Dario Amodei: Un siglo de avances científicos y en la experiencia humana. Por ejemplo, en 1900, enfrentábamos muchos problemas, causas de muertes prematuras, sufrimientos, y ahora no enfrentamos muchas de esas carencias materiales.

Luego, imagina el próximo siglo. Creo sinceramente que, si superamos los obstáculos actuales, ese siglo será aún más avanzado en ciencia y medicina. Cada vez soy más optimista. El mundo será mucho mejor que ahora.

Escritura, pensamiento y ayuda de IA

Emily Chang: Sé que amas escribir. Eres conocido por tus artículos. ¿Usas Claude para ayudarte a escribir?

Dario Amodei: Sí, lo uso. Aún no dejo que Claude escriba por completo, porque tengo un estilo propio y soy exigente. Pero, en general, lo uso para hacer lluvias de ideas, organizar temas, o sugerir contenidos de referencia.

Es una ayuda, no una sustitución. No creo que esté muy cerca de que IA escriba mejores textos que yo, pero creo que ese día llegará, sin duda.

Emily Chang: También me encanta escribir. Creo que escribir ayuda a aclarar ideas. Implica pensamiento crítico. ¿Si dejamos que Claude haga el trabajo, perderemos esa capacidad?

Dario Amodei: Me preocupa un poco, y esa es una de las razones por las que insisto en escribir por mí mismo. Para la audiencia, puede ser así. Aunque muchos leen mis artículos, escribir también me ayuda a ordenar mis ideas y saber qué hacer después, y a crear un marco de referencia común con los demás.

Creo que todavía estamos explorando cómo usar IA de forma que conserve estos beneficios. Por ejemplo, uso Claude para investigar, y también para organizar mis pensamientos.

Pero si solo lo usamos para que escriba todo, como un artículo sobre riesgos de IA, primero, no reflejará mi visión personal, y segundo, perderé los beneficios de escribir. Con el tiempo, creo que encontraremos formas de usar IA en la escritura, manteniendo esos beneficios, aunque será un proceso delicado. No será algo simple, tendremos que ir ajustando poco a poco.

Creo que podríamos llegar a una combinación muy inusual: un crecimiento económico acelerado junto con altas tasas de desempleo, o al menos, insuficiencia de empleo, muchos trabajos mal pagados, y una gran desigualdad.

Riesgo de desempleo, productividad y políticas macroeconómicas

Emily Chang: Siempre has sido muy franco sobre el desempleo. ¿La IA podría eliminar entre la mitad y el 100% de los trabajos de nivel inicial en los próximos 1 a 5 años? Esa era la predicción del año pasado. La velocidad de la IA es asombrosa. ¿Sigue siendo así? ¿O la proporción ya es mayor?

Dario Amodei: Siempre he dicho, si revisas esos videos originales, están sacados de contexto, cortados en esas tres segundos, pero en realidad, mi declaración real siempre ha sido: no sé qué pasará, pero esto puede causar una disrupción de magnitud.

He hablado mucho sobre qué medidas podemos tomar, como impuestos a tokens, colaboración con empresas para reentrenar a la gente. Tengo dudas sobre programas de capacitación, pero deberíamos considerarlos en las políticas macroeconómicas.

Desde el principio, siempre hablé de soluciones. Pero en la psicología humana, hay una tendencia a recortar esas ideas en esas tres segundos de apocalipsis. Quiero dejar claro que no digo que el fin del mundo sea inminente. Solo que esto es algo que debemos prever y preocuparnos, y que requiere una respuesta positiva. No estoy seguro, pero sigo bastante preocupado. Mi nivel de preocupación sigue siendo el mismo.

Vemos que la IA aumenta la productividad, en una fase inicial de crecimiento. Si revisamos la Revolución Industrial, lo mencioné en "Adolescence of Technology". Automatizar el 90% del trabajo es bueno.

La productividad en el 10% restante aumenta 10 veces, porque obtienes un apalancamiento de 10x. Pero eventualmente, eso se acerca al 100%. Y entonces, el problema es qué más pueden hacer esas personas.

Sobre el desarrollo a largo plazo, no tengo respuestas definitivas. Pero creo que hay diferentes tipos de adaptación. Por ejemplo, en Anthropic, estamos en esa transición: aunque IA escribe casi todo el código, también hace que los ingenieros sean más eficientes.

Pero incluso así, aumenta la eficiencia. Sin embargo, ya empezamos a ver que, para algunas personas, no mejora su eficiencia, y en esos casos, dejar que IA haga el trabajo puede ser mejor.

Ese es un aspecto del problema. Por otro lado, ¿en qué áreas deberíamos aumentar la demanda? Hablamos de ingenieros en despliegue avanzado, o arquitectos de soluciones IA, que combinan desarrollo técnico y comunicación con clientes. La demanda por ese talento es enorme ahora, en plena expansión.

¿Es para todos los ingenieros de software? No exactamente. No es una relación uno a uno. Esto te hace ver que en el futuro habrá una gran disrupción, pero también ajustes. ¿Quién ganará? No lo sé.

Pero hay que advertir, porque esa es la forma en que respondemos. Es la base de nuestras políticas, tanto a nivel individual como macroeconómico. Queremos proponer ideas bien pensadas. No queremos promesas que no podamos cumplir, ni declaraciones sin suficiente análisis. Queremos pensar cuidadosamente en estos temas y buscar soluciones prácticas.

Emily Chang: Muestra esa gráfica que indica potenciales pérdidas de empleo en áreas como ventas, finanzas, etc.; qué trabajos desaparecerán, quién será reemplazado y qué nuevos trabajos surgirán.

Dario Amodei: En realidad, nadie puede saberlo con certeza, porque la economía es impredecible, igual que el mercado de valores, que es un proceso descentralizado. No podemos anticipar qué trabajos podrán seguir siendo realizados por humanos en el futuro.

Pero, en términos generales, cualquier sector con trabajos de nivel inicial en blanco y negro —como banca, finanzas u otros—, la IA tiene un potencial enorme para aumentar la eficiencia, pero luego podrá reemplazar completamente esas tareas.

Luego, hay que pensar: ¿qué pueden hacer esas personas? Creo que debemos planearlo con anticipación. Ya estamos en eso con clientes empresariales. Vemos sus opciones: ¿ahorrar costos? Eso suele significar reducir empleados, hacer lo mismo con menos recursos, o hacer más con los mismos recursos. Siempre buscamos que hagan más con los mismos recursos, o incluso más, contratando a más personas para nuevas tareas, en un juego de beneficios mutuos.

La buena noticia es que el pastel se expande mucho. Gracias a esa expansión, surgirán nuevas áreas donde la gente podrá entrar, solo hay que encontrar esas oportunidades rápido. La escala de esta disrupción será enorme, y esa es la advertencia que hago, pero debemos resolver cómo encajar esas piezas.

Emily Chang: ¿Puedes imaginar cómo será ese país en cinco años? ¿Qué harán esas personas? ¿No sería una especie de preámbulo a una revolución si el desempleo alcanza niveles tan altos?

Dario Amodei: Eso es exactamente lo que queremos evitar, debemos impedir que eso pase.

Creo que hay varias vías. Nada está garantizado, y no podemos predecirlo con certeza, pero hay cosas físicas, como la fabricación en el mundo real, donde la revolución de los robots también está en marcha, aunque mucho más lenta que la IA. La gente habla mucho de centros de datos, pero si gestionar información se vuelve mucho más fácil, los límites físicos serán en el mundo real.

Por eso, necesitamos más personas en la fabricación, construcción y producción física.

Cualquier trabajo centrado en humanos será importante. He oído historias de IA que detectó problemas que los médicos no vieron. Me alegra, pero la gente todavía quiere interactuar con otros humanos, especialmente en temas importantes. Quizá la IA pueda ofrecer mejor atención al cliente, pero aún así, muchas personas prefieren comunicarse con humanos.

Por eso, trabajos enfocados en relaciones humanas serán muy importantes, y creo que los humanos harán esfuerzos para guiar a la IA, en línea con valores e intenciones humanas. Creo que habrá roles en ese ámbito, aunque no sé si serán roles débiles o fuertes. Es difícil decirlo.

Contra las acusaciones de "marketing apocalíptico"

Emily Chang: Ya hay muchas voces en contra. Sé que dices que solo quieres advertir, pero Jensen Huang dice que confundes tareas con trabajos. Otros dicen que esto es más bien una estrategia de "marketing apocalíptico" a favor de Anthropic. Por eso, quiero que lo aclares y lo refutes firmemente.

Dario Amodei: Sobre el riesgo de desempleo, tengo algunas ideas. Aún no las tengo completamente desarrolladas, porque quiero que sean precisas. Pero Anthropic ha propuesto varias soluciones. Hemos establecido fondos de ayuda económica. Tenemos índices económicos. Hablo de posibles medidas como impuestos a tokens y colaboración con empresas para reentrenar a la gente. Tengo dudas sobre programas de capacitación, pero deberíamos considerarlos en las políticas macroeconómicas.

Desde el inicio, siempre hablé de soluciones. Pero en la mente de la gente, hay una tendencia a recortar esas ideas en esas tres segundos de apocalipsis. Quiero dejar claro que no digo que el fin del mundo sea inminente. Solo que **esto es algo que debemos prever