Entrevista con el cofundador de OpenAI, Karpathy: Los LLM son una nueva forma de computación, todo debe ser "reescrito"

Título original: Entrevista con Karpathy, cofundador de OpenAI: Los LLM son una nueva clase de computadora, todo debe ser “reescrito”

Autor original:律动BlockBeats

Fuente original:

Reproducción: Mars Finance

El cofundador de OpenAI, Andrej Karpathy, en su última entrevista, señaló que los modelos de lenguaje grande están siendo una “nueva computadora” que está redefiniendo completamente la arquitectura computacional.

El 29 de abril, Andrej Karpathy, quien lideró el desarrollo de Autopilot en Tesla y tiene un papel crucial en OpenAI, participó en un evento organizado por AI Sent, donde realizó un análisis profundo sobre la transición tecnológica actual de los agentes de IA y su impacto profundo en el ecosistema de hardware y software.

Karpathy afirmó que, desde diciembre del año pasado, comenzó a darse cuenta de que los flujos de trabajo basados en agentes ya son realmente utilizables, marcando la llegada sustancial de la era Software 3.0.

Dijo: muchas personas todavía tienen la impresión de la IA en 2022 basada en ChatGPT, pero hay que reevaluar, especialmente desde diciembre, porque las cosas han cambiado radicalmente.

También introdujo el concepto de “ingeniería de agentes” (agentic engineering) para diferenciarlo de la “programación de ambiente” (vibe coding) que él mismo denominó el año pasado, siendo el primero una continuación y aceleración de los estándares de calidad en el desarrollo de software profesional.

Afirmó claramente que una gran cantidad de código y aplicaciones existentes “no deberían existir” bajo este nuevo paradigma, y que los procesos de reclutamiento, herramientas de desarrollo e infraestructura en la mayoría de las organizaciones todavía están diseñados para humanos, no para agentes.

El amanecer del Software 3.0: la transferencia de poder en la arquitectura computacional subyacente

La industria tecnológica se encuentra en una encrucijada entre una transformación cuantitativa y cualitativa.

Diciembre del año pasado fue un punto de inflexión clave, y Karpathy admitió que, frente a los últimos modelos de IA, experimentó una profunda conmoción:

Los bloques de código generados por sistemas son cada vez más perfectos, ni siquiera puedo recordar la última vez que los modifiqué. Confío cada vez más en este sistema… (esto me hace sentir) que nunca antes me había sentido tan atrasado como programador.

Este impacto representa una revolución completa en el paradigma computacional. En opinión de Karpathy, el mercado actualmente subestima la profundidad de este cambio.

Indicó que estamos dejando atrás la “software 1.0” (escribir código) y la “software 2.0” (organizar conjuntos de datos para entrenar redes neuronales), y entrando oficialmente en la era de “software 3.0”.

En esta nueva era, los modelos de lenguaje grande en sí mismos son una “computadora” de nueva generación.

Dijo: ahora tu programación consiste en escribir indicaciones, y el contenido en la ventana de contexto es la palanca que controlas sobre ese gran modelo de lenguaje que actúa como intérprete, permitiéndole realizar cálculos en el espacio de información digital.

Lo que también llama mucho la atención del mercado es su audaz predicción sobre la evolución futura de la arquitectura de hardware subyacente.

Actualmente, las redes neuronales todavía funcionan en forma virtualizada en las computadoras existentes, pero él cree que en el futuro esta relación de dependencia se invertirá: puedes imaginar que las redes neuronales se convertirán en el proceso principal, mientras que la CPU se transformará en algún tipo de coprocesador. Las redes neuronales asumirán la mayor parte del trabajo pesado.

Esto significa que el “poder de cálculo inteligente” que domina el gasto de capital en todo el mercado consolidará aún más su posición estratégica en el futuro.

La próxima generación de infraestructura: reconstruir el ecosistema “nativo de agentes”

Cuando la ejecución y la codificación sean tomadas por las máquinas, ¿hacia dónde irá el valor central de la humanidad y la forma futura de infraestructura?

Karpathy afirmó claramente: todo debe ser reescrito.

Actualmente, la documentación de diversos marcos y bibliotecas de Internet sigue siendo “escrita para humanos”, lo que le resulta sumamente frustrante.

Karpathy se quejó: ¿por qué todavía tengo que decirles qué hacer? No quiero hacer nada. ¿Qué texto debería copiar y pegar a mi agente de IA?

La gran oportunidad futura del mercado radica en construir infraestructura “prioritaria para agentes”.

En este mundo, los sistemas se descomponen en “sensores” que perciben el mundo y “actuadores” que transforman el mundo, las estructuras de datos deben ser altamente legibles para los grandes modelos de lenguaje, y los agentes de máquina representan a individuos y organizaciones interactuando en la nube.

En un futuro tan automatizado, la escasez central de la humanidad volverá a centrarse en la estética, el juicio y la comprensión empresarial más profunda.

Karpathy citó una frase que ha estado masticando repetidamente como resumen: puedes externalizar tu pensamiento, pero no puedes externalizar tu comprensión.

Ingeniería de agentes: una explosión de productividad que supera por 10 veces a los “ingenieros”

En el aspecto más importante para aumentar la productividad, Karpathy distingue dos conceptos clave: “programación de ambiente” (Vibe coding) y “ingeniería de agentes” (Agentic engineering).

Indicó que la “programación de ambiente” eleva el nivel mínimo de desarrollo de software por parte de todos, mientras que la “ingeniería de agentes” busca mantener el nivel máximo de calidad en el software profesional.

La “ingeniería de agentes” no solo acelera, sino que requiere que los desarrolladores coordinen esos agentes de IA “algo propensos a errores, con cierta aleatoriedad pero extremadamente poderosos”, para avanzar a toda velocidad sin sacrificar calidad.

Esto también ampliará enormemente el espacio de imaginación para la producción empresarial.

Karpathy señaló: “La gente solía hablar de ingenieros 10 veces más productivos”, pero eso ya no es suficiente para describir la aceleración que se logra. En mi opinión, aquellos que destacan en este campo tienen un rendimiento mucho mayor que 10 veces.

Frente a esta explosión de productividad, la estructura organizacional y la lógica de selección de talento en las empresas deben ser reconstruidas.

Sugirió que las empresas abandonen los métodos tradicionales de entrevistas basadas en algoritmos y en su lugar evalúen cómo los candidatos utilizan múltiples agentes de IA para colaborar en proyectos grandes y resistir ataques de otros agentes de IA.

El impulso para la implementación comercial de IA

Para los emprendedores e inversores que buscan urgentemente escenarios de aplicación de IA, Karpathy ofrece un marco de evaluación muy práctico: la verificabilidad.

Actualmente, las capacidades de IA muestran una especie de “diente de sierra” muy extraña.

Puso un ejemplo: los modelos más avanzados hoy en día pueden reconstruir simultáneamente 100,000 líneas de código o buscar vulnerabilidades de día cero, pero me dicen que vaya a lavar el coche a 50 metros de distancia, lo cual es una locura.

La causa de esta desconexión radica en que los laboratorios de vanguardia (como OpenAI) invierten recursos masivos en aprendizaje reforzado en áreas donde los resultados son fáciles de verificar, como las matemáticas y el código.

Por lo tanto, siempre que se esté en un escenario comercial con resultados verificables, la IA puede desplegar un poder enorme.

Karpathy insinuó que todavía existen muchos entornos de aprendizaje reforzado verificables de alto valor que no han sido el foco principal de los laboratorios líderes, y que estos representan un vasto océano azul para que las startups realicen ajuste fino y monetización.