Un miembro menos del equipo de seguridad: el futurista jefe de OpenAI renuncia, y el equipo de alineación de la misión también se ha disuelto.

OpenAI, Chief Futurist Joshua Achiam, anuncia su renuncia. El equipo de alineación de misión que lideró fue disuelto en febrero de este año, y el ex asesor de la Casa Blanca Dean Ball asumirá el cargo esta semana.

(Resumen anterior: El director de seguridad de Google lamenta: la gerencia ha "perdido la ética", renunció al compromiso de neutralidad de carbono y firmó un contrato secreto de IA con el Departamento de Guerra de EE. UU.)

(Contexto adicional: Renacimiento de la IA» Los filósofos se convierten en el producto más codiciado de los laboratorios de IA, escribe la ética en tu modelo)

Índice del artículo

Toggle

• De "alineación de misión" a "futurista jefe"
• La lista de renuncias del grupo de seguridad, cada vez más larga
• La distancia entre el gigante y la misión

Casi nueve años ha estado Joshua Achiam en OpenAI, desde pasante hasta llegar a ser Chief Futurist, pero este martes anunció que se irá a finales de este mes. El momento es sensible: la empresa se prepara para una OPI, y él es otro nombre que desaparece de la lista de altos directivos del grupo de seguridad.

En una carta interna a los empleados, escribió: "El mundo ahora conoce este secreto, y siente que puede seguir impulsando esta misión desde fuera de los altos muros del laboratorio de frontera."

De "alineación de misión" a "futurista jefe"

Achiam se unió a OpenAI como pasante en 2017 y más tarde se convirtió en científico investigador especializado en seguridad de IA. Fue visto internamente como un defensor leal de la misión de seguridad, pero también controvertido por criticar ocasionalmente a la comunidad más amplia de seguridad de IA.

En 2024, OpenAI creó el "equipo de alineación de misión" liderado por Achiam, con la tarea de garantizar que la empresa actuara de manera coherente con sus palabras. En febrero de este año, el equipo fue disuelto, y Achiam fue transferido al nuevo puesto de Chief Futurist, situado en la intersección de los equipos de seguridad y políticas de IA, investigando los posibles daños y beneficios del auge de la IA. Colaboró con altos ejecutivos como el Director de Asuntos Globales Chris Lehane para abogar por una regulación gubernamental alineada con la misión de OpenAI.

El sucesor, el ex asesor de IA de la Casa Blanca Dean Ball, asumió el cargo esta semana con el título de "Director de Futuros Estratégicos" y hará una breve transición con Achiam. Un equipo disuelto y reorganizado, una persona que llega y otra que se va, OpenAI parece no haber encontrado una respuesta estable a la pregunta de "quién protegerá la misión".

La lista de renuncias del grupo de seguridad, cada vez más larga

Achiam no es el primero, ni será el último. En 2024, Jan Leike, quien co-lideró el equipo de "alineación de misión", renunció para unirse a Anthropic, y antes de irse criticó públicamente a la empresa diciendo que "la cultura y los procesos de seguridad han cedido su lugar a productos brillantes".

Ese mismo año, el director de investigación de políticas Miles Brundage y Steven Adler, que investigaba las capacidades peligrosas de los modelos de IA, también se fueron, fundando cada uno organizaciones sin fines de lucro que abogan por que los laboratorios de IA cumplan con los estándares de seguridad. A finales de 2025, Andrea Vallone, quien investigaba cómo ChatGPT responde a usuarios con problemas psicológicos y emocionales, también renunció para unirse al equipo de Leike en Anthropic.

Al ver estos nombres juntos, la dirección es clara: los talentos de seguridad de OpenAI no están siendo despedidos, sino que eligen irse, y la mayoría fluye hacia un mismo lugar, Anthropic, o hacia organizaciones sin fines de lucro que ellos mismos fundan. En pocas palabras, la voluntad de estas personas de impulsar la seguridad dentro de OpenAI está disminuyendo.

La distancia entre el gigante y la misión

OpenAI ya no es el pequeño laboratorio de investigación de 2017. Desde el lanzamiento de ChatGPT en 2022, el tamaño de la empresa y las presiones comerciales han crecido al mismo tiempo, y los equipos de seguridad, producto e investigación han sido reorganizados repetidamente. Ahora, se prepara para una OPI, avanzando hacia un verdadero gigante tecnológico. Achiam dijo en su carta que cree que "podemos llegar a un mundo de paz, prosperidad sin precedentes y posibilidades inimaginables", y prometió que, sin importar lo que haga a continuación, continuará trabajando por esa visión.

Pero la cuestión es: ¿esta visión necesita que alguien la impulse desde dentro de los muros, o puede realizarse desde fuera? Achiam eligió lo segundo. Su respuesta, hasta cierto punto, es también la respuesta colectiva que todo el grupo de seguridad ha dado en los últimos años: cuando el motor de la comercialización está a toda máquina, permanecer dentro de los altos muros para proteger la misión ya no parece ser la posición más efectiva que consideran.