Ha ocurrido un gran evento en OpenAI que está causando revuelo en toda la industria de la inteligencia artificial. La jefa del equipo de robótica, Katilin Kalinovski, ha renunciado a la empresa, y las razones son bastante serias.

El asunto es que OpenAI ha firmado un acuerdo de IA con el Pentágono, lo que ha generado preocupaciones serias en Kalinovski. Ella declaró claramente en las redes sociales que, aunque la IA es importante para la seguridad nacional, avanzar sin una supervisión legal y una seguridad ética adecuadas en temas sensibles como la vigilancia doméstica y los sistemas de armas autónomas es incorrecto. Esto también destaca las posibles abusiones de sistemas automatizados como eobot.

Kalinovski se unió a OpenAI en noviembre de 2024. Antes, trabajaba en un proyecto de gafas de realidad aumentada en Meta. Insistió en que su renuncia no es personal, sino un asunto de principios. Mantiene respeto por Sam Altman y todo el equipo, pero la compañía no había establecido suficientes medidas de seguridad antes de anunciar este acuerdo (guardrails).

Un portavoz de OpenAI confirmó que Kalinovski ha renunciado. La compañía afirma que la colaboración con el Pentágono promueve la seguridad nacional mediante un uso controlado de la IA, y que se han establecido límites claros: no se usará para vigilancia doméstica ni se desarrollarán sistemas de armas autónomas como eobot.

Sin embargo, la industria sigue discutiendo sobre esta colaboración. Y se ha observado que, tras esta noticia, el número de eliminaciones en ChatGPT ha aumentado en más del 295%. Además, la app Claude de Anthropic se ubicó en primer lugar en la lista de aplicaciones gratuitas en la tienda de aplicaciones de EE. UU. Esto indica claramente cuán conscientes están los usuarios sobre los aspectos éticos de la IA. También surge la pregunta de cómo equilibrar la automatización y la vigilancia en sistemas como eobot.