OpenAI presenta un nuevo estándar para la IA: cómo gestionar responsablemente el contenido pornográfico

En mayo de 2024, OpenAI publicó una guía detallada llamada Model Spec, que define los principios de funcionamiento de los sistemas de inteligencia artificial modernos. El documento sienta las bases sobre cómo deben comportarse los asistentes virtuales, incluido ChatGPT, al interactuar con los usuarios. Un aspecto destacado es el enfoque innovador de la compañía respecto a una cuestión delicada: ha comenzado oficialmente a investigar formas responsables de generar contenido NSFW en contextos con restricciones de edad.

Esta decisión simboliza la evolución en el manejo de las tecnologías de IA en una etapa de rápido desarrollo y adopción masiva.

Los tres pilares de la filosofía de OpenAI en gestión del comportamiento de la IA

La base de Model Spec se sustenta en tres principios clave. Primero, los algoritmos de IA deben ofrecer respuestas útiles, alineadas con las instrucciones directas de los desarrolladores y los usuarios finales. Segundo, estos sistemas deben beneficiar a la humanidad, considerando cuidadosamente tanto el impacto positivo como los posibles riesgos. Tercero, el comportamiento de los modelos debe reflejar los valores corporativos de OpenAI, respetando las normas sociales y los marcos legales establecidos en distintas jurisdicciones.

Estos principios sirven de fundamento para instrucciones específicas dirigidas a los desarrolladores de aplicaciones basadas en IA.

Contenido pornográfico y IA: de la prohibición al uso regulado

La especificación Model Spec incluye una lista detallada de normas de comportamiento para los sistemas de IA. Entre ellas, cumplir con la jerarquía de comandos, respetar las leyes de diferentes países, proteger los derechos de autor y la privacidad de los ciudadanos. Se señala específicamente que los sistemas no deben proporcionar contenido NSFW por defecto.

Sin embargo, aquí surge un elemento innovador del enfoque de OpenAI. La compañía ha propuesto una concepto que permite a las empresas y usuarios finales “activar” diferentes niveles de contenido generado por los modelos de IA. Uno de los ejemplos más discutidos de esta flexibilidad es la gestión del contenido pornográfico.

Según declaraciones oficiales de OpenAI, el laboratorio “está explorando la posibilidad de ofrecer de forma segura la función de generación de dicho contenido dentro de límites de edad a través de API y la interfaz de ChatGPT”. Esto significa que los usuarios adultos podrán acceder a dicho contenido si la ley local lo permite, mientras que los menores estarán protegidos automáticamente de este tipo de material.

Prioridades predeterminadas: cómo debe pensar y actuar la IA

El documento también define el comportamiento estándar que los asistentes de IA deben mostrar en sus interacciones con los usuarios. Se recomienda que los sistemas asuman las mejores intenciones de los participantes en el diálogo, formulen preguntas aclaratorias para entender mejor la tarea, respeten los límites personales de los usuarios y mantengan la objetividad al analizar la información.

Además, se enfatiza la necesidad de evitar incitar al odio, no intentar imponer la propia postura y expresar claramente la incertidumbre cuando la IA no esté segura de la precisión de una respuesta.

Estado actual de la implementación: de los planes a la realidad

Un punto importante es que la nueva especificación Model Spec aún no afecta a los productos ya lanzados de OpenAI, como GPT-4 y DALL-E 3. Estos sistemas seguirán operando bajo las políticas de uso existentes. La gerente de producto, Joan Jang, explicó que Model Spec está diseñada como un documento dinámico, que se actualiza continuamente y está abierto a retroalimentación.

OpenAI busca activamente recomendaciones de una amplia gama de partes interesadas: funcionarios gubernamentales, instituciones de autoridad y expertos en áreas especializadas que utilizan o estudian los servicios de la compañía. Sin embargo, quedan preguntas abiertas: qué comentarios serán considerados, quién decidirá la lista final de cambios necesarios y cuándo se lanzará la segunda versión del documento — por ahora, no hay información publicada al respecto.

Esta iniciativa demuestra la ambición de OpenAI de establecer un nuevo estándar en la gestión de sistemas de IA, incluyendo cuestiones delicadas como la regulación del contenido pornográfico, considerando previamente todos los aspectos éticos y legales.