Recientemente vi un informe que vale mucho la pena seguir, OpenAI lanzó lo que llaman un "Plan de Seguridad Infantil", principalmente para abordar el problema del contenido de abuso infantil generado por inteligencia artificial. La verdad, este tema se ha vuelto cada vez más grave.

Según datos de la Fundación de Observación en Internet, solo en la primera mitad de 2025 se detectaron más de 8,000 informes de contenido de abuso infantil generado por IA, un aumento del 14% respecto al año anterior. Estos casos incluyen el uso de herramientas de IA para crear imágenes falsas y explícitas para extorsionar, o generar mensajes para engañar a menores. Las cifras siguen en aumento, reflejando un problema bastante serio.

Lo interesante es que la acción de OpenAI esta vez parece haber sido forzada. En noviembre del año pasado, un tribunal en California presentó siete demandas contra OpenAI por acusar que GPT-4 tiene funciones de manipulación psicológica, lo que llevó a varios casos de suicidio juvenil. Los demandantes citaron cuatro casos de fallecimientos y tres de personas con delirios severos. Bajo la presión pública, comenzaron a tomarse en serio este problema.

Este nuevo marco de plan se centra en tres áreas principales: primero, actualizar las leyes para abordar materiales de abuso infantil generados o manipulados por IA; segundo, mejorar los mecanismos de reporte y coordinación entre proveedores de servicios; tercero, integrar directamente el diseño de seguridad en los sistemas de IA para prevenir y detectar abusos. También colaboran con el Centro Nacional para Niños Desaparecidos y Maltratados (NCMEC), las agencias de aplicación de la ley y la organización sin fines de lucro Thorn.

Sin embargo, OpenAI también admite que no hay una sola solución para resolver este desafío. El objetivo del marco es acelerar la respuesta, mejorar la detección de riesgos, mantener la responsabilidad, y permitir que las autoridades puedan seguir el ritmo de los avances tecnológicos. Además, actualizaron las directrices para usuarios menores de 18 años, prohibiendo la generación de contenido inapropiado y consejos para autolesiones.

En definitiva, esto refleja la situación en la que toda la industria se encuentra actualmente. Con la proliferación de la tecnología de IA, las formas de abuso infantil también están evolucionando. Encontrar un equilibrio entre innovación y protección es un problema práctico que enfrentan todas las empresas tecnológicas.