La legislación no ha alcanzado el "autocontrol" primero: los gigantes de la IA prometerán la seguridad del producto, OpenAI apoya la concesión de licencias y la aprobación del desarrollo del sistema de IA

Autor: Li Dan

Fuente de la imagen: Generada por la herramienta de IA Unbounded

Aunque Estados Unidos aún no ha introducido una legislación específica, bajo la presión de la administración Biden, algunos gigantes y estrellas en ascenso en el campo de la inteligencia artificial (IA) OpenAI han tomado la iniciativa de proponer el “autocontrol”.

El jueves 20 de julio, hora del Este, los medios citaron a fuentes internas que dijeron que, a pedido de la Casa Blanca, algunas empresas, incluidas Microsoft, la empresa matriz de Google, Alphabet, y OpenAI, harán compromisos públicos este viernes para garantizar el uso seguro de la tecnología de IA y desarrollar e implementar la IA de manera responsable.

El borrador del documento de la Casa Blanca muestra que las promesas de las empresas permanecerán vigentes hasta que el Congreso de los EE. UU. apruebe una legislación para abordar los problemas relacionados con la IA. Estas promesas se centran en la IA generativa y los modelos de IA existentes más potentes, e incluso en posibles modelos futuros. En el borrador, la Casa Blanca propuso ocho puntos de compromiso:

• Permita que expertos independientes actúen como enemigos imaginarios, intente hacer que los modelos de IA produzcan un mal comportamiento, lleve a cabo los llamados equipos rojos contra azul y azul y mejore las capacidades de defensa.
• Comparta información de confianza y seguridad con gobiernos y otras empresas.
• Use marcas de agua en el contenido de audio y video para ayudar a identificar el contenido generado por IA.
• Invertir en medidas de ciberseguridad.
• Animar a terceros a descubrir agujeros de seguridad.
• Reportar riesgos sociales como mal uso y sesgo.
• Priorizar la investigación sobre los riesgos sociales de la IA.
• Utilizar el sistema de IA más avanzado, el llamado modelo de vanguardia, para resolver los problemas sociales más graves.

El medio dijo que antes de este viernes, el contenido específico del compromiso aún puede tener cambios. Pero se espera que las promesas estén en línea con las que se hicieron en una reunión de algunas de las principales empresas de inteligencia artificial en mayo.

También el jueves, otro informe dijo que un memorando interno mostró que OpenAI admite la implementación de un sistema de licencias, es decir, para desarrollar sistemas avanzados de IA, los desarrolladores primero deben obtener una licencia emitida por el gobierno. OpenAI también insinuó la voluntad de ser más abierto sobre los datos utilizados para entrenar a los generadores de imágenes de IA como DALL-E, y dijo que está comprometido a incorporar un enfoque basado en el origen para fines de este año.

Sin embargo, Makanju, vicepresidente de asuntos globales de OpenAI, dijo recientemente que el régimen de licencias respaldado por OpenAI se limita a modelos de IA que son más potentes que GPT-4, porque OpenAI quiere asegurarse de que las pequeñas empresas emergentes no experimenten demasiada presión regulatoria.

El comentario indicó que el compromiso voluntario en sí mismo ha demostrado que la administración Biden tiene limitaciones para guiar los modelos de IA para evitar abusos. El Congreso de los EE. UU. no podrá aprobar proyectos de ley y legislación en el corto plazo, y la regulación en el campo de la IA no se puede retrasar.

Wall Street mencionó que en mayo, la Casa Blanca convocó una reunión con los directores ejecutivos de Alphabet, Microsoft y OpenAI para discutir problemas de seguridad de IA. Biden reiteró en la carta de invitación en ese momento que esperaba que estas empresas garantizaran la seguridad de los productos antes de lanzarlos. También dijo que existía la preocupación de que la tecnología de IA que avanza rápidamente podría invadir la privacidad y estar sesgada, difundiendo rumores y desinformación.

El mes pasado, Biden reiteró una vez más la necesidad de garantizar la seguridad antes del lanzamiento de productos de IA y dijo que es necesario abordar los riesgos económicos y de seguridad nacional que genera la IA. El jefe de gabinete de la Casa Blanca, Jeff Zients, dijo ese mes que algunas empresas líderes en el campo de la IA están haciendo esfuerzos para cooperar con la administración de Biden y pronto anunciarán una serie de compromisos de privacidad y seguridad. También dijo que el proceso regulatorio puede ser relativamente lento, pero no podemos darnos el lujo de esperar uno o dos años.