Altman publica las cinco reglas de OpenAI, anticipando que en el futuro podrían limitar las capacidades del modelo por motivos de seguridad

robot
Generación de resúmenes en curso

Según la monitorización de Beating, el CEO de OpenAI, Sam Altman, publicó en su nombre personal cinco principios operativos de la compañía, que son democratización, empoderamiento, prosperidad general, resiliencia y adaptabilidad. Altman en la sección de «adaptabilidad» anticipa que en el futuro, en ciertos períodos, OpenAI podría restringir el acceso de los usuarios a los modelos por motivos de seguridad, y afirmó que se puede imaginar «la necesidad de sacrificar parte del empoderamiento para obtener mayor resiliencia».

«Democratización» exige que las decisiones clave sobre IA se tomen mediante procesos democráticos, y no solo por los laboratorios de IA. «Empoderamiento» enfatiza dar a los usuarios la mayor libertad posible de uso, pero en situaciones de incertidumbre, se prefiere la prudencia. «Prosperidad general» defiende la reciente compra masiva de capacidad de cálculo y la construcción de centros de datos a nivel mundial por parte de OpenAI, y Altman afirma que el objetivo es reducir los costos de IA a un nivel accesible para todos, sugiriendo que los gobiernos podrían necesitar explorar nuevos modelos económicos para garantizar la distribución de valor. «Resiliencia» menciona un escenario de riesgo específico: modelos extremadamente potentes podrían reducir la barrera para fabricar nuevos tipos de patógenos, lo que requiere una respuesta a nivel de toda la sociedad.

Altman recordó su vacilación en aquel entonces respecto a la publicación de los pesos de GPT-2, diciendo que, en retrospectiva, fue una preocupación excesiva, pero que esto impulsó la estrategia de despliegue iterativo que OpenAI ha seguido hasta ahora.

Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • Comentar
  • Republicar
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
Sin comentarios
  • Anclado