Altman publie cinq principes d'OpenAI, annonçant que l'avenir pourrait limiter la capacité des modèles pour des raisons de sécurité

Selon la surveillance Beating, le PDG d'OpenAI, Sam Altman, a publié sous sa propre signature cinq principes opérationnels de l'entreprise, à savoir la démocratisation, l'autonomisation, la prospérité universelle, la résilience et l'adaptabilité. Altman a annoncé dans « l'adaptabilité » qu'à l'avenir, à certains moments, OpenAI pourrait resserrer l'accès des utilisateurs aux modèles pour des raisons de sécurité, en disant qu'il est envisageable « de devoir sacrifier une partie de l'autonomisation pour gagner en résilience ».

La « démocratisation » exige que les décisions clés concernant l'IA soient prises par des processus démocratiques, et ne doivent pas être uniquement décidées par le laboratoire d'IA. « L'autonomisation » met l'accent sur la donner aux utilisateurs autant que possible, mais en cas d'incertitude, privilégie la prudence. La « prospérité universelle » défend la récente acquisition massive de puissance de calcul par OpenAI et la construction de centres de données dans le monde, Altman affirmant que l'objectif est de réduire le coût de l'IA pour qu'elle soit accessible à tous, et que le gouvernement pourrait devoir explorer de nouveaux modèles économiques pour assurer le partage de la valeur. La « résilience » évoque un scénario de risque précis : des modèles extrêmement puissants pourraient réduire la barrière à la fabrication de nouveaux agents pathogènes, nécessitant une réponse à l’échelle de la société.

Altman a rappelé son hésitation à l'époque à publier les poids publics de GPT-2, disant qu'il s'agissait d'une inquiétude excessive rétrospectivement, mais que cela a conduit à la stratégie de déploiement itératif adoptée par OpenAI jusqu'à aujourd'hui.