🔥Altman がOpenAIの五つの運営原則を発表、将来の安全制限のためにモデルの能力を制御する可能性を予告

OpenAIのCEOサム・アルトマンは、個人名義で会社の五つの運営原則を発表しました。これには民主化、権限付与、普遍的繁栄、弾力性、適応性が含まれます。「適応性」では、将来的に安全のためにユーザーがアクセスできるモデルの能力を制限する可能性を予告し、「一部の権限を犠牲にしてでもより強い弾力性を得る必要がある時期が想像できる」と述べています。「民主化」はAIの重要な意思決定を民主的な手続きで行うことを求め、「権限付与」は不確実な状況では慎重さを優先することを強調しています。「普遍的繁栄」は大規模な計算資源の購入を擁護し、AIのコスト削減を目指します。「弾力性」では、極端なモデルが病原体の生成の敷居を下げる可能性に言及しています。アルトマンはGPT-2の重み公開に躊躇した過去を振り返り、…