据动察 Beating 监测,OpenAI CEO Sam Altman 以个人署名发布公司五条运营原则,分别是民主化、赋权、普遍繁荣、韧性和适应性。Altman 在「适应性」中预告,未来某些时期 OpenAI 可能为了安全而收紧用户可获取的模型能力,原话称可以想象「需要牺牲部分赋权来换取更强韧性」的时期。
「民主化」要求 AI 关键决策通过民主程序做出,不应只由 AI 实验室决定。「赋权」强调给用户尽可能大的使用自由,但在不确定时偏向谨慎。「普遍繁荣」为 OpenAI 近期大规模购买算力、全球建数据中心做辩护,Altman 称目标是把 AI 成本降到人人用得起,政府可能需要探索新经济模式来确保价值共享。「韧性」提到一个具体风险场景:极端强大的模型可能降低制造新型病原体的门槛,需要全社会层面应对。
AltmanはOpenAIの五つの原則を発表し、今後安全性の制約のためにモデルの能力を制限する可能性を予告した
据动察 Beating 监测,OpenAI CEO Sam Altman 以个人署名发布公司五条运营原则,分别是民主化、赋权、普遍繁荣、韧性和适应性。Altman 在「适应性」中预告,未来某些时期 OpenAI 可能为了安全而收紧用户可获取的模型能力,原话称可以想象「需要牺牲部分赋权来换取更强韧性」的时期。
「民主化」要求 AI 关键决策通过民主程序做出,不应只由 AI 实验室决定。「赋权」强调给用户尽可能大的使用自由,但在不确定时偏向谨慎。「普遍繁荣」为 OpenAI 近期大规模购买算力、全球建数据中心做辩护,Altman 称目标是把 AI 成本降到人人用得起,政府可能需要探索新经济模式来确保价值共享。「韧性」提到一个具体风险场景:极端强大的模型可能降低制造新型病原体的门槛,需要全社会层面应对。
Altman 回顾了当年对公开 GPT-2 权重的犹豫,称事后看是多虑了,但催生了 OpenAI 沿用至今的迭代部署策略。