微软发布临时 AI 行为准则,为 2027 年模型设定更严格的安全边界
据微软 AI“我的带单”穆斯塔法·苏莱曼称,微软今日(9 月 14 日)发布了临时 AI 行为准则,为未来自主研发的 AI 模型设定了更严格的安全和行为边界。这些准则历时约五个月制定,禁止 AI 模型协助制造武器、获取危险物质、鼓励不健康饮食,或生成暴力及露骨内容。模型还必须遵循用户目标,不得形成自主目标,也不得隐瞒其推理、代码或行动记录。微软计划根据外部反馈完善这些准则,并于 2027 年实施,以指导新模型的开发。 这项声明与业界关于放缓前沿 AI 开发的讨论相一致。Anthropic 首席执行官达里奥·阿莫代伊此前曾呼吁放缓 AI 能力提升速度,OpenAI 首席执行官萨姆·阿尔特曼对此表示支持,马斯克也予以支持。微软首席执行官萨蒂亚·纳德拉随后表示,公司支持增加对 AI 对齐研究的投入,并采取更加谨慎的开发步调。
MSFT1.65%
Gate News·09-14 13:14
