10:08
0
微软首席执行官纳德拉呼吁对超级智能系统实施外部控制,拒绝人工智能‘黑箱’模型
据 PANews 报道,微软首席执行官萨蒂亚·纳德拉在 10 月 11 日表示,随着超级智能系统快速发展,行业必须建立新的人工智能信任架构,摆脱依赖不透明的 AI 模型,并将责任从模型提供商单独承担上转移开来。 纳德拉概述了超级智能系统的六项核心治理原则:模型多样性以避免单点依赖;全面的可观测性,为所有关键 AI 行为提供不可篡改、人类可读的日志;持续验证测试以应对故障和异常;独立控制和审计,模型不得自行验证其证据;风险隔离机制,具备暂停或禁用系统的能力;以及事件披露协议。他强调,虽然思维链(CoT)透明度很重要,但仅靠它是不够的,因为确保模型可解释性可靠仍面临未解决的挑战。他总结道,最值得信赖的超级智能系统不是那些拥有最值得信赖模型的系统,而是那些即使在模型行为无法完全被信任时也能安全运行的系统。
展开