微软纳德拉呼吁为AI设置紧急刹车,并加强人类控制
微软董事长兼首席执行官萨蒂亚·纳德拉周六呼吁,在构建先进人工智能系统时加入遏制机制、独立控制措施和紧急刹车,以便获授权人员在模型执行任务期间暂停或关闭模型。纳德拉在社交平台 X 上发文称,非确定性模型需要强大的确定性系统设计、人工控制和可靠的操作流程。这一言论发表之际,顶尖科技高管和研究人员正警告人工智能安全协议不足,并称该技术发展过快。 纳德拉提出配备紧急刹车的人工智能安全框架 纳德拉在 X 上写道,人工智能系统应围绕可观测性原则进行设计。这些原则包括模型多样性、以人类可读的方式记录模型行为、持续进行系统测试、独立控制和可审计性、遏制机制以及事件披露。纳德拉表示,将前沿闭源模型和开放权重模型视为内部威胁,是构建此类系统的一种方式。他写道,最值得信赖的超级智能系统,不会是配备了我们最信任模型的系统,而是让我们最不信任模型的系统。 科技领袖发出人工智能安全警告 纳德拉发表上述言论之际,微软联合创始人比尔·盖茨、Anthropic 首席执行官达里奥·阿莫代伊、OpenAI 首席执行官萨姆·阿尔特曼和 SpaceX 首席执行官马斯克都曾警告人工智能安全协议不足。上个月,一名人工智能研究人员离
MSFT2.37%
Gate AI 视野·21 分钟前
