Anthropic 分享了 3 项用于监测 AI 发展速度的指标
Anthropic 周四在一篇博客文章中分享了三项指标,以帮助人工智能公司监测开发进度。几天前,该公司首席执行官达里奥·阿莫代伊于周六发布了一项放缓计划。这些指标衡量人工智能主导的研发自主性、对人工智能代理的监督,以及 Anthropic 内部的算力分配。阿莫代伊的放缓提议得到了包括 OpenAI 首席执行官萨姆·阿尔特曼、SpaceX 首席执行官马斯克和谷歌 DeepMind 主席德米斯·哈萨比斯在内的行业领导者支持,旨在放缓模型能力提升的速度,同时不牺牲商业优势或美国在人工智能领域的领先地位。 Anthropic 衡量三项开发指标 Anthropic 发布了三项指标的方法论,以鼓励其他组织采用类似的衡量方式。该公司在博客文章中表示,对人工智能开发进行衡量并公开报告,能让社会有机会决定如何使用这些信息。 第一项指标显示,Claude 模型在所衡量的任何研发工作子集中都没有完全自主运行。第二项指标涉及构建一个用于监督和干预人工智能代理行动的系统;研究发现,在任何给定时刻,约有 30,000 个代理正在其使用最广泛的内部平台上开展研究和工程工作。 对于第三项指标,Anthropic 衡量
Oliver Grant·4 分钟前
