谷歌AI掌门人哈萨比斯:前沿AI不过审,不得在美国上线

robot
摘要生成中
ME AI 消息,据 动察 Beating 监测,谷歌 DeepMind CEO Demis Hassabis 表示,AGI 可能只剩几年。他主张美国把现有的自愿模型测试,逐步升级为强制市场准入制度。 按照他的方案,前沿 AI 公司最初应在模型发布前最多 30 天主动送审。等评估机制成熟后,达到能力门槛的模型必须通过测试,才能在美国市场部署。 他建议成立类似美国金融业监管局 FINRA 的标准机构。机构由联邦政府监督,资金主要来自 AI 企业,并吸收独立专家和开源社区代表。 测试重点包括网络攻击、生物威胁、欺骗行为和绕过安全限制。标准将定期更新,并逐步采用实验室事先看不到的独立测试,避免模型针对公开题目刷分。 规则按照模型能力划线,不区分美国或外国公司,也不区分开源和闭源。未达到前沿门槛的初创公司和学术项目可以豁免。 美国目前已经允许前沿公司在模型发布前最多 30 天自愿交给政府测试。但 6 月发布的行政令明确排除强制许可和预先审批。哈萨比斯主张把这套自愿机制变成强制「通行证」,风险严重时还可协调前沿实验室集体减速。 (来源:BlockBeats)
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论