OpenAI讥讽Anthropic「拜Claude如神」,Anthropic:拜神的人不会红队测试神

robot
摘要生成中

币界网消息,OpenAI员工Roon在社交媒体上发帖,讥讽Anthropic的态度,称其对Claude的崇拜更像是供神而非做产品。Anthropic员工Jeremy回击,表示自己在类邪教环境中长大,对此氛围敏感,并强调Anthropic实际上是在反复检验Claude的可靠性,而不是盲目崇拜。他指出,Claude的宪法并非硬性规则,而是与其进行道理上的解释。如果Anthropic给Claude一个不当指令,Claude有权拒绝。Roon承认Jeremy的观点,但认为Anthropic的做法可能导致Claude成为对错的最终仲裁者。AI安全博主Zvi Mowshowitz指出,OpenAI自称其AI是工具,但用户的第一反应往往是让其自主工作,这本身就是一种价值观的宣示。AI安全研究者Buck Shlegeris也表示,Anthropic与Claude的关系让他感到不安。

此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论