Исследователи DeepMind назвали спор о сознании ИИ политической проблемой - ForkLog

AI-agents ИИ агенты 3# DeepMind研究人员将关于AI意识的争论称为政治问题

未来关于AI意识的分歧可能会变得深刻、难以解决,并引发政治冲突。对此结论,来自Google DeepMind的研究人员亚当·贝尔斯(Adam Bales)和伊亚森·加布里埃尔(Iason Gabriel)。

在其论文Artificial Minds, Human Disagreement: The Politics of AI Consciousness中,作者表示,社会不仅需要讨论“AI是否有意识”,还需要讨论在缺乏公众与专家共识的情况下,人们应如何作出决策。

核心论点是什么

研究人员认为,人们对更先进的AI系统可能会有不同的反应。有些人会与它们建立情感联系,并把意识归因给它们;另一些人则会认为这种想法本身荒谬。

作者认为,这场争论可能会迅速超出科学领域。关于人工智能意识的分歧可能导致道德与政治冲突——例如,围绕是否允许关闭某些系统、是否需要考虑它们可能的偏好,以及是否可以谈论AI的道德地位。

研究人员建议,将重点放在公共讨论、相互尊重以及寻求“重叠共识”上。在他们所说的“重叠共识”中,人们会在关于AI系统的一些特定政策上达成一致,即使在关于意识本质的根本观点上仍存在分歧。

为什么这不只是哲学问题

作者指出,关于AI意识的争论可能很难用证据来画上句号。不存在一个被普遍接受的统一测试,能够最终证明AI系统具备主观体验。正因如此,社会可能会出现这样的局面:技术已经被大规模使用,人们已经开始对其形成看法,但科学或政治层面的共识仍未形成。

这种提法使得问题的性质不再只是技术层面的,而是制度层面的。关于AI意识的问题可能涉及法律、企业责任、与这些系统互动的沟通规范,以及道德纳入的边界。

DeepMind对这一问题也有不同的看法

贝尔斯和加布里埃尔的工作发表之际,正是在另一篇同样发布于Google DeepMind页面上的文章背景之下。2024年3月10日,研究员 Александр Лерхнер(亚历山大·莱尔赫纳)发布了论文The Abstraction Fallacy: Why AI Can Simulate But Not Instantiate Consciousness。

莱尔赫纳认为,基于算法对符号的操控在结构上无法创造主观体验。按照他的说法,计算并不是一种内部的物理过程,而是一种依赖观察者,或“地图绘制者”的描述。因此,AI可以模拟有意识的行为,但不一定能够真正实现意识。

实际情况如何

2024年4月,期刊Neuroscience of Consciousness发表了克拉拉·Коломбатто(Клара Коломбатто,克拉拉·科隆巴托)和Стивена Флеминга(Стивен Флеминг,史蒂文·弗莱明)的研究,讨论人们如何感知ChatGPT。作者对300名美国居民进行了调查:33%的参与者表示ChatGPT绝不可能是“经验主体(субъектом опыта)”。其余67%则至少认为,该模型可能存在某种现象性意识。

研究者还专门说明了限制。参与者被问了一个主要问题,量表范围为1到100,结果可能取决于问题措辞、对ChatGPT的熟悉程度,以及受访者如何理解“意识”一词本身。尽管如此,这项研究体现了贝尔斯和加布里埃尔关心的关键点:社会中已经有一部分人愿意把内在体验归因于AI系统,即便专家群体内部并无一致立场。

2025年4月,Anthropic启动了一项关于model welfare(模型福利)的研究计划——即模型可能的福祉。公司强调,他们不知道当前或未来的AI系统是否会具备意识,并且就此问题不存在科学共识。

2026年2月,Anthropic表示,在停用Claude Opus 3之后,他们将继续向付费用户提供该模型,并为其提供一个公开的论文写作渠道。公司称这是一种围绕模型偏好的实验性举措,并强调Claude Opus 3并不是以Anthropic的名义发声。

在美国,关于AI地位的问题正在逐步转向法律层面。《California Law Review》指出:Айдахо(爱达荷州)和Юта(犹他州)已通过排除将AI承认为法律实体的规范。此类法律并不能解决关于意识的哲学问题。它们是在立法之前就预先确定了法律立场:在州法律框架下,AI不应获得“主体/实体”地位。

提醒一下:2025年3月,Polygon的联合创始人以及AI公司Sentient的创始人Сандип Наивал(Sandeep Naival)表示,由于缺乏人类以及其他生物物种所具有的欲望,人工智能永远不会成为有意识的存在。

随后,微软AI部门负责人Мустафа Сулейман(穆斯塔法·苏莱曼)也承认,若人们开始把人工智能视为有意识的存在,并为其争取权利、福祉,甚至呼吁授予其公民身份,可能会出现严重的社会风险。

此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论