Karen Hao：利润动机驱动人工智能发展，当前技术危害社会，行业内劳动剥削猖獗 | CEO日记

要点

• AI 的发展由利润动机驱动，可能催生更优秀的文明。
• 目前的 AI 技术正在对人和社会造成严重伤害。
• AI 公司剥削劳动力，制造裁员与再培训的循环。
• AI 的收益并未在硅谷之外同等分配。
• 理解 AI 需要审视超越硅谷的多元全球视角。
• 对人类智能的科学共识尚不存在，这使得 AI 目标的制定变得复杂。
• 公司为了自身利益操纵“通用人工智能”的定义。
• AI 带来生存性的风险，可能导致毁灭。
• 萨姆·奥特曼因对埃隆·马斯克的担忧而影响了 OpenAI 的领导层决策。
• 萨姆·奥特曼是一个极具争议的人物，人们对他的看法会因其是否与他的愿景一致而不同。
• “AI 将造福所有人”的说辞往往具有误导性。
• AI 的社会影响需要超出科技中心的更广泛理解。
• “人工通用智能”这一术语被公司有策略地使用。
• 因其潜在风险，AI 安全是一个至关重要的讨论议题。
• 科技领域的领导权力动态受个人与战略层面的考量影响。

嘉宾引言

凯伦·豪（Karen Hao）是《大西洋月刊》（The Atlantic）的特约撰稿人，BBC 播客《The Interface》的联合主持人，也是《帝国（Empire）AI》的《纽约时报》畅销书作家。她此前是《华尔街日报》（The Wall Street Journal）的记者，报道美国和中国的科技公司。她的调查报道揭示了来自 OpenAI 内部人士的行业权力博弈与伦理担忧方面的洞见。

争夺 AI 霸权的利润驱动竞赛

• 加速 AI 研究的文明可能会变得更优越，但这源自利润动机。

  — Karen Hao

• AI 发展竞争格局深受金融激励的影响。

• 也许会是这样：用 AI 加速研究的文明将成为更优越的文明。

  — Karen Hao

• 大型科技公司被与 AI 进步相关的巨额利润所驱动。

• 他们的共同点是：他们从这个神话中赚取了巨额收益。

  — Karen Hao

• 理解这些动机对于分析 AI 的未来至关重要。

• 争夺 AI 霸权的竞赛可能会加剧全球不平等。

• 利润动机可能会压过 AI 发展中的伦理考量。

当前 AI 技术的社会伤害

• 目前生产的 AI 技术正在对人们造成严重伤害。

  — Karen Hao

• AI 技术带来的负面后果常常被忽视。

• AI 发展中的伦理影响需要更多关注。

• AI 对社会的影响包括对个人的剥削与伤害。

• 眼下这些技术的生产正在对人们造成大量伤害。

  — Karen Hao

• 要应对这些伤害，需要对 AI 的社会影响采取批判性的视角。

• 对利润的侧重可能导致对社会责任的忽略。

• 有必要提高人们对 AI 社会伤害的认识，以便进行有根据的讨论。

AI 行业中的劳动力剥削

• AI 公司剥削劳动力，并制造裁员与再培训的循环，从而伤害劳动者。

  — Karen Hao

• AI 行业扰乱了传统职业路径与就业保障。

• 他们剥削了难以想象的大量劳动力，从而打断了职业上升的阶梯。

  — Karen Hao

• 劳动者往往先被裁掉，随后又被再培训以支持 AI 模型。

• 这种剥削循环凸显了 AI 劳动市场中的系统性问题。

• AI 训练流程的经济影响需要进一步审视。

• 对劳动者造成的有害影响是一个重大关切。

• 理解这些动态对于解决 AI 中的劳动力剥削至关重要。

AI 话术与现实之间的落差

• 当审视硅谷之外的影响时，“AI 让每个人都受益”的说辞就站不住脚了。

  — Karen Hao

• AI 公司常常给出的承诺通常与不同社区所面临的现实并不相符。

• 你真的会在走到那些与硅谷完全不同的地方时，才开始看到这种说辞是如何土崩瓦解的。

  — Karen Hao

• 这种落差凸显了需要对 AI 的影响有更广泛的理解。

• AI 被认为带来的好处在全球范围内并未得到同等分配。

• 研究多元视角对于理解 AI 的真实影响力至关重要。

• AI 承诺的局限性强调了包容性的意义。

• 全面的 AI 影响视角需要超越科技中心。

界定“通用人工智能”的模糊性

• 对人类智能缺乏科学共识，使得“人工通用智能”的定义与追求变得复杂。

  — Karen Hao

• 由于人类智能本身存在模糊性，界定 AI 目标具有挑战性。

• 这个领域没有“标杆”，而这个行业也没有“标杆”。

  — Karen Hao

• 公司可以为了自身利益操纵 AGI（人工通用智能）的定义。

• 这些公司完全可以用它们想要的任何方式来使用“人工通用智能”这个术语。

  — Karen Hao

• 从框架上界定技术的策略弹性会影响监管层面的讨论。

• 公司如何界定 AGI，会影响公众的认知与信任。

• 理解这些挑战对于有见地的 AI 讨论至关重要。

AI 可能带来的生存性风险

• AI 可能是摧毁一切的最可能途径。

  — Karen Hao

• AI 潜在风险凸显了安全讨论的紧迫性。

• 历史背景对于理解 AI 的生存性威胁很重要。

• 萨姆·奥特曼（Sam Altman）和埃隆·马斯克（Elon Musk）等关键人物在 AI 讨论中扮演着重要角色。

• 奥特曼是在为公众写作，或是在为公众发声；他并不是把“公众”仅仅当作受众。

  — Karen Hao

• 围绕 AI 安全的讨论对于应对潜在风险至关重要。

• 提高公众对 AI 生存性威胁的认知，有助于做出知情的决策。

• AI 安全讨论的紧迫性再怎么强调也不为过。

OpenAI 的领导动态与战略性考量

• 萨姆·奥特曼（Sam Altman）影响了关于 OpenAI 旗下盈利实体领导层的决策流程。

  — Karen Hao

• 关于埃隆·马斯克（Elon Musk）不可预测性的担忧影响了领导层决策。

• 随后，奥特曼就个人层面去向格雷格·布罗克曼（Greg Brockman）求情，并说难道你不觉得，让马斯克当这家公司的 CEO 会有一点点危险吗。

  — Karen Hao

• OpenAI 内部的决策流程凸显了战略性担忧。

• 在 OpenAI 的形成过程中，马斯克与奥特曼之间的动态影响很大。

• 领导层决策受到个人与战略性考量的影响。

• 理解这些动态能够洞察科技领域的领导力。

• 关于领导层的战略性担忧对于理解 OpenAI 的组织结构至关重要。

奥特曼“被极化”的认知

• 萨姆·奥特曼（Sam Altman）是一个极具争议的人物，他的形象取决于人们是否与他对未来的愿景一致。

  — Karen Hao

• 人们对奥特曼的看法会随着其是否与他对未来的愿景一致而不同。

• 如果你认同奥特曼对未来的愿景，你就会认为他是站在你这边时有史以来最棒的资产。

  — Karen Hao

• 不同意他愿景的人可能会觉得被他操纵了。

• 如果你不认同他对未来的愿景，你就会开始觉得自己好像正在被他操纵。

  — Karen Hao

• 从奥特曼的案例中可以看出，对领导力的评价本质上具有主观性。

• 理解领导力与愿景之间的动态在科技领域至关重要。

• 两极化的认知凸显了科技领导力的复杂性。

                  **披露：**本文由编辑团队（Editorial Team）进行了编辑。如需了解我们如何创建与审核内容的更多信息，请参阅我们的编辑政策（Editorial Policy）。