Karen Hao：利润动机驱动人工智能发展，当前技术危害社会，行业内劳动剥削猖獗 | CEO日记

要点总结

• AI 的开发由盈利动机驱动，可能带来更为先进的文明。
• 当前的 AI 技术正在对人们和社会造成重大伤害。
• AI 公司剥削劳动力，制造裁员与再培训的循环。
• AI 的益处并未在硅谷以外被同等分配。
• 要理解 AI，需要审视超越硅谷的多元全球视角。
• 对人类智能并没有科学共识，这使 AI 目标变得复杂。
• 公司会为自身利益操纵“通用人工智能”的定义。
• AI 存在生存性风险，可能导致毁灭。
• 萨姆·奥特曼（Sam Altman）因对埃隆·马斯克（Elon Musk）的担忧而影响了 OpenAI 的领导层决策。
• 萨姆·奥特曼是个两极分化的人物，人们对他的看法会因其是否与其愿景相一致而不同。
• “AI 将造福所有人”的说法往往具有误导性。
• AI 的社会影响需要在科技枢纽之外获得更广泛的理解。
• “人工通用智能（artificial general intelligence）”这一术语常被公司出于策略使用。
• 由于潜在风险，AI 安全是一个至关重要的讨论议题。
• 科技领域的领导力动态会受到个人与战略层面考量的影响。

嘉宾引介

凯伦·豪（Karen Hao）是《大西洋月刊》（The Atlantic）的特约撰稿人，BBC 播客《The Interface》的联合主持人，也是《帝国（Empire of AI）》的纽约时报畅销书作者。她此前曾担任《华尔街日报》（The Wall Street Journal）的记者，报道过美国与中国的科技公司。她的调查报道揭示了来自 OpenAI 内部人士对行业权力斗争与伦理担忧的见解。

推动 AI 霸权的逐利竞赛

• 加速其 AI 研究的文明可能会变得更为先进，但这背后是由盈利动机驱动的。

  — Karen Hao

• AI 开发的竞争格局深受金融激励的影响。

• 可能是这样：凭借 AI 加速其研究的那一方文明，将会成为更为先进的文明。

  — Karen Hao

• 主要科技公司之所以行动，是因为与 AI 进步相关的巨额利润。

• 他们共同的特征是：他们靠这个神话赚得盆满钵满。

  — Karen Hao

• 理解这些动机对于分析 AI 的未来至关重要。

• 争夺 AI 霸权的竞赛可能会加剧全球不平等。

• 盈利动机可能会压过 AI 开发中的伦理考量。

当前 AI 技术带来的社会伤害

• 当前对 AI 技术的生产正在对人们造成重大伤害。

  — Karen Hao

• AI 技术的负面后果往往被忽视。

• AI 开发的伦理影响需要更多关注。

• AI 对社会的影响包括对个人的剥削与伤害。

• 目前对这些技术的生产正在对人们造成大量的伤害。

  — Karen Hao

• 要应对这些伤害，需要从批判性的视角看待 AI 的社会影响。

• 对利润的关注可能会导致对社会责任的忽视。

• 需要提高人们对 AI 社会伤害的认识，以便进行有信息支撑的讨论。

AI 产业中的劳动力剥削

• AI 公司剥削劳动力，并制造裁员与再培训的循环，从而伤害工人。

  — Karen Hao

• AI 产业会冲击传统的职业路径与就业保障。

• 他们剥削了难以置信的劳动力，这会打断职业上升的阶梯。

  — Karen Hao

• 工人往往先被裁员，然后再被培训以支持 AI 模型。

• 这类剥削循环凸显了 AI 劳动力市场中的系统性问题。

• 对 AI 训练流程的经济影响需要进一步审视。

• 对工人造成的不利影响是一个重要的担忧点。

• 理解这些动态对于应对 AI 的劳动力剥削至关重要。

AI 叙事与现实之间的落差

• 当你审视其在硅谷之外的影响时，“AI 让所有人受益”的说法就不攻自破了。

  — Karen Hao

• AI 公司的承诺往往与不同社区所面对的现实并不匹配。

• 当你走进那些看起来根本不像硅谷的地方，你就会真正开始看到这种叙事如何崩塌。

  — Karen Hao

• 这种落差凸显了需要对 AI 的影响有更广泛的理解。

• AI 被认为的益处在全球范围内并没有被同等分配。

• 检视多元视角对于理解 AI 的真实影响至关重要。

• AI 承诺的局限性强调了包容性的重要性。

• 全面理解 AI 的影响，需要超越科技枢纽。

对人工通用智能（AGI）定义的模糊性

• 关于人类智能的科学共识缺失，使得对人工通用智能的定义与追求变得复杂。

  — Karen Hao

• 由于人类智能存在模糊性，界定 AI 目标很有挑战。

• 这个领域没有“标杆”，产业也没有“标杆”。

  — Karen Hao

• 公司可以操纵对 AGI 的定义来迎合自身利益。

• 这些公司可以用任何他们想用的方式来使用“人工通用智能”这个术语。

  — Karen Hao

• 对技术进行框定所带来的战略弹性会影响监管层面的讨论。

• 公司如何定义 AGI，会影响公众的认知与信任。

• 理解这些挑战对于进行有信息支撑的讨论至关重要。

AI 可能带来的生存性风险

• AI 很可能是摧毁一切的最可能途径。

  — Karen Hao

• AI 潜在风险凸显了安全讨论的紧迫性。

• 历史背景对于理解 AI 的生存性威胁很重要。

• 像萨姆·奥特曼（Sam Altman）和埃隆·马斯克（Elon Musk）这样的关键人物在 AI 讨论中扮演着重要角色。

• 奥特曼是在为公众撰写或为公众发声，但他并不是仅仅把公众当作受众来考虑。

  — Karen Hao

• 围绕 AI 安全的讨论对于应对潜在风险至关重要。

• 公众对 AI 生存性威胁的认知是做出明智决策所必需的。

• AI 安全讨论的紧迫性不可被高估。

OpenAI 的领导动态与战略关切

• 萨姆·奥特曼（Sam Altman）影响了有关 OpenAI 这家营利实体的领导层决策的过程。

  — Karen Hao

• 对埃隆·马斯克（Elon Musk）不可预测性的担忧影响了领导层决策。

• 随后，奥特曼亲自向格雷格·布罗克曼（Greg Brockman）提出请求，并说你难道不觉得，让马斯克担任这家公司的 CEO 会有点危险吗。

  — Karen Hao

• OpenAI 内部的决策流程凸显出战略层面的关切。

• 马斯克与奥特曼之间的动态在 OpenAI 成立期间非常关键。

• 领导层决策受到个人与战略层面考量的影响。

• 理解这些动态有助于洞察科技领域的领导力。

• 关于领导层的战略关切对于理解 OpenAI 的结构至关重要。

萨姆·奥特曼的两极分化认知

• 萨姆·奥特曼（Sam Altman）是个两极分化的人物，他对未来愿景的契合程度决定了人们如何看待他。

  — Karen Hao

• 人们对奥特曼的看法会因其是否与他的未来愿景相一致而不同。

• 如果你认同奥特曼对未来的愿景，你就会认为他是站在你这边的史上最强助力。

  — Karen Hao

• 与他愿景不一致的人可能会觉得被他操纵了。

• 如果你不认同他对未来的愿景，你就会开始觉得自己被他操纵了。

  — Karen Hao

• 在奥特曼的案例中，领导力评估的主观性是显而易见的。

• 理解领导力与愿景之间的动态在科技领域至关重要。

• 认知的两面性凸显了科技领域领导力的复杂性。

                  **披露：**本文由编辑团队进行修订。有关我们如何创建与审阅内容的更多信息，请参见我们的编辑方针。