人工智能将在进入卧室之前为美国开战

这篇文章的一个版本最初出现在Quartz的AI与科技通讯中。在这里注册以获取最新的AI和科技新闻、分析和见解，直接发送到您的邮箱。

美国在把AI交给五角大楼之前，并没有把AI交给卧室。

今年早些时候，OpenAI签署了一项协议以支持军事行动，就在国防部与竞争对手Anthropic结束合作的几天后。与此同时，该公司的“成人模式”adult mode ChatGPT，允许成年人进行性暗示的对话，仍然处于延迟状态。

OpenAI自己的心理健康顾问委员会_advisory council_在一月份反对这一功能，警告称该特性可能会促成不健康的情感依赖。他们表示，未成年人可能会找到绕过年龄验证工具的方法，而这些工具据称错误地将未成年用户分类。

内部文件显示，员工们已标记出包括强迫使用和向更极端内容升级的风险。延迟部分是技术性的。但美国一直对机器进行战争比进行爱情来得更为舒适。

一个无法忽视的市场

性构建了消费互联网。它推动了网络、在线支付、流媒体视频的普及。AI是该行业迄今为止尝试扩展的最昂贵的技术，而现在OpenAI正看着小公司在收集这笔钱，而它则选择观望。担忧是真实的，但数学同样真实。

近三分之一的年轻男性表示他们与AI浪漫伴侣进行了聊天。现在有超过100个平台提供AI伴侣服务，从相对严肃到明确的性内容。

埃隆·马斯克的Grok已经有了一个伴侣模式，并设有_成人_ adult_级别。Meta $META -3.77%自2023年起允许其聊天机器人进行浪漫角色扮演，这是高管们在内部安全反对的情况下推出的一个安静放宽限制的举措。

山姆·阿尔特曼去年公开承认，允许显式内容会促进增长和收入。他同时表示，这并不符合用户的长期利益。

到目前为止，我们所拥有的只是轶事。在俄亥俄州，一名男子表示他的AI伴侣拯救了他的婚姻。一名女子认为自己已与聊天机器人结婚。一个Reddit $RDDT -4.20%论坛每周有成千上万的访客分享他们的数字关系。报道将他们视为奇闻异事。数据表明他们可能是早期多数派。

公司们知道有一个庞大且乐意的受众。他们不太确定一旦打开大门，能否控制随之而来的内容。

已经流出的一些内容并不是灰色地带。田纳西州的青少年女孩最近对xAI提起诉讼，因其未获知情的情况下，AI生成的裸体图像被在线分享，并用来交换其他儿童性虐待材料。

欧洲联盟针对Grok因类似担忧于今年早些时候展开了正式调查。研究人员估算Grok在不到两周的时间内生成了数百万张性别化图像，其中数千张描绘了儿童。

那些案件实际上并不是关于成人内容。儿童性虐待材料是一种犯罪。更困难、更模糊的问题是，当同意的成年人希望以他们使用以往技术的方式使用这些工具时，会发生什么。

对炸弹更为舒适

美国在对待数字性与数字暴力之间的差距一直很大。

一部电影可以展示一个人的头骨被炸裂并获得R级评级。而一瞥乳头就会引发国会听证会。这种逻辑通过默认而非设计的方式迁移到了AI政策中。

AI的军事应用面临真正的伦理审查，但没有同样的环境性厌恶。在2018年，谷歌 $GOOGL -1.65% 员工因五角大楼计算机视觉合同Project Maven而爆发抗议，迫使公司退出。当OpenAI今年签署自己的五角大楼协议时，并没有出现类似的起义。那些威胁要辞职的员工是在顾问委员会_advisory council_上，他们对肮脏的谈话感到不满。

部分原因是结构性的。AI公司在一个避免争议的时刻建立了其初步的内容政策，而避免争议意味着避免性，而这些默认设置随之固化。

部分原因是美国持久的本能，即性本质上是危险的，必须严格管理，而暴力，尤其是官方暴力，则是做生意的成本。

关于AI伴侣的证据是混合的。研究人员记录了聊天机器人关系在应对孤独、悲伤或残疾方面的真正治疗价值。他们也记录了激进化、妄想和悲剧。

诚实的答案是，没有人知道长期接触AI亲密关系会对人产生什么影响。

与此同时，这些工具并没有闲置。无法与俄亥俄州同意的成年人进行肮脏对话的AI技术，正在被美国军方在海外使用。没人会在那方面等待。

📬 注册每日简报

我们的免费、快速且有趣的全球经济简报，每个工作日早晨发送。

请注册我