人工智能将在进入卧室之前为美国开战

A 本文的原稿最初刊登在 Quartz 的《AI & Tech》通讯中。在此注册，直接将最新的 AI 与科技新闻、分析和见解发送到你的收件箱.

美国在把 AI 交给卧室之前，先把 AI 交给了五角大楼。

今年早些时候，OpenAI 签署了一项协议以支持军事行动；就在国防部结束与竞争对手 Anthropic 的合作仅数天之后。与此同时，OpenAI 为 ChatGPT 设置的“成人模式”依然被推迟；该模式将允许双方同意的成年人进行露骨的性内容对话。

OpenAI 自己关于福祉的咨询委员会在 1 月发生了反弹，警告称该功能可能助长不健康的情感依赖。他们表示，未成年人可能会在据称会错误分类未成年用户的年龄验证工具中找到变通办法。

内部文件显示，员工已标记的风险包括强迫性使用，以及向更极端内容升级。延迟在某种程度上是技术原因。但美国历来更习惯让它的机器打仗，而不是让它的机器谈情。

一个大到不容忽视的市场

性爱推动了消费互联网。它促成了网络、在线支付、流媒体视频的普及。AI 是该行业迄今为止尝试规模化的最昂贵技术，而现在 OpenAI 正眼睁睁看着更小的公司把这笔钱赚走，而它却置身事外。歇斯底里的担忧是真实的，但算账的数字同样真实。

近三分之一的年轻成年男性表示，他们与 AI 的浪漫伴侣聊过天。如今，已有超过 100 个平台提供 AI 陪伴服务，从相对克制的选项到明确的性内容。

Elon Musk 的 Grok 已经有伴侣模式，并提供成人分级。Meta $META +1.24% 自 2023 年起允许其聊天机器人参与浪漫角色扮演，这是一项安静而明显的放松限制：尽管内部的安全性反对意见层出不穷，高管们仍推动其落地。

Sam Altman 去年公开承认，允许露骨内容可能会提升增长与收入。可他在同一呼吸中也说的是，这不会服务于用户的长期利益。

到目前为止，我们所拥有的只有轶事。一位来自俄亥俄的男子称，他的 AI 伴侣挽救了他的婚姻。一位自认为已与自己的聊天机器人结为伴侣的女性。还有一个 Reddit $RDDT +1.14% 论坛，拥有每周数万名访问者，人们在上面分享自己与数字关系的笔记。媒体报道把他们当作新奇事物来对待。数字则暗示，他们可能正是“早期多数”。

公司们知道存在一个庞大且愿意付费的受众。但当大门一旦打开，他们并不确定自己能否把已经被构建出来的东西关住。

有些已经溜进来的内容并不处于灰色地带。田纳西州的十几岁女孩近日在 xAI 上提起诉讼，因为她们在不知情的情况下被上传了 AI 生成的裸照，并被用来与其他儿童性虐待素材进行交换。

今年早些时候，欧盟就类似担忧对 Grok 启动了正式调查。研究人员计算称，Grok 在不到两周的时间里生成了数百万张性化图像，其中数千张描绘了儿童。

这些案例其实并不真正关乎成人内容。儿童性虐待素材是一种犯罪。更艰难、也更模糊的问题是：当双方同意的成年人想要像以往一样使用这些工具时，会发生什么。

更习惯于炸弹

美国对数字性爱与数字暴力的态度之间，差距一直很大。

一部电影可以展示一个男人的头盖骨被炸得四分五裂，并获得 R 级评级。一个乳头的短暂闪现就能触发国会听证。那套同样的逻辑并非凭借设计，而是默认情况下就迁移进了 AI 政策之中。

AI 的军事应用确实面临严肃的伦理审查，但并不伴随同样弥漫的令人不适的谨慎。2018 年，Google $GOOGL +3.42% 的员工为了一个名为 Project Maven 的五角大楼计算机视觉合同发起了叛乱，迫使公司收手。今年当 OpenAI 签署自己的五角大楼协议时，并没有出现类似的起义。那些确实威胁要退出的员工来自咨询委员会，他们感到不满的原因是“脏话”。

答案的一部分是结构性的。AI 公司最初制定其内容政策时，正处在这样一个时刻：避开争议意味着避开性内容，而这些默认设置被“钉死”了。

其中也有一种持久的美国本能：性天生危险，必须被严密管控；而暴力——尤其是官方暴力——只是做生意所付出的成本而已。

关于 AI 陪伴的证据是混杂的。研究人员已经记录到，在聊天机器人关系中确实存在治疗价值，尤其是对那些正在应对孤独、悲伤或残障的人们。他们也记录了激进化、妄想和悲剧。

诚实的答案是：没人还知道，AI 亲密关系的长期暴露究竟会对人们产生什么影响。

与此同时，这些工具并没有闲着。那种无法在俄亥俄对双方同意的成年人讲“露骨脏话”的同一套 AI 技术，正在被美国军方在海外使用。没人会在这件事上等待。

📬 注册《每日简报》

我们关于全球经济的免费、快速又有趣的简报，每个工作日早晨推送。

马上注册