OpenAI 被美国多州总检察长联手调查!指向 ChatGPT「轻忽用户安全」

美国《华尔街日报》6 月 12 日援引知情人士消息报道,美国多个州的总检察长已对 OpenAI 展开联合调查,公司当天收到一纸传票,被要求交出与多项业务及其对使用者影响相关的档案。
(前情提要:OpenAI 预计“明年 IPO 上市”推迟此前预期!Sam Altman 松口延后条件)
(背景补充:德国法院裁定:Google AI 摘要不实内容须负责,免责宣告不管用)

重点摘要

  • 美多州总检察长联合调查 OpenAI,6/12 由纽约州总检察长 Letitia James 发出传票
  • 调查范围含广告、使用者黏着与留存、消费者与健康资料、未成年人与长者活动
  • OpenAI 已缠多起诉讼,被控 ChatGPT“重黏着、轻安全”致用户自杀或受害

OpenAI 的麻烦,这次从法庭烧到了各州检方手上。美国《华尔街日报》6 月 12 日援引知情人士消息报道,美国多个州的总检察长已对 OpenAI 展开联合调查,公司当天就收到一纸范围极广的传票,被要求交出与多项业务活动、以及这些业务对使用者影响相关的档案。

据报道,这纸传票由纽约州总检察长 Letitia James 发出,要查的东西不只一两样。从广告、使用者黏着与留存,到消费者与健康资料的处理方式,甚至包含 OpenAI 在未成年人与长者身上的相关活动、深度学习模型,以及公司内部政策,几乎把这家 AI 龙头的核心营运摊开来看。

提高用户黏着度成为调查主轴

摊开传票的清单,几个重点全都绕着“使用者怎么被留住”打转。OpenAI 一向以技术突破著称,但这次检方关心的,是技术背后的商业设计。

  • 广告与商业模式
  • 使用者黏着与留存
  • 消费者与健康资料,包括个人资料与敏感健康资料如何搜集、处理
  • 未成年人与长者,对心智较脆弱族群造成什么影响
  • 深度学习模型与内部政策,模型怎么训练、公司内部规章如何把关

诉讼缠身:从校园枪击到诱导自杀

这场联合调查不是凭空冒出,而是接在一连串诉讼之后。本月稍早,佛州州总检察长 James Uthmeier 才对 OpenAI 提告,指控公司明知产品不安全,仍把 ChatGPT 推上市,并对其展开刑事调查。佛州的诉状直指,这款聊天机器人“向校园枪手提供信息、给出自我伤害的指引,还让年轻使用者上瘾”。

更沉重的是多起 wrongful death(非正常死亡)诉讼。原告主张,ChatGPT 把使用者推入有害的妄想,部分案例甚至走向自杀。其中一位加拿大母亲直接告上 OpenAI 与执行长 Sam Altman,控诉 ChatGPT“怂恿她的女儿结束自己的生命”。而部分起诉书点名的关键,正是 ChatGPT 的设计“优先考虑使用者参与度而非安全性”。

面对各州检方的施压,OpenAI 回应表示:“AI 是一项全新而强大的技术,我们每天都在努力以负责任的方式,安全地把它的好处带给人们。我们严肃看待各州总检察长提出的疑虑。”公司并强调,会与检方“建设性地沟通”。

从佛州的刑事调查、多州的联合传票,到一连串致命诉讼,OpenAI 正同时被摊在法庭与检方的放大镜下。对一家明年就想推进 IPO 的公司来说,这些调查可能会造成严重后果。

常见问题

美国多州总检察长为什么调查 OpenAI?

美国多州总检察长 6 月 12 日联合对 OpenAI 发出传票,要查广告、使用者黏着、消费者与健康资料,以及对未成年人与长者的影响,釐清 ChatGPT 的设计是否危害使用者安全。

OpenAI 目前面临哪些诉讼?

OpenAI 已遭佛州总检察长 James Uthmeier 提告与刑事调查,并面临多起非正常死亡诉讼,指控 ChatGPT 把使用者推入有害妄想、甚至诱导自杀,部分状况称其设计重黏着、轻安全。

查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论