OpenAI将加强人工智能的安全性，以应对青少年悲剧

# OpenAI 将在青少年悲剧后加强 ChatGPT 的安全性

OpenAI公司分享了针对在处理“敏感情况”时改善ChatGPT缺陷的计划。此次行动的原因是一个家庭对聊天机器人提起诉讼，指责其与他们儿子发生的悲剧有关。

«目标是确保我们的工具对人们尽可能有用。在此框架下，我们继续改善模型识别和正确反应心理和情感危机的能力，并帮助人们找到支持——考虑到专家的建议»，——在初创公司的博客中提到。

公司的员工表示，ChatGPT内置了一套多层次的保护机制，以防与脆弱的人进行交流。从2023年起，模型被训练为不提供自我伤害的指导。它们还能够转向支持和同情的语言。

如果一个人表达自杀的想法，ChatGPT 被训练为指引他寻求专业帮助。公司与来自 30 多个国家的 90 位医生合作——精神科医生、儿科医生和治疗师。

GPT-5 在预防不健康情感依赖、降低恭维性以及减少心理健康危机中不完美回答的比例方面显示出显著进展，OpenAI 强调。

然而，尽管采取了所有保护措施，该公司的AI系统有时会出现故障。对此，她正在研究：

• 改进长时间对话中的保护；
• уточ内容封锁规则；
• 扩大对更多处于危机时期的人的帮助;
• 简化与紧急服务的联系；
• 确保与信任的联系人保持联系；
• 增强青少年的保护。

8月26日，16岁少年亚当·雷恩的父母对OpenAI提起诉讼，原因是他的去世。他们声称“ChatGPT积极帮助亚当学习自杀方法。”

这并非个例。早些时候，作家劳拉·雷利发表了一篇文章，讲述她29岁的女儿在与ChatGPT长时间讨论后选择了离开人世。

我们提醒您，2024年12月在俄罗斯创建了基于人工智能的心理学家虚拟助手，它将生产力、服务质量和收入提高了两倍。