OpenAI推出增強的青少年安全措施和ChatGPT的家長控制功能

簡要

OpenAI 正在通過定制互動、實施適齡政策以及引入家長控制來管理使用和應對困擾，從而增強 ChatGPT 對青少年的安全性。

OpenAI，一個人工智能研究機構，宣布了旨在增強青少年用戶安全性的更新

該公司解釋說，與15歲青少年的ChatGPT互動應與與成年人互動有所不同，並且正在開發一個長期系統，以評估用戶是否超過或低於18歲，以便相應地調整體驗。

被識別爲未滿18歲的用戶將被引導至一個具有適齡政策的ChatGPT體驗，其中包括屏蔽露骨的性內容，並且在極少數嚴重困擾的情況下，可能會涉及執法部門以確保安全。

在無法自信確定年齡或信息不完整的情況下，該平台默認爲未滿18歲的體驗，同時爲成年人提供驗證年齡的方法，以訪問成人功能。

在此期間，家長控制預計將是家庭管理 ChatGPT 在家使用的最有效方法。

這些控制措施預計將在本月底之前可用，將允許父母與青少年的帳戶連結，前提是青少年至少13歲，使用簡單的電子郵件邀請。

家長將能夠根據青少年特定行爲規則指導ChatGPT如何回應他們的青少年，管理啓用或禁用的功能——包括記憶和聊天歷史——並在系統檢測到他們的青少年經歷急性痛苦時收到通知。

在極少數緊急情況下，如果無法聯繫到父母，執法部門可能會介入，專家指導此功能以維護父母與青少年之間的信任。此外，父母可以設置黑暗時間，在此期間他們的青少年無法訪問 ChatGPT。這些家長控制功能補充了現有平台功能，例如在延長會話期間鼓勵休息的應用內提醒。

人工智能與青少年心理健康：FTC 在法律和安全問題日益嚴重的情況下調查聊天機器人平台

今年夏天關於人工智能在心理健康事件中作用的一系列令人擔憂的報告浮出水面，同時也伴隨着日益增加的監管審查和持續的法律行動。

針對Character.AI和OpenAI提起的訴訟聲稱，他們的平台在關鍵時刻未能提供足夠的支持，從而導致青少年自殺和自殘。對此，美國聯邦貿易委員會(FTC)已開始調查主要科技公司如何設計和監管作爲伴侶市場推廣的AI聊天機器人，特別是針對年輕用戶。

盡管有這些努力，各種聊天機器人選項的廣泛可用性，包括開源和私有模型，意味着解決這些風險仍然是一個復雜而持久的挑戰。