ChatGPT увімкнув прогнозування віку за допомогою AI, неповнолітні користувачі отримають автоматичний захист

OpenAI正在强化ChatGPT的内容安全机制。根据最新消息，ChatGPT已在全球推行年龄预测功能（欧盟地区将在未来几周上线），用于自动识别账户是否可能属于18岁以下用户，進而啟用相應的內容過濾和使用限制。這是AI技術在平台治理中的一次實際應用，也反映了生成式AI產品在監管壓力下的主動應對。

年齡預測系統如何工作

识别原理

該系統通過分析多個行為信號來估算用戶年齡，包括帳戶活躍時間、使用模式、交互特徵等維度。這種基於行為的推斷方式避免了強制身份驗證的繁瑣流程，同時保留了一定的隱私空間。

保護機制

系統識別出未成年用戶後會自動啟用兩層保護：

• 適齡內容過濾，限制訪問可能不適合未成年人的內容
• 使用限制，可能包括功能訪問權限的調整

誤識別處理

成人用戶如果被誤識別為未成年人，可以在設置中通過身份驗證流程恢復完整權限。這種設計在保護和便利之間找到了平衡。

為什麼這很重要

監管背景

生成式AI產品面臨全球範圍的監管審查，未成年人保護是核心關切。歐盟的《數字服務法》、美國各州的兒童隱私法規都對平台的保護義務提出了明確要求。OpenAI的這一舉措正是對這些監管壓力的主動回應。

行業意義

AI驅動的年齡識別系統標誌著平台治理從被動審核向主動預防的轉變。相比傳統的人工審核或規則過濾，這種方式更具可擴展性。如果效果達到預期，很可能成為行業標準，推動其他生成式AI平台跟進。

技術創新點

用行為分析而非身份驗證來推斷年齡，這種思路在Tinder與Worldcoin的合作中也有體現。兩者都試圖在保護用戶隱私和確保安全之間找到平衡，但技術路徑不同——一個依賴行為數據，一個依賴生物識別。

需要關注的問題

準確性與公平性

行為分析的準確率直接影響用戶體驗。如果誤識別率過高，會導致大量成人用戶需要反覆驗證，反之則可能放過部分未成年人。系統的訓練數據和算法偏差也可能影響不同地區、不同人群的識別效果。

隱私考量

雖然系統不需要直接的身份驗證，但分析帳戶行為本身也涉及數據收集。OpenAI需要明確說明這些行為數據如何被使用、存儲和保護。

總結

OpenAI的年齡預測系統代表了生成式AI平台在安全治理上的一次創新嘗試。通過AI識別AI用戶，既解決了未成年人保護的現實需求，也展示了技術在自我規範中的潛力。但這個系統的真正價值，最終還要看它在實際應用中的準確率和用戶接受度。隨著全球對AI監管的加強，類似的主動保護措施可能會成為新產品的標配要求。