OpenAIは、ChatGPT向けに開発していた成人向けチャット機能を、ようやくのところ棚上げしたようです。どうやら彼らの年齢判別システムはかなり不具合があり、実際の10代を大人として誤判定してしまうのが12%程度の確率だったとか。…若いユーザーを特定のコンテンツから遠ざけたいのなら、これはあまりよくありません。彼らのWell-Being Council（ウェルビーイング協議会）は基本的に「脆弱な人たちにとってリスクになり得る」と言うわけで、その一連の取り組み全体をブレーキを踏んで止めたそうです。面白いのは、彼らが成人向けチャットの提供を明確にしたかった一方で、セーフガードが十分に堅牢ではないと気づいた点です。正直、これは筋が通っています。年齢確認システムに不備がある状態で成人向けチャット機能を展開すれば、PR上の大炎上は避けられないでしょう。少なくとも、出したい機能があっても、安全面を意識してからリリースしようとしていることは伝わってきます。たどり着くまでに少し時間がかかっているだけで。