OpenAI приостанавливает запуск функции чата для взрослых из-за проблем с проверкой возраста

OpenAI приостановила запуск своей функции взрослого чата для ChatGPT, ссылаясь на критические недостатки в технологии предсказания возраста. Согласно данным NS3.AI, неспособность системы точно различать несовершеннолетних и взрослых оказалась более проблематичной, чем изначально предполагалось, ошибочно определяя подростков как взрослых примерно в 12% случаев. Этот уровень ошибок вызвал немедленные опасения относительно безопасности функции для более молодых пользователей.

Проблема верификации возраста

Основная проблема заключается в технических ограничениях алгоритмов предсказания возраста. При внедрении функций, специально предназначенных для взрослых пользователей, точная верификация возраста становится первоочередной задачей. Уровень ошибок в 12%, обнаруженный аналитиками по безопасности, означает, что тысячи несовершеннолетних пользователей могут потенциально обойти меры безопасности, предназначенные для их защиты. Экспертный совет OpenAI по благополучию и ИИ официально обозначил эти опасения в январе, предупредив, что функция взрослого чата рискует подвергнуть уязвимые группы неподобающему контенту или взаимодействиям.

Защита от потенциального вреда

Вместо того чтобы запускать дефектный продукт, OpenAI выбрала осторожный подход — временно приостановив инициативу взрослого чата до улучшения технологии. Это решение подчеркивает приверженность компании ответственному развертыванию ИИ и защите пользователей. Этот выбор отражает более широкое признание в отрасли того, что стремительное внедрение ИИ-функций может нести значительные риски, особенно когда речь идет о несовершеннолетних. Отложив запуск, OpenAI ставит целостность выше скорости, гарантируя, что любое будущее внедрение взрослого чата будет иметь более надежные механизмы верификации возраста.