OpenAI припиняє розгортання функції чатів для дорослих через невдачі в процесі перевірки віку

OpenAI призупинив запуск своєї функції дорослого чату для ChatGPT, посилаючись на критичні недоліки в технології прогнозування віку. Згідно з даними від NS3.AI, нездатність системи точно розрізняти неповнолітніх і дорослих виявилася більш проблематичною, ніж спочатку передбачалося, помилково ідентифікуючи підлітків як дорослих приблизно в 12% випадків. Цей показник помилок викликав негайні занепокоєння щодо безпеки функції для молодших користувачів.

Виклик верифікації віку

Основна проблема полягає в технічних обмеженнях алгоритмів прогнозування віку. Коли впроваджуються функції, спеціально розроблені для дорослих користувачів, точна верифікація віку стає надзвичайно важливою. 12% помилковий показник, виявлений аналітиками з безпеки, означає, що тисячі неповнолітніх користувачів можуть потенційно обійти запобіжні заходи, призначені для їх захисту. Експертна рада OpenAI з добробуту та ШІ офіційно підняла ці питання в січні, попереджаючи, що функція дорослого чату ризикує піддати вразливі групи непристойному контенту або взаємодіям.

Захист від потенційних шкод

Замість того, щоб запускати недосконалий продукт, OpenAI обрала обережний підхід — тимчасово відкласти ініціативу дорослого чату до покращення технології. Це рішення підкреслює зобов’язання компанії до відповідального впровадження ШІ та захисту користувачів. Вибір відображає ширше визнання в індустрії, що швидкий рух в напрямку функцій ШІ може нести значні ризики, особливо коли мова йде про неповнолітніх. Відклавши запуск, OpenAI ставить цілісність понад швидкість, гарантуючи, що будь-яке майбутнє впровадження дорослого чату матиме більш надійні механізми верифікації віку.