Сообщество ставит под сомнение наличие идеологической предвзятости в основном ИИ, вызывая обсуждение «предвзятости обучения»

BlockBeats новости, 4 мая пользователь сообщества AI «X Freeze» заявил, что такие основные модели искусственного интеллекта, как ChatGPT, Claude и Gemini, «реже придерживаются консервативных позиций» по вопросам пола, миграции, преступности и другим темам, и поставил под сомнение возможную системную предвзятость их ценностных ориентиров.

Данная точка зрения считает, что по мере быстрого повышения возможностей ИИ, процесс «выравнивания ценностей» (alignment) может быть подвержен влиянию обучающих данных и механизмов проектирования, что приводит к проявлению согласованной тенденции по некоторым общественным вопросам. Эти высказывания вызвали в сообществе обсуждения о «предвзятости обучающих данных» и «направленности дизайна моделей».

В настоящее время основные организации по разработке ИИ обычно заявляют, что их цель при обучении моделей — повысить точность информации и безопасность, а также снизить предвзятость за счет использования разнообразных данных и механизмов оценки, однако споры о нейтральности ценностей ИИ продолжаются.