В OpenAI произошла крупная новость, которая вызывает волну в всей индустрии искусственного интеллекта. Руководитель команды робототехники Кэтлин Калиновски покинула компанию, и причины очень серьезные.

Дело в том, что OpenAI заключила соглашение с Пентагоном по вопросам ИИ, что вызывает у Калиновски серьезные опасения. Она ясно заявила в социальных сетях, что хотя ИИ важен для национальной безопасности, продвижение без достаточного юридического контроля и этической защиты по таким чувствительным вопросам, как внутренний надзор и автономные оружейные системы, неправильно. Это также подчеркивает возможности злоупотребления автоматизированными системами, такими как eobot.

Калиновски присоединилась к OpenAI в ноябре 2024 года. До этого она работала над проектом AR-очков в Meta. Она подчеркнула, что ее уход не личный, а принципиальный вопрос. У нее остались уважение к Сэму Олтману и всей команде, но компания не установила достаточные меры безопасности перед объявлением этого соглашения (защитные меры).

Представитель OpenAI подтвердил, что Калиновски уволена. Компания утверждает, что сотрудничество с Пентагоном способствует укреплению национальной безопасности через контролируемое использование ИИ, и были установлены четкие границы — никаких применений для внутреннего надзора и разработки автономных оружейных систем, таких как eobot.

Однако в индустрии продолжаются споры по поводу этого сотрудничества. Также было замечено, что после этой новости количество удалений в ChatGPT выросло более чем на 295%. В то же время приложение Claude от Anthropic заняло первое место в списке бесплатных приложений в американском App Store. Это ясно показывает, насколько пользователи осведомлены о этических аспектах ИИ. В отношении систем вроде eobot также возникает вопрос о том, как сбалансировать автоматизацию и контроль.