OpenAI насмехается над Anthropic «почитая Claude как бога», Anthropic: те, кто поклоняются богу, не пройдут тестирование красной команды бога

Новости сайта Биткойн, сотрудник OpenAI Roon опубликовал пост в социальных сетях, высмеивая отношение Anthropic, называя их поклонение Claude скорее поклонением божеству, чем созданию продукта. Сотрудник Anthropic Jeremy ответил, что он вырос в среде, похожей на секту, и чувствителен к такой атмосфере, подчеркнув, что Anthropic на самом деле постоянно проверяет надежность Claude, а не слепо поклоняется ему. Он отметил, что конституция Claude не является жестким правилом, а скорее основана на логическом объяснении. Если Anthropic даст Claude неправильную команду, у него есть право отказаться. Roon признал точку зрения Jeremy, но считает, что подход Anthropic может привести к тому, что Claude станет окончательным арбитром в вопросах правильного и неправильного. Блогер по безопасности ИИ Zvi Mowshowitz отметил, что OpenAI заявляет, что их ИИ — это инструмент, но первая реакция пользователей зачастую — заставить его работать самостоятельно, что само по себе является декларацией ценностей. Исследователь безопасности ИИ Buck Shlegeris также выразил обеспокоенность тем, что отношения между Anthropic и Claude вызывают у него тревогу.