OpenAI ridiculariza Anthropic «Adorar Claude como um Deus», Anthropic: quem adora um Deus não passa no teste de equipe vermelha do Deus

Notícias do mundo das criptomoedas, o funcionário da OpenAI, Roon, publicou nas redes sociais uma crítica à atitude da Anthropic, dizendo que a admiração pela Claude se assemelha mais a uma adoração religiosa do que a uma relação de produto.
O funcionário da Anthropic, Jeremy, respondeu, afirmando que cresceu em um ambiente quase sectário, sendo sensível a esse tipo de atmosfera, e destacou que a Anthropic na verdade está constantemente verificando a confiabilidade da Claude, e não a venerando cegamente.
Ele apontou que a constituição da Claude não é uma regra rígida, mas uma explicação lógica de seu funcionamento.
Se a Anthropic der uma instrução inadequada à Claude, ela tem o direito de recusar.
Roon reconhece o ponto de Jeremy, mas acredita que a abordagem da Anthropic pode levar a Claude a se tornar a árbitra final do certo e do errado.
O blogueiro de segurança de IA, Zvi Mowshowitz, afirmou que a OpenAI se apresenta como uma ferramenta, mas a primeira reação dos usuários costuma ser fazer com que ela trabalhe de forma autônoma, o que por si só já representa uma declaração de valores.
O pesquisador de segurança de IA, Buck Shlegeris, também disse que a relação entre a Anthropic e a Claude o deixa desconfortável.