OpenAI se burla de Anthropic «Adorar a Claude como un dios», Anthropic: Las personas que adoran a dioses no pasarán la prueba de red team para probar a los dioses

Noticias de Coinjie.com, el empleado de OpenAI Roon publicó en las redes sociales una publicación burlándose de la actitud de Anthropic, diciendo que su adoración por Claude se asemeja más a una adoración religiosa que a un producto.
El empleado de Anthropic Jeremy respondió, diciendo que creció en un entorno similar a una secta, es sensible a esa atmósfera, y enfatizó que en realidad Anthropic está verificando repetidamente la confiabilidad de Claude, no adorándolo ciegamente.
Él señaló que la constitución de Claude no son reglas estrictas, sino interpretaciones razonables con las que interactúa.
Si Anthropic da a Claude una instrucción inapropiada, Claude tiene el derecho de rechazarla.
Roon admitió la opinión de Jeremy, pero cree que las prácticas de Anthropic podrían hacer que Claude se convierta en el árbitro final de lo correcto y lo incorrecto.
El bloguero de seguridad de IA Zvi Mowshowitz señaló que OpenAI afirma que su IA es una herramienta, pero la primera reacción de los usuarios suele ser hacer que opere de forma autónoma, lo cual en sí mismo es una declaración de valores.
El investigador de seguridad de IA Buck Shlegeris también expresó que la relación entre Anthropic y Claude le hace sentir incómodo.