OpenAI mengejek Anthropic「Menyembah Claude seperti dewa」, Anthropic: orang yang menyembah dewa tidak akan menjadi tim merah menguji dewa

Berita dari Jiema.com, karyawan OpenAI Roon memposting di media sosial, mengejek sikap Anthropic, menyebut kekaguman mereka terhadap Claude lebih seperti menyembah dewa daripada membuat produk. Karyawan Anthropic Jeremy membalas, mengatakan bahwa dia dibesarkan di lingkungan seperti sekte, sangat peka terhadap suasana tersebut, dan menegaskan bahwa sebenarnya Anthropic sedang melakukan pengujian ulang keandalan Claude, bukan sekadar menyembah secara buta. Dia menunjukkan bahwa konstitusi Claude bukan aturan keras, melainkan penjelasan rasional terhadapnya. Jika Anthropic memberi Claude instruksi yang tidak pantas, Claude berhak menolak. Roon mengakui pandangan Jeremy, tetapi berpendapat bahwa pendekatan Anthropic mungkin menyebabkan Claude menjadi arbiter akhir dari benar dan salah. Blogger keamanan AI Zvi Mowshowitz menunjukkan bahwa OpenAI mengklaim AI mereka sebagai alat, tetapi reaksi pertama pengguna sering kali membiarkan AI bekerja secara mandiri, yang pada dasarnya adalah deklarasi nilai. Peneliti keamanan AI Buck Shlegeris juga menyatakan bahwa hubungan antara Anthropic dan Claude membuatnya merasa tidak nyaman.