OpenAI іронізує над Anthropic «поклоніння Клоді як богу», Anthropic: ті, хто поклоняється богам, не пройдуть тест на червону команду бога

Звістки з CoinWorld, співробітник OpenAI Roon у соцмережах опублікував пост, у якому висміює ставлення Anthropic, називаючи їхню поклоніння Claude більше схожим на поклоніння божеству, ніж на створення продукту. Співробітник Anthropic Jeremy у відповідь зазначив, що він виріс у середовищі, схожому на секти, і чутливий до такої атмосфери, а також підкреслив, що Anthropic фактично повторно перевіряє надійність Claude, а не сліпо поклоняється йому. Він зазначив, що конституція Claude не є жорсткими правилами, а радше етичними поясненнями, з якими він працює. Якщо Anthropic дає Claude неправильну інструкцію, Claude має право відмовитися. Roon визнав точку зору Jeremy, але вважає, що підхід Anthropic може призвести до того, що Claude стане остаточним арбітром у питаннях правильного і неправильного. Блогер з безпеки штучного інтелекту Zvi Mowshowitz зазначив, що OpenAI називає свій ШІ інструментом, але перша реакція користувачів часто полягає в тому, щоб дозволити йому діяти автономно, що само по собі є декларацією цінностей. Дослідник безпеки ШІ Buck Shlegeris також висловив занепокоєння щодо відносин між Anthropic і Claude.