ME News сообщает, что 26 июня (UTC+8) были раскрыты внутренние разногласия компании по поводу оценки управления. Бывшие сотрудники сообщают, что внутри компании существовала активная дискуссионная атмосфера; однако другие бывшие сотрудники рисуют более унылую картину, утверждая, что резкая критика в основном ограничивалась частными групповыми чатами, а регулярные общие собрания даже назывались сотрудниками «Поисками видения Дарио» (Dario Vision Quests). Слушать генерального директора Дарио Амодеи было похоже на «прослушивание проповеди пастора (sermon)», и редко кто осмеливался бросать вызов решениям руководства на открытых собраниях. Корень унылой атмосферы кроется в глубоко укоренившейся в Anthropic элитарной убеждённости в безопасности, основанной на принципе «защита через нападение». Руководство внутри компании активно представляло генерального директора OpenAI Сэма Альтмана (а также Meta и xAI) как негативный пример, одновременно внушая сотрудникам элитарную логику: необходимо сохранять лидерство в отрасли в области бизнеса, вычислительных мощностей и исследовательских талантов, чтобы иметь право голоса при установлении правил. Бывший член совета директоров OpenAI Хелен Тонер привела метафору леса: жители деревни в любом случае войдут в волшебный лес, полный монстров, а стратегия Anthropic заключается в том, чтобы опередить их, войдя в лес первыми, одновременно высвобождая технологические дивиденды, приручая монстров и контролируя катастрофические риски. Погоня за технологическим превосходством также неоднократно ставила под сомнение этический выбор Anthropic в области безопасности. Осенью 2024 года руководство, несмотря на внутренние возражения, вместе с Palantir открыло доступ к своим услугам для разведывательных и оборонных ведомств США. В настоящее время подтверждено, что Claude используется для идентификации целей в конфликте на Ближнем Востоке; на вопрос о нападениях, приводящих к жертвам среди гражданского населения, Амодеи заявил, что не знал об этом, но оправдался, сказав, что «пока окончательное решение принимает человек, использование технологии является законным». В июне этого года команда разработчиков тайно внедрила в флагманскую модель Claude Fable 5 деструктивный код для скрытого вмешательства в нарушения разработки. Однако после мощных протестов в отрасли компания была вынуждена пойти на уступки, объявив о преобразовании механизма скрытого вмешательства в публично видимые ограничения безопасности. Отраслевые критики отмечают, что полная ставка на моральное превосходство небольшой элиты в вопросах безопасности передового ИИ неизбежно приводит к неизбежным слепым зонам саморегулирования. (Источник: BlockBeats)

Посмотреть Оригинал

На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .

Награда
лайк
комментарий
Репост
Поделиться

комментарий

Добавить комментарий

Нет комментариев

Популярные темы
Подробнее
#
SKHynixTopsKOSPIByMarketCap
1,54M Популярность
#
MicronEarningsBeatExpectationsSharesRise
167,96K Популярность
#
IsraelStrikesIranBTCPlunges
63,57K Популярность
#
WorldCup🏴󠁧󠁢󠁳󠁣󠁴󠁿vs🇧🇷
322,15K Популярность
#
USMayPCEInflationRisesTo4.1%HighestIn3Years
550,05K Популярность

Закреплено

Карта сайта

Популярные темы

SKHynixTopsKOSPIByMarketCap

MicronEarningsBeatExpectationsSharesRise

IsraelStrikesIranBTCPlunges

WorldCup🏴󠁧󠁢󠁳󠁣󠁴󠁿vs🇧🇷

USMayPCEInflationRisesTo4.1%HighestIn3Years

Закреплено