ME News повідомляє, 26 червня (UTC+8), що розкрито внутрішні розбіжності щодо оцінки управління в компанії. Колишні співробітники розповіли, що в компанії існує активна дебатна атмосфера; однак інші колишні співробітники описують більш похмуру картину, стверджуючи, що гостра критика в основному обмежена приватними груповими чатами, а звичайні загальні збори навіть називають «Dario Vision Quests» (квести бачення Даріо). Слухати генерального директора Dario Amodei — це як «слухати проповідь (sermon)», і майже ніхто не кидає виклик рішенням керівництва на відкритих зустрічах. Корінь похмурої атмосфери полягає в глибоко вкоріненій в Anthropic елітарній безпековій вірі в «атаку як захист». Керівництво всередині компанії активно використовує генерального директора OpenAI Sam Altman (а також Meta та xAI) як негативний приклад, одночасно впроваджуючи в працівників елітарну логіку: лише підтримуючи лідерство в бізнесі, обчислювальних потужностях і дослідницьких талантах, можна мати право голосу при встановленні правил. Колишня директорка OpenAI Helen Toner зробила лісову метафору: незалежно від того, що робитимуть селяни, вони все одно ринуть у магічний ліс, повний монстрів. Стратегія Anthropic — випередити всіх, увійти в ліс першими, приручати монстрів, випускаючи технологічні переваги, і контролювати катастрофічні ризики. Прагнення до технологічного домінування також призвело до частих суперечок щодо вибору безпеки та етики в Anthropic. Восени 2024 року керівництво, незважаючи на внутрішні заперечення, разом із Palantir відкрило доступ до своїх послуг для розвідувальних та оборонних відомств США. Наразі Claude було підтверджено використанням у ідентифікації цілей під час конфлікту на Близькому Сході. На запитання про атаки, що спричиняють жертви серед цивільного населення, Amodei заявив, що не знає, але стверджує: «Якщо остаточне рішення приймає людина, використання технології є законним». У червні цього року команда розробників таємно вбудувала руйнівний код у флагманську модель Claude Fable 5, щоб таємно перешкоджати порушенню норм. Однак після сильного обурення індустрії компанія була змушена піти на компроміс, оголосивши, що змінить механізм таємного втручання на відкрито видимі обмеження безпеки. Критики галузі зазначають, що повна ставка на моральну перевагу невеликої еліти в сфері передової безпеки ШІ неминуче призведе до неусувних сліпих зон саморегуляції. (Джерело: BlockBeats)

Переглянути оригінал

Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.

Нагородити
подобається
Прокоментувати
Репост
Поділіться

Прокоментувати

Додати коментар

Немає коментарів

Популярні теми
Дізнатися більше
#
SKHynixTopsKOSPIByMarketCap
1,55M Популярність
#
MicronEarningsBeatExpectationsSharesRise
338,42K Популярність
#
IsraelStrikesIranBTCPlunges
63,72K Популярність
#
WorldCup🏴󠁧󠁢󠁳󠁣󠁴󠁿vs🇧🇷
335,8K Популярність
#
USMayPCEInflationRisesTo4.1%HighestIn3Years
556,19K Популярність

Закріплено

карта сайту

Популярні теми

SKHynixTopsKOSPIByMarketCap

MicronEarningsBeatExpectationsSharesRise

IsraelStrikesIranBTCPlunges

WorldCup🏴󠁧󠁢󠁳󠁣󠁴󠁿vs🇧🇷

USMayPCEInflationRisesTo4.1%HighestIn3Years

Закріплено