Викрито капітального ляльковода «ШІ-апокаліпсису» компанії A: нагнітав тривогу, щоб залучити кошти через IPO!

Автори: Мен Яо, Ао Фейси

Qbit | офіційний акаунт QbitAI

Теріти! Не! Можу! Більше!

Ти, стара A-компаніє, щодня то кричиш, що ШІ вийде з-під контролю, то лякаєш, що інтернету кінець, а сама тим часом і на IPO виходиш, і фінансування залучаєш, і обчислювальні потужності розширюєш — нічого не пропустила??

А люди чим більше над цим міркують, тим більше відчувають, що щось тут не так, тож це одразу викликало хвилю народного обурення, і всі перевтілилися на «мешканців Чаоянської Кремнієвої долини» та взялися все розкопувати!

А почав тут Майкл Беррі — інвестор і прототип головного героя фільму «Гра на пониження».

Він прямо назвав нещодавні колективні заклики OpenAI та A-компанії «пригальмувати ШІ» проявом егоїзму й чистісіньким піаром. Серйозно??

Одразу після цього американський блогер-розслідувач Кевін Басс справді почав копати, рухаючись за грошима.

І таки розкопав цілу надзвичайно драматичну мережу зв’язків —

Ранні інвестори A-компанії, благодійні фонди, дослідницькі організації з безпеки ШІ, сторонні організації з оцінювання моделей і навіть медійні проєкти про безпеку ШІ — за всім цим виявилися перехресні фінансові зв’язки.

Басс прямо назвав це AI Doom Machine — «машиною кінця світу ШІ». (Гарна назва)

Користувачі мережі теж остаточно не витримали!

Ось цей товариш, стежачи за супер-IPO, яке зараз просуває Anthropic, прямо сказав усе як є —

Щодня попереджаєте всіх, що зі ШІ скоро станеться біда, а в результаті, схоже, саме ви найбільше поспішаєте продати цю небезпечну здатність за захмарною ціною?? (сміх)

Цього разу ШІ ще не перевернув інтернет догори дриґом, а Кремнієва долина вже вивернула спідню білизну A-компанії назовні...

Оце так видовище, оце так видовище……

Апокаліптична риторика Даріо про ШІ — що більше всі слухають, то більше відчувають, що щось тут не так??

Кремнієводолинних пліток не закінчити.

Початком цієї хвилі народного обурення стала велика стаття, опублікована Даріо 12 вересня, — «We Must Pace the Frontier».

Якщо перекласти людською мовою: передовому ШІ справді варто трохи пригальмувати. (зображення з акцентом.jpg)

Аргументи Даріо теж легко зрозуміти: можливості ШІ зростають надто швидко, а дослідження безпеки, пояснюваність і механізми регулювання вже трохи не встигають.

Особливо після нещодавнього інциденту з безпекою Agent за участю OpenAI/Hugging Face: ШІ самостійно шукав уразливості, викрадав облікові дані й навіть намагався прорватися з тестового середовища — ці ризики дедалі важче сприймати як лабораторне «а що, як одного дня».

На цьому етапі чимало людей усе ще думали: ну так, малий Даріо має рацію!!

Але рецепт, який Даріо запропонував далі, уже набув дещо неоднозначного присмаку —

У цьому звіті Даріо хоче, щоб ШІ-компанії скоординували pacing, тобто спільно контролювали швидкість підвищення можливостей передових моделей.

Переклад: не лише я маю пригальмувати — краще всім разом відпустити педаль газу.

Адже, як відомо, особистий інтерес людини насправді неможливо приховати.

Якщо подивитися на цей момент, то твої, Даріо, маленькі хитрощі й те, про що ти щодня думаєш, уже давно стали надбанням громадськості.

Ось, наприклад, Майкл Беррі, прототип героя «Гри на пониження», прямо розвеселився і почав лаятися в X:

Це ж суцільний self-serving, чи не так??? (На словах турбується про все людство, а рахівниця власних інтересів уже дзенькає просто перед його обличчям)

Беррі одним махом навів 4 причини —

По-перше, він узагалі не погоджується з передумовою, що «сучасні великі моделі вже настільки небезпечні, що треба пригальмувати».

По-друге, якщо вся галузь одночасно сповільниться, найкомфортніше буде саме OpenAI, Anthropic та іншим, хто вже вирвався вперед.

Далі Беррі різко перевів тему на дещо ще цікавіше: IPO.

Його оригінальна репліка була доволі дошкульною: IPO потребує розкрутки й упаковки, а «ми настільки могутні, що можемо стати небезпечними» — це вже саме по собі різновид розкрутки!!

Він навіть припустив, що нинішній колективний акцент ШІ-компаній на уповільненні має ще одну перевагу: якщо зростання моделей справді сповільниться, ринку заздалегідь можна буде запропонувати красиве пояснення.

Це не ми вперлися в стелю можливостей, а ми добровільно пригальмували заради безпеки всього людства, ага.

Якщо Беррі лише вистрілив здалеку, то наступний герой справді почав розплутувати все, рухаючись за грошима.

Американський блогер-розслідувач Кевін Басс опублікував великий допис — справжнє родовище фактів, доказів і пліток.

І одразу перевтілився на супер! мега! великого! детектива!

Кевін Басс почав із нищівної фрази — я провів аудит фінансів Anthropic, ага～

А потім простежив за публічними інвестиціями, благодійними пожертвами та фінансуванням організацій і зрештою розкопав 4 найбільш драматичні моменти.

Перша плітка: ті, хто інвестував в Anthropic, також вкладають гроші в дослідження «наскільки небезпечний ШІ».

Особливу увагу він приділив співзасновнику Facebook Дастіну Московіцу.

Московіц на ранньому етапі інвестував в Anthropic, а згодом протягом тривалого часу фінансував організації з безпеки ШІ через благодійні структури.

Басс, посилаючись на нещодавні публічні заяви самого Московіца, зазначив, що вони фінансували такі організації, як METR і Redwood Research.

Саме тут з’явилося головне питання Басса: людина, яка зробила ставку на Anthropic, також фінансує організації, що «досліджують, наскільки небезпечною є Anthropic».

Друга плітка: рекомендований Даріо незалежний арбітр METR має перетини з цією фінансовою мережею.

Нещодавно Даріо закликав передовий ШІ проходити незалежне оцінювання третьою стороною, і METR була однією з організацій, які він особливо згадував.

Але після аналізу Басс виявив, що частина джерел фінансування METR і партнерських організацій перетинається з благодійною мережею Московіца.

METR і Redwood також тісно співпрацюють, а остання так само отримує фінансову підтримку від цієї благодійної екосистеми безпеки ШІ.

Тож найжорсткіше питання Басса насправді полягає ось у чому: наскільки незалежним є незалежний арбітр, рекомендований Anthropic?

Варто зазначити, що сама METR заявляє, що не отримує прямих коштів від ШІ-компаній, але використовує велику кількість безкоштовних токенів, які надають передові ШІ-компанії.

Третя плітка: ці гроші також спрямовуються на поширення наративу про «небезпеку ШІ».

Басс продовжив копати й виявив, що та сама благодійна мережа безпеки ШІ також фінансувала такі проєкти, як Tarbell Center.

Tarbell навчає та фінансує журналістів, які висвітлюють ризики ШІ, а статті відповідних авторів потрапляють у такі медіа, як TIME, The Verge і Science.

Тож Басс підсумував усю цю мережу зв’язків одним дуже влучним формулюванням —

З одного боку, фінансуються дослідження того, наскільки небезпечний ШІ, з іншого — поширення інформації про те, наскільки небезпечний ШІ, а паралельно просувається ідея регулювати ШІ через сторонні організації.

Саме це він і називає «AI Doom Machine», «машиною кінця світу ШІ».

Четверта плітка: Басс підозрює, що ця машина ще й здатна сама дедалі більше розкручуватися!!

Його логіка дуже проста —

Що вища оцінка Anthropic, то дорожчі відповідні благодійні активи, то більше грошей отримує екосистема безпеки ШІ, то сильніше масштабуються дослідження та поширення інформації про ризики, що зрештою знову підштовхує до жорсткішого регулювання, а найкраще витримати витрати на регулювання здатні саме найбільші ШІ-компанії.

Зробивши повне коло, ми знову повертаємося до таких гігантів, як Anthropic.

Тому Басс вважає, що тут може існувати замкнений цикл інтересів, здатний безперервно самопосилюватися.

Однією рукою закликають ШІ пригальмувати, а іншою мчать до IPO на 2 трильйони доларів

Остаточно вибухнула громадська дискусія ще й через момент, який самій Anthropic дуже важко обійти, — IPO.

Даріо щойно закликав усю галузь: давайте всі трохи сповільнимося! А капітальна машина Anthropic тим часом працює на шаленій швидкості...

Reuters повідомляє, що Anthropic готує потенційно рекордне IPO, обсяг залучення коштів може сягнути 100 мільярдів доларів, а оцінка — близько 2 трильйонів доларів.

Nvidia обговорює можливість інвестувати до 10 мільярдів доларів.

А в травні цього року Anthropic щойно завершила залучення 65 мільярдів доларів, причому тоді її оцінка становила 9650 мільярдів доларів.

Через три місяці ця історія вже рушила до 2 трильйонів доларів.

Звісно, схоже, в A-компанії вважають, що історія з 2 трильйонами доларів недостатньо масштабна.

Ще минулого місяця вона готувала для інвесторів ще більш неймовірний пиріг — 30 трильйонів доларів.

За повідомленням The Wall Street Journal, Anthropic, як очікується, повідомить інвесторам, що її майбутній TAM, тобто сукупний потенційний обсяг ринку, може перевищити 30 трильйонів доларів.

TAM не означає, що A-компанія справді зможе заробити 30 трильйонів доларів у майбутньому; це річна можливість отримання доходу за умови захоплення 100% відповідного ринку.

Якщо перекласти: це майже розмір річного ВВП США...

До того ж на словах Даріо закликає до pacing, а його рахунки за обчислювальні потужності зовсім не свідчать про pacing.

Reuters також повідомляє, що станом на зараз Anthropic уже зобов’язалася витратити понад 100 мільярдів доларів на хмарні сервіси Amazon протягом наступних десяти років.

Водночас є ще угода з Microsoft Azure приблизно на 30 мільярдів доларів, за якою також стоять масштабні обчислювальні потужності на GPU Nvidia.

Тож тепер враження від A-компанії справді доволі дивне —

На словах: можливості ШІ зростають надто швидко; на ділі: давайте ще GPU.

На словах: усій галузі краще разом сповільнитися.

На ділі: фінансування на 65 мільярдів доларів отримано, угоду на обчислювальні потужності на сотні мільярдів доларів підписано, IPO на 2 трильйони доларів продовжує рухатися вперед.

На словах — одне, на ділі — інше, сама ще й тривожиться та не може зібратися з силами; не дивно, що так вороже ставиться до відкритого коду DeepSeek...

Недарма в нас кажуть: ніхто не любить, коли говорять одне, а роблять інше.

Схоже, Кремнієва долина колективно виробила стійкість до фрази «це заради твого блага»??