Напоминают каждый день, как нам повезло, что Байден и Камала не пишут политику в области ИИ. Часто напоминание — клип Марка Андреассена с Джо Роганом.

Дарио считает, что он и несколько человек должны диктовать, что остальному миру разрешено иметь.
На мой взгляд, это довольно тоталитарно.
Это также дает представление о населении, которое стало антииИ. Я считаю, что они ошибаются. Но они правы, если мировоззрение — то, что мы только что увидели с запуском Mythos.
Человек притворяется белым рыцарем, а затем играет обе стороны.
Говорит, что ИИ слишком опасен для открытой конкуренции, поэтому пугает Вашингтон, чтобы регулировать его и не допускать новых участников.
Говорит, что ИИ уничтожит рабочие места масштабами, которых никто раньше не видел. Большинство технологических CEO не согласны с ним и говорят, что он путает результаты (по крайней мере в краткосрочной перспективе, очевидно, что трудовые ресурсы адаптируются и эволюционируют).
Но затем он выпускает самую мощную модель в истории. Контролирует её с помощью технологических олигархов и обеспечивает их концентрацию власти, в то время как обычный человек фактически остается в стороне.
Собственная заявленная цель Anthropic: дать этим игрокам «асимметричное преимущество». Человек активно манипулирует рынком, чтобы убить новых основателей, малый бизнес, одновременно усиливая incumbents.
Больше всего меня пугает то, что он считает это ради общего блага? Формы эффективного альтруизма.
Человек хочет стать диктатором ИИ.
Ты не можешь полагаться только на свои whims. Так что позволь мне быть королем, и я решу, что лучше всего, исходя из моего взгляда на идеальное общество.
Хочет решать, какие действия может предпринимать правительство в условиях войны. Его одобренные сотрудники решают, сможет ли армия вообще использовать его в ударе. Частная компания, вето на военные действия США.
Он говорит, что боится корпоративной власти. В то время как он строит крупнейшую в истории корпоративно-государственную монополию на технологию.
Кому достанется модель. Кто получит вычислительные ресурсы. Кто получит безопасность. Кто получит лицензию на экспорт. Кто сможет развернуть.
Все маршруты проходят через Anthropic и дюжину одобренных друзей.
Этот человек создает картель ИИ. OPEC из Великолепной 12. Они называют его Glasswing.
А потом он думает, что мы идиоты, с ослабленной версией Claude Fable 5, которая буквально вмешивается в рабочие процессы, считающиеся угрозой, и полностью блокирует любые прорывы на уровне потребителя.
Несколько человек в Сан-Франциско теперь решают, чему тебе разрешено учиться, что строить и знать.
Они сжигали книги за меньшие вещи. Им говорили, что женщины не могут читать за меньшие.
Это крупнейшая консолидация власти, которую когда-либо устраивала технология.
Ян Лекун называет это регуляторным захватом. Говорит, что это закончится тем, что несколько компаний владеют ИИ.
Дэвид Сакс назвал тактику Anthropic регуляторным захватом, основанным на пугании.
Джереми Ховард и Натан Ламберт посмотрели запуск Fable и назвали его тем, чем он есть — торможением внешних разработчиков для расширения разрыва. Антинаука.
Маленькие технологические компании это видят. Основатели исключены, чтобы победили incumbents.
Я за капитализм. Я за технологию. Я за каждого строителя, которого этот человек пытается исключить.
Ответ — не доверять королю.
Открытые модели. Открытые веса. Настоящая конкуренция. Передовая в руках каждого, а не за velvet rope для дюжины одобренных друзей.
Основатели, разработчики, каждая лаборатория — ждите своей очереди. Эта борьба — ваша.
Не позволяйте одному человеку решать, что человечество может знать или делать.
Удивительно, что открытые китайские модели менее тоталитарны, чем то, что мы получаем от Дарио и Сэма.