Так вот, есть эта дикая история о том, как один из крупнейших фондов по политике ИИ в мире начал с собачьей монеты и шкафа в Канаде. Виталик Бутерин только что объяснил, как всё произошло, и честно говоря, ситуация стала намного сложнее, чем ожидали все.

В 2021 году создатели Shiba Inu совершили ход, который был чистым маркетинговым гением — они без спроса сбросили огромное количество токенов SHIB на кошелек Виталика. Идея была очевидной: написать «Виталик владеет половиной наших запасов» в маркетинговых материалах и воспользоваться хайпом. Но токены действительно выросли в цене до более чем $1 миллиарда. Виталик хотел выйти до того, как пузырь лопнет, и это привело к абсурдному моменту, когда ему пришлось позвонить своей мачехе в Канаде и попросить её зайти в его шкаф, прочитать с листка 78-значное число и добавить его к другому 78-значному числу из его рюкзака. Вот так ликвидировать состояние в SHIB, когда ты физически не находишься рядом.

Он смог продать часть за ETH и пожертвовать $50 миллиона в GiveWell. Но у него всё равно оставались горы SHIB, поэтому он разделил остаток. Половина пошла в CryptoRelief для медицинской инфраструктуры в Индии и на его собственные исследования. Другая половина — примерно $500 миллиона после ликвидации — пошла в Институт будущего жизни, организацию, сосредоточенную на экзистенциальных рисках от ИИ, биотехнологий и ядерного оружия.

Вот где становится интересно. Изначально FLI представил Бутерину дорожную карту, охватывающую основные категории рисков и «инициативы за мир и за эпистемику». Он думал, что они смогут вывести примерно $10 до $25 миллиона, учитывая, насколько жидкий SHIB. Вместо этого они сделали выход на сумму $500 миллиона. Меме-коин, которого никто всерьёз не воспринимал, создал момент благотворительности на миллиард долларов.

Но затем FLI резко изменил курс. По словам Бутерина, они перешли к «культурным и политическим действиям как основному методу» — довольно серьёзный отход от первоначального подхода. Его беспокоит это: крупномасштабные скоординированные политические действия с огромными денежными потоками обычно оборачиваются обратным эффектом. Это может привести к непредвиденным последствиям, вызвать backlash и решить проблемы способами, которые одновременно авторитарны и хрупки.

Он привёл в пример стратегию биобезопасности FLI. Их основной подход — внедрение ограничений в модели ИИ, чтобы они отказывались создавать опасные выводы. Ноерин считает, что это хрупко, потому что jailbreak-ы и тонкая настройка делают эти ограничения легко обходными. Следуя этой логике до конца, можно прийти к «запрету открытого исходного кода ИИ» или «поддержке одной хорошей компании ИИ и запрету конкуренции». Такие подходы оборачиваются катастрофически — они делают остальной мир врагом.

Также есть структурная проблема с стратегией, основанной на регулировании. Когда правительства ограничивают опасные технологии, организации национальной безопасности освобождаются от ограничений, а эти же организации зачастую сами являются риском. Это внутреннее противоречие.

Тем не менее, Бутерин признал, что некоторые последние работы FLI были достойными. Его обнадежила их декларация о «пре-человеческом ИИ», которая, по его мнению, объединяет консерваторов, прогрессистов, либертарианцев и страны Америки, Европы и Китая. Они также исследуют способы предотвращения концентрации власти ИИ, что важно.

Но основная проблема остаётся: пожертвование, которое Бутерин никогда не планировал делать, из токенов, которые он никогда не хотел держать, в итоге профинансировало организацию, которая пошла в направлении, с которым он не согласен. Сейчас они используют сотни миллионов долларов так, что ему это не по душе. Он несколько раз лично поднимал эти вопросы с FLI, прежде чем сделать их публичными. Внезапный рост SHIB превратился во что-то гораздо более сложное, чем ожидали все.