Виталик Бутерин назвал пожертвование SHIB стоимостью $1 миллиардов тревожным политическим инструментом ИИ

Виталик Бутерин недавно выразил глубокую озабоченность использованием благотворительных средств, полученных от владения токенами Shiba Inu. В подробном заявлении на платформе X в начале этого месяца создатель Ethereum раскритиковал то, как организации, получающие пожертвования, сместили фокус с исследований безопасности ИИ на политические кампании, которые, по его мнению, могут быть контрпродуктивными и авторитарными.

История началась с неожиданного бизнес-решения в 2021 году, когда создатели Shiba Inu отправили прямо на кошелек Виталика Бутерина значительное количество токенов SHIB без предварительного согласия. Их стратегия была проста, но агрессивна: использовать имя и репутацию Виталика для повышения доверия и стоимости недавно запущенного мем-токена. Количество отправленных токенов затем выросло до более чем 1 миллиарда долларов, вынудив Виталика столкнуться с ситуацией, которая ему совсем не нравилась.

От мемкоинов до миллиардных благотворительных фондов: история происхождения пожертвования Виталика Бутерина

Чтобы справиться с неожиданным ростом стоимости токенов, Виталик Бутерин решил ликвидировать часть активов. В процессе конвертации SHIB в более полезные активы он обратился за помощью к своей матери в Канаде — достаточно необычным способом: попросил мачеху прочитать и записать 78-значный шестнадцатеричный код его кошелька, пока он делал цифровую транскрипцию заметок в своем рюкзаке. После успешной конвертации части SHIB в ETH он пожертвовал 50 миллионов долларов платформе GiveWell, которая выявляет наиболее эффективные благотворительные организации.

Оставшиеся крупные суммы SHIB были разделены на два потока. Половина пошла в CryptoRelief — организацию, использующую средства для создания медицинской инфраструктуры в Индии и поддержки инициативы Balvi, принадлежащей самому Виталику. Другие же сотни миллионов долларов были переданы Институту будущего жизни (FLI), организации, сосредоточенной на рисках, связанных с искусственным интеллектом, биотехнологиями и ядерным оружием.

В тот момент Виталик был заинтересован в комплексной дорожной карте FLI, охватывающей различные категории экзистенциальных рисков, а также фокусирующейся на «инициативах мира и эпистемологии». Он предполагал, что FLI сможет ликвидировать от 10 до 25 миллионов долларов, учитывая очень ограниченную ликвидность SHIB на рынке. Однако оказалось, что FLI удалось ликвидировать около 500 миллионов долларов из своих SHIB — значительно превысив первоначальные ожидания.

Институт будущего жизни меняет курс: от фундаментальных исследований к агрессивной пропаганде

Проблема возникла, когда FLI кардинально изменил свою стратегию. Организация перешла от подхода, основанного на исследовании фундаментальных рисков, к более агрессивным культурным и политическим кампаниям, использующимся как основной инструмент влияния на политику в области ИИ. Обоснованием этого стала необходимость — с быстрым развитием AGI организации должны действовать более решительно, чтобы сбалансировать влияние крупных компаний ИИ с неограниченными бюджетами.

Виталик Бутерин признает, что в аргументации FLI есть логика, но у него есть серьезные возражения. По его мнению, крупномасштабные скоординированные политические действия с крупным финансированием создают высокий риск нежелательных последствий, вызывают жесткую реакцию других групп и в конечном итоге могут привести к авторитарным и хрупким решениям, несмотря на изначальные намерения.

Он приводит в пример подход FLI к биобезопасности как конкретный пример своих опасений. Основная стратегия организации — внедрение систем безопасности в модели ИИ и биосинтезирующие устройства, чтобы предотвратить создание опасных выходных данных. Однако Виталик сомневается в долгосрочной эффективности этого подхода, отмечая, что такие методы, как jailbreak, тонкая настройка и обходные техники, делают подобные ограничения легко преодолимыми. Он предупреждает, что логика этой стратегии может привести к экстремальным позициям: сначала «запретить открытый исходный код ИИ», а затем — «поддержать одну компанию ИИ, которая, по мнению, считается хорошей, для глобального доминирования и предотвращения конкурентов достигнуть того же уровня».

Озабоченность Виталика Бутерина подходом «регуляции прежде всего» в безопасности ИИ

Виталик Бутерин подчеркивает фундаментальные риски такого рода стратегий: «Когда вы делаете весь остальной мир своим врагом с помощью таких подходов, система может легко полностью повернуться против вас». Он также указывает на более глубокие структурные проблемы регулятивных стратегий. На практике, когда правительства ограничивают опасные технологии, национальные службы безопасности часто получают исключения. Иронично, что сами службы безопасности зачастую являются источником рисков — он цитирует утечки лабораторий правительственных программ как исторический пример.

Тем не менее, Виталик Бутерин отмечает, что его «довольно развеселили» некоторые последние инициативы FLI, особенно декларация «AI Pro-Human», которая смогла объединить консерваторов, прогрессивных и либертарианцев из США, Европы и Китая. Он также ценит исследования FLI по механизмам предотвращения концентрации власти в руках ИИ.

Однако главное послание для сообщества остается ясным: пожертвование, которое изначально не планировалось Виталиком Бутериным, исходящее из токенов, которые он не хотел, теперь поддерживает организации, отклонившиеся от первоначальной философии, и распределяет сотни миллионов долларов способами, вызывающими значительный дискомфорт у ведущих крипто-мыслителей. Виталик выразил свою озабоченность руководству FLI через несколько личных каналов, прежде чем сделать вопрос публичным.

Эта история отражает сложность современной филантропии: как пожертвования с добрыми намерениями могут развиваться непредсказуемо, и как крупные благотворительные организации могут менять курс в зависимости от рыночных условий и восприятия срочности, создавая напряженность с их первоначальными донорами.