Я направился в Берлин, чтобы заглянуть в будущее. Или, точнее, я отправился в Берлин, чтобы увидеть «мяч» — буквально — устройство, которое, по мнению некоторых, является лучшей надеждой человечества на приручение и даже использование будущей силы искусственного интеллекта. Другие считают, что, как и в эпизодах с «Черным зеркалом», устройство предназначено для отслеживания и контроля людей.
Я смотрю на эту сферу "Орб".
Orb размером с шар для боулинга. Он покрыт сплавом, блестящий и гладкий. Я наклонился и уставился на черный круг, как смотрят на машину у окулиста. Затем Orb использует инфракрасные камеры, датчики и систему нейронных сетей на основе искусственного интеллекта, чтобы сканировать мои радужки и убедиться, что я действительно человек.
Я не первый, кто ест крабов. Более 2 миллионов человек увидели флагманское устройство Orb — Worldcoin, проект криптовалюты и искусственного интеллекта, соучредителями которого являются Сэм Альтман (генеральный директор OpenAI) и Алекс Блания (ныне генеральный директор материнской компании Tools for Humanity).
У Worldcoin есть смелая предпосылка: искусственный интеллект будет продолжать совершенствоваться и в конечном итоге превратится в AGI (Advanced General Intelligence), что означает, что он умнее людей, что будет стимулировать скачки в производительности, создавая богатство, которое не должно быть отнято элитой, но должно быть справедливо распределено между всем человечеством — практически всеми — в форме универсального базового дохода (UBI), который расширит возможности миллиардов людей. UBI появится в виде Worldcoin.
Достоинства UBI находили отклик у Альтмана в течение многих лет. Альтман сказал в недавнем интервью Zoom: «UBI интересен мне даже без разговоров об искусственном интеллекте, и эта идея нравится многим людям. Если наше общество достаточно богато, чтобы покончить с бедностью, то у нас есть моральное обязательство выяснить, как это сделать».
Итак, может быть, ИИ сможет добиться успеха там, где политическая политика потерпела неудачу?
«В мире ИИ он [универсальный базовый доход] еще более важен по очевидным причинам, и я все еще ожидаю, что в пост-ИИ-мире будут рабочие места, — сказал Альтман. — Но, А, я действительно думаю, что нам нужен какой-то буфер в переходный период, и, Б, часть волнения по поводу ИИ заключается в том, что это более материалистичный мир».
Мировая монета, которая следует этой логике, может стать ключом к обеспечению этого материального изобилия. Но есть проблема. Если цель состоит в том, чтобы раздать токены всем бесплатно, как мы можем быть уверены в этом будущем, управляемом ИИ, что мы раздаем добычу людям, а не манекенам, управляемым ИИ? (Это только вопрос времени, когда ИИ посмеется над капчами.) Или что, если кто-то со скрытыми мотивами использует ИИ для создания нескольких кошельков и обмана системы?
Команда размышляла и над этим вопросом, они исследовали все способы, как доказать, что они люди, и пришли к болезненному выводу — у них не было выбора. "Мы действительно не хотим этого делать, мы знаем, что это будет болезненно, это дорого, и люди думают, что это странно. Но мы считаем, что это необходимо сделать: биометрические данные необходимы для аутентификации людей", - сказал Блания. «Мы не хотим идти по этому пути по ряду причин, но это действительно единственное решение», — сказал Блания.
Это нерассказанная история этого решения и путешествие, чтобы узнать, является ли оно решением или проблемой.
Ирисовая сфера
Дизайн Sphere гладкий и минималистичный, без каких-либо элементов управления или ручек в очень «яблочном» стиле. Это не случайно, поскольку ведущим дизайнером Orb был Томас Мейерхоффер, первый сотрудник Джони Айва в Apple. (Я был легендарным разработчиком iMac, iPod и iPhone.) Orb стремится быть максимально простым, как однажды сказал Мейерхоффер: «Он должен быть достаточно простым для всех нас. Для всех и везде».
В берлинском офисе Блания показал мне старые модели Orb и рассказал истории о первых днях компании, когда они только начинали возиться с железом. Первоначально идея была задумана как «Проект Биткойн» с целью бесплатной раздачи биткойнов людям после того, как они докажут свою человечность. Блания держит старую версию и смеется, потому что у нее есть слот для выплевывания физических жетонов, как обратная копилка, и даже есть два глаза и рот.
Ранние сферы даже разговаривали с людьми. «Эта штука разговаривает с вами голосом робота», — вспоминает Блания.Каждая ранняя сфера могла содержать 15 физических токенов (которые содержали ключи к реальным биткойнам), идея заключалась в том, что люди будут относиться к криптовалютам более серьезно, если они будут держать что-то в руках. (По понятным причинам команда быстро отказалась от этой идеи.) «Мы пробовали много вещей, например, вибрировать, когда сфера что-то сообщает людям», — говорит Блания. Они быстро итерируют использование 3D-принтера, чтобы придумывать новые версии Orb каждую неделю.
Блания, высокая, спортивная 29-летняя девушка с детским лицом в джинсах и футболке, не похожа на генерального директора. Он ведет один из самых амбициозных проектов на планете и свою первую работу. Альтман назначил его генеральным директором и соучредителем после работы в Калифорнийском технологическом институте, где он исследовал нейронные сети и теоретическую физику. Поначалу Блания признается: «Я думал, что я ужасный генеральный директор, не говоря уже о моей технической подкованности».
Так что Альтман помог ему. «Альтман приглашал кого-нибудь встречаться со мной почти каждую неделю, и они говорили мне, что не так, — говорит он, — Одним из коучей генеральных директоров был Мэтт Мочари, который ранее обучал Альтмана и Брайана Армстронга, и он научил их основам управления, например, как проводить встречи один на один, как проводить собрания персонала, как выступать перед публикой.
У Блании нет увлечений, кроме тяжелой атлетики и медитации. Его часы разделены между Сан-Франциско и Берлином (два основных офиса Tools for Humanity), где он начинает свой день в 9 утра и уходит из офиса в 10 вечера, чтобы отправиться в спортзал. «Я стараюсь работать каждый час бодрствования», — сказал он.
В эту работу входило руководство 50 штатными сотрудниками, некоторым из которых было поручено создать новый крипто-кошелек от O. «Пользовательский опыт в криптовалютах ужасен», — сказал Тьяго Сада, руководитель отдела продуктов и разработки, с которым я также познакомился в берлинском офисе, еще один гений. (Их много в сообществе ИИ.) Он вырос в Мексике, строил роботов с друзьями в 14 лет, основал стартап «Venmo of Mexico» и познакомился с Альтманом в инкубаторе Y Combinator.
Первоначально Сада скептически относился к шифрованию, потому что, по его мнению, нетехническим людям будет сложно зарегистрироваться. Когда он просил людей сделать что-то вроде загрузки расширения MetaMask, они застряли. Конечно, криптокошельки доступны для тех, кто интересуется криптовалютой, но для многих из 8 миллиардов человек на планете они имеют барьеры для входа. Основная идея Worldcoin состоит в том, чтобы сделать криптовалюту легкодоступной для всех, независимо от того, разбираются они в технологиях или нет. То есть они могут что-то сделать в мгновение ока. Поэтому они создали приложение WorldApp, которое синхронизируется с Orb и обеспечивает почти мгновенный вход в систему.
Я попробовал это сам. В берлинском офисе я скачал приложение World из App Store. Приложение синхронизируется с The Orb, который стоит на столе в конференц-зале. Через несколько секунд я смотрю на блестящий шар, моя учетная запись подтверждена, и теперь я счастливый обладатель 1 Worldcoin*. (*Что было бы невозможно, если бы я попробовал это в США, где у них нет запуска токена по нормативным причинам — по крайней мере, пока.)
Процесс регистрации, по крайней мере для меня, прошел довольно гладко. Если вы проигнорируете весь процесс сканирования глазного яблока, это будет самый плавный вход в шифрование, которое я испытал за более чем пять лет. (Подробнее об этом позже.)
Одной из причин, по которой эта технология так хорошо работает, является использование ИИ, чьи парадоксы широко распространены, когда потенциальные последствия ИИ — как фантастические (повышение производительности), так и злонамеренные (глубокие подделки) — продвигают миссию компании, но в повседневной жизни последние достижения в области ИИ делают инженеров более эффективными. Сада сказал: «Без искусственного интеллекта Worldcoin не может существовать». Несколько моделей машинного обучения помогают питать Orb, и Сада говорит, что ИИ уже (фактически) обучает другие ИИ, еще больше повышая их производительность.
** Как искусственный интеллект обучает искусственный интеллект? **
"Люди думают, что нам нужно много данных для обучения алгоритмов, и на самом деле многие модели позволяют нам генерировать синтетические данные, — сказал Сада. — Точно так же, как вы можете использовать Dall-E для создания изображения Люка Скайуокера, забивающего данк в стиле Караваджо — и оно возвращается за секунды — инженеры могут использовать ИИ для моделирования данных. Это позволяет нам использовать относительно небольшой объем данных и по умолчанию удалять все [биометрические данные и данные радужной оболочки глаза]».
Это подводит нас к вопросу, который мучил Worldcoin с момента его создания: что именно Worldcoin делает с этими сканированиями глазных яблок?
После того, как Альтман написал в Твиттере The Orb в октябре 2021 года, критики и скептики раскритиковали его. Эдвард Сноуден предупредил в твиттере: «Не классифицируйте глазные яблоки, не используйте биометрию для противодействия мошенничеству. Фактически, не используйте биометрию ни для чего».
Сноуден признал, что проект использует ZK-Proofs для защиты конфиденциальности, но настаивал на том, что «умное есть умное, но все же отстой, человеческое тело — не пропускная способность».
Дэвид З. Моррис пишет: «Для частной компании собирать биометрические данные о каждом человеке на Земле крайне рискованно, кстати, называть устройство Сферой — жутко с густыми намеками на Око Саурона».
Блания, Сада и другие сотрудники Worldcoin неоднократно заявляли мне, что Orb не собирает биометрические данные с глазных яблок, по крайней мере, если это явно не разрешено пользователем.
«Конфиденциальность — это фундаментальное право человека. Каждая часть системы Worldcoin была разработана для ее бескомпромиссной защиты. Мы не хотим знать, кто вы, мы просто хотим знать, что вы уникальны», — говорится в заявлении о конфиденциальности компании. Это означает, что некоторые данные перехватываются, если пользователи разрешают это. По умолчанию данные не собираются; пользователи могут изменить это и разрешить сохранение данных, что, по словам Worldcoin, используется для узкой цели улучшения алгоритма. (И почему пользователь включил бы это вне меня).
SADA сказал: «Самая крутая вещь — это также и самая сложная вещь. Это ORB, который выполняет все вычисления и проверку на месте, чтобы проверить, являетесь ли вы уникальным человеком, а затем он генерирует уникальный «код радужной оболочки». SADA сказал, что вы можете рассматривать свой мировой идентификатор как паспорт, и то, что делает ORB, ставится в вашем паспорте, чтобы указать, что он эффективен. Карты глазного яблока нет. Это просто код, указывающий, что вы уникальный человек, а не ваш возраст, раса, пол или цвет глаз.
В день публичного запуска Worldcoin Виталик Бутерин написал подробный пост в блоге, в котором поставил под сомнение его заявление о конфиденциальности. Он выразил опасения, но дал хорошую оценку. Он сказал: «В целом, несмотря на «антиутопическую атмосферу» пристального взгляда на сферу и ее глубокого сканирования в ваши глазные яблоки, специализированные аппаратные системы, кажется, действительно неплохо справляются с сохранением конфиденциальности ... Однако обратная сторона этого заключается в том, что специализированные аппаратные системы создают большую проблему централизации. Таким образом, мы думаем, что шифропанки застряли: нам приходится обменивать одну глубоко укоренившуюся ценность шифропанка на другую».
Если у пользователя есть WorldID (который, по мнению Worldcoin, обеспечивает конфиденциальность), его можно использовать в будущем в качестве главного ключа для доступа к другим приложениям и веб-сайтам, таким как Twitter или ChatGPT. Они уже начали экспериментировать с этой функцией. WorldID недавно объявила об интеграции с немецким провайдером управления идентификацией и доступом Okta, и в ближайшее время появятся новые партнерские отношения.
WorldID — это форма самоуверенной идентичности, которая сама по себе является священным Граалем для многих в пространстве Web3. В оптимистичном и лучшем сценарии Orb может масштабировать SSID и UBI на миллиарды людей, вырвать онлайн-«идентификацию» у централизованных корпоративных гигантов и помочь более бедным, маргинализированным сообществам получить больше финансовых возможностей. Это видение.
Но кто за это платит? В соответствии с тем, как настроена система в настоящее время, после регистрации Orb вы можете получать 1 Worldcoin в неделю. Это раннее ядро UBI. Кто платит за этот токен, который внезапно появляется в каждом кошельке (или глазном яблоке) на планете? С одной стороны, у криптовалют есть прецедент, они входят в мир как по волшебству, а затем в конечном итоге увеличиваются в цене, биткойн является лучшим примером, с другой стороны, часть ценностного предложения биткойна заключается в его дефиците, а его предложение ограничено 21 миллионом монет.
Экономика токенов
Экономика токенов Worldcoin более туманна.
Джесси Уолден, один из первых инвесторов проекта и генеральный партнер iant, признал, что «кто платит» — хороший вопрос, но сказал: «Я не знаю, есть ли сейчас четкий ответ, и не знаю, нужен ли он».
У Альтмана есть более прагматичный ответ. В краткосрочной перспективе Альтман сказал: "Мы надеемся, что когда люди захотят купить этот токен, потому что они верят, что это будущее, в экономику потекут деньги. Новые покупатели токенов - это то, как они эффективно оплачиваются".
Конечно, долгосрочная и более масштабная перспектива заключается в том, что результаты общего искусственного интеллекта принесут человечеству экономическую отдачу. (Отсюда и название материнской компании Worldcoin — Tools for Humanity.) Как это происходит, остается только гадать. «В конечном счете, вы можете вообразить что угодно в мире после AGI, но у нас нет конкретных планов на этот счет. На данном этапе это не главное», — сказал Альтман.
Немногие люди лучше подготовлены к тому, чтобы представить себе мир после ИИ, чем Альтман, который стоит на странном пересечении этих двух проектов ИИ. Центральный игрок в разработке искусственного интеллекта, Альтман является соучредителем проекта, который частично направлен на то, чтобы максимально ограничить злоупотребление искусственным интеллектом. Хотя он так не думает: «Мне кажется более привлекательным описать историю как« создай проблемы здесь, реши проблемы там »».
Это модель развития в глазах Альтмана: мир будет двигаться дальше. По мере того, как мир продолжает двигаться вперед, меняется и игровое поле. Еще многое должно произойти, но это не похоже на решение проблемы. Это больше похоже на совместно развивающуюся экосистему. Я не думаю, что одно является ответом на другое. (Я признаю, что Альтман раздавил меня интеллектуально, он произвел на меня впечатление искренности и доброты, но я действительно нашел его ответы трудными для понимания)
Я задал Альтману тот же вопрос, что и Блании в своем первом выступлении: каким был бы мир, если бы Worldcoin был полностью успешным и все работало? Если предположить, что присоединились миллиарды пользователей, финансовые выгоды от AGI распределяются между всеми справедливо. Как выглядит это будущее? В чем смысл всего этого?
"Я думаю, что мы все будем лучшей версией того, на что мы можем надеяться, большей личной автономией и свободой действий. Больше времени, больше ресурсов для того, чтобы что-то делать", - говорит Альтман. Он говорит быстро, без колебаний; это идеи, над которыми он размышлял годами: "Как и в случае любой технологической революции, люди найдут удивительные новые вещи друг для друга... но это совсем другой, более захватывающий мир".
Каковы самые большие риски и проблемы в реализации этого видения? Альтман считает, что «еще слишком рано говорить о больших проблемах», но признает, что OpenAI и Worldcoin «далеки от того, чтобы быть полезными» и что «у нас впереди еще много работы».
Тяжелая работа включает в себя развертывание сферы, и здесь все становится опасно.
Сценарий применения
Цель сканирования восьми миллиардов наборов глазных яблок почти амбициозна. В конечном счете, доставка бесплатной горсти «конфет» каждому человеку на планете, даже без каких-либо биометрических условий, является сложной логистической задачей. Как добраться до отдаленных районов? Как безопасно транспортировать сферу? Как объяснить эту сложную взаимосвязь между потенциалом ОИИ, потребностью в БОД и достоинствами шифрования?
По сути, презентация такая: эй, получи немного криптовалюты бесплатно!
Сообщение со временем уточнялось, переделывалось и уточнялось, но вот основная идея: пользователи могут подписаться на бесплатную криптовалюту, и этот шар — ваш способ доказать, что вы нигде не подписывались раньше.
Вспомните первые полевые испытания Блании, как будто это что-то из комедии Джадда Апатоу. В парке в Германии Блания искал потенциальных пользователей со сферами, когда заметил двух молодых женщин. Должен ли он подойти и поговорить? Команда Worldcoin наблюдает со стороны. (В берлинском офисе Блания находит фотографию сцены, которую кто-то снял на ее телефон, и показывает ее мне: как парень в баре, набравшийся смелости, чтобы завязать разговор.)
В то время они все еще находились в ранней эре «биткойн-проектов». Итак, Блания подошла к одной из женщин, которая показала ей шар и сказала, что это поможет ей получить бесплатные биткойны. «Единственное, что делает это устройство, — это гарантирует, что вы получите его [биткойн] только один раз, но вы получаете биткойн, и это то, чему можно радоваться», — сказал он ей.
Ответ женщины был прост: «Вы с ума сошли?»
Она предпочитает не сканировать радужную оболочку, но ее подруга делает.
Блания полуулыбается: «На самом деле, я думаю, она просто считает меня милой».
Это неудивительно. Блания — симпатичный парень, умный и способный ясно и убедительно рассказать о преимуществах, нюансах и смысле существования Worldcoins (кого это не впечатлит?). Но как масштабировать Алекса Бланию? Может быть, если бы Блания можно было клонировать, он мог бы лично зарегистрировать 8 миллиардов человек.
Но вернемся к реальности: сначала Блания и небольшая команда просто таскали сферу по улицам Берлина, показывали ее людям и пытались объяснить на лету. «На самом деле это был ранний сценарий, когда люди подходили к нам, потому что это была блестящая сфера, и люди спрашивали: «Что это, черт возьми?», — сказал он.
Ранние сферы разговаривали с пользователями странными роботизированными голосами, приказывая им двигаться ближе или дальше, или, возможно, влево. (Позже команда внесла ряд оптимизаций, чтобы автоматизировать этот процесс.) Роботизированный голос сбивает с толку зрителей, которые иногда делают веселые селфи со Сферой.
Неоколониальные проблемы
Менее интересны первые попытки вербовки пользователей в Найроби, Судане и Индонезии. В апреле 2022 года MIT Technology Reports опубликовал статью из 7000 слов под названием «Обман, эксплуатация рабочих и раздача наличных: как Worldcoin набрала своих первых 500 000 тестовых пользователей». Авторы утверждают, что, несмотря на амбиции проекта, «все, что он сделал до сих пор, — это создал биометрическую базу данных на основе тел бедняков».
В отчете описывалась некачественная операция, изобилующая дезинформацией, ошибками данных и неисправными сферами. Эйлин Гуо и Ади Ренальди написали: «Наше расследование выявило огромный разрыв между общедоступной информацией Worldcoin, ориентированной на конфиденциальность, и пользовательским опытом, и мы обнаружили, что представители компании использовали обманные маркетинговые методы, собирали больше личных данных, чем признавали, и не смогли получить значимых прав на информацию».
Я рассказал об этом отчете Блании и Альтману. «Первое, что нужно понять, это то, что эта статья была опубликована до того, как компания подняла свой раунд серии A», — сказал Блания. Он признал, что это не оправдание, но подчеркнул, что проект все еще находится в зачаточном состоянии, и с тех пор «практически все изменилось» благодаря более строгим операциям и протоколам. Конечно, именно возможность подобных ошибок — независимо от того, насколько благими намерениями может быть команда — заставляет людей опасаться делиться своими биометрическими данными.
Блания также был возмущен тем, что статья была определена (по его словам) как «колониалистская попытка получить подписи бедняков со всего мира». Он сказал, что это вводит в заблуждение, потому что более 50% зарегистрированных пользователей в то время были из более богатых стран, таких как Норвегия, Финляндия и европейские страны. Их цель — протестировать регистрацию в развитых и развивающихся регионах, в жарком и холодном климате, в городской и сельской местности, чтобы лучше понять, что работает, а что нет.
По словам Альтмана, ошибки — это естественная часть роста любого крупномасштабного проекта. «С любой новой системой вы будете подвергаться некоторому мошенничеству на начальном этапе, и это одна из причин, по которой мы проводим этот длительный период в [этой] медленной бета-фазе. Видя, насколько система открыта для злоупотреблений, и как мы собираемся смягчить это. Я не знаю системы, которая была бы такой большой, такой амбициозной и у которой вообще не было бы проблем с мошенничеством.
Одним из смягчений является изменение способа вознаграждения операторов сфер. В настоящее время в поле работает от 200 до 250 сфер и около нескольких десятков операторов, каждый из которых имеет свою подгруппу. Вначале Worldcoin просто платил операторам в зависимости от количества необработанных регистраций, что приводило к некоторым небрежным и некачественным практикам.
По словам Блания, операторов теперь мотивирует не только количество регистраций, но и их качество, а также то, насколько хорошо пользователи знают, что происходит: после нескольких недель сканирования Orb операторам платят больше, если пользователи используют Worldapp. (Основной способ «использования» Worldapp сейчас — еженедельное получение Worldcoin.) Я разговаривал с двумя операторами в Испании, Гонсало Ресио и Хуаном Чаконом, которые в основном одобряют новый протокол, но вопрос о том, строго ли этот процесс соблюдается во всем мире, остается открытым.
Как люди могут поверить, что Worldcoin действительно решает эти проблемы? Альтман слышит вопросы и понимает, что вряд ли сможет переубедить сомневающихся, но, кажется, не возражает. Он считает, что более убедительные ответы исходят не от него, Блании или компании, а от первых последователей Worldcoin. «Вы можете попытаться ответить на кучу вопросов и сделать все эти вещи, но на самом деле это не так», — сказал он.
«Что действительно работает, так это первый миллион человек, первые последователи, люди, двигающиеся вперед — убеждают следующие 10 миллионов человек. Затем следующие 10 миллионов человек становятся ближе к норме. Они убеждают следующий миллиард человек. Это действительно нормы, которые убеждают другие миллиарды».
Политика и будущее
Во время нашего первого разговора Блания сказал мне, что если WorldID и UBI Worldcoin будут полностью приняты в масштабе, это будет «вероятно, одно из самых глубоких технологических изменений всех времен». Если это так, создает ли это новый и сложный набор законов, политик и даже экзистенциальных вопросов для рассмотрения правительствами?
Последний вопрос не давал мне покоя, когда я заканчивал встречу в берлинском офисе. Создается впечатление, что проект настолько амбициозен, настолько безумен и настолько преобразующий — по крайней мере, в теории — что власть предержащие не до конца учли его последствия. Если люди получают компенсацию не за счет труда, а за счет общего искусственного интеллекта, не будет ли это означать фундаментальный сдвиг в том, как устроен мир? Правительство не будет настаивать на регулировании этого? Если предположить, что да, то как Worldcoin решит эту проблему?
Блания откинулась на спинку стула и на мгновение задумалась. Он сказал: "Очевидно, что это важный вопрос для обсуждения, и я начну с самого важного прямо сейчас. И самая важная идея на самом деле гораздо менее сложна, чем все, что вы только что упомянули".
Альтман отверг идею о том, что политики невежественны или медлительны. «Я побывал примерно в 22 странах, встречался со многими мировыми лидерами, и люди понимают это больше, чем я думал, и относятся к этому очень серьезно», — сказал он. (Неясно, имеет ли он в виду «это» конкретные амбиции Worldcoin или более широкие проблемы, связанные с искусственным интеллектом.) «Сейчас я трачу все больше и больше времени не на технические вопросы, а на политические вызовы. В конечном счете, для того, чтобы мир двигался к добру через все это, это должно быть решение, которое имеет как технологические, так и политические части. В некотором смысле политическая часть может стать более сложной».
Политические препятствия являются одним из рисков, с которыми сталкивается Worldcoin. Недостаточное расширение — это риск для Worldcoin. Дополнительные ошибки в этой области, такие как те, которые отмечены в отчете MIT Tech, представляют собой еще один риск. Или данные диафрагмы могут быть скомпрометированы. Или провал экономики токенов. Или подрыв доверия может помешать будущим регистрациям. Или логистические проблемы, связанные с доставкой Orb в более сложные уголки мира. Или технические и производственные сбои. Или обнаружить, что сфера каким-то образом повреждена. (Как отметил Виталик Бутерин, «Сфера — это аппаратное устройство, и мы не можем проверить, правильно ли оно сконструировано и не имеет ли оно лазеек».)
Или, может быть, Worldcoin никогда не будет стоить больше нескольких центов, так что всем наплевать. На долгом пути к широкому распространению Worldcoin существует множество рисков, и проект остается неудачным.
Но, как считает аналитический центр компании, самый большой риск заключается не в самой Worldcoin. Самый жуткий риск для них заключается в том, что будет разработано что-то вроде биометрического WorldID, только не открытым и не сохраняющим конфиденциальность способом.
Первоначальная логика, которую Альтман сформулировал до того, как ChatGPT стал мейнстримом, по-прежнему убедительна: в конце концов ИИ станет настолько хорош, что сможет легко притворяться человеком, поэтому нам нужен способ доказать нашу человечность. Возможно, биометрическое доказательство неизбежно. Кто должен быть распорядителем решения? «Такие вещи, как WorldID, должны произойти», — сказал Блания. «Вам необходимо пройти аутентификацию в сети. Что-то подобное произойдет. Путь по умолчанию заключается в том, что это не онлайн как таковое, оно не защищает конфиденциальность и фрагментировано правительствами и странами».
Для Блании неконфиденциальная версия биометрической цензуры — настоящий заговор «Черного зеркала». «Это путь по умолчанию, и я думаю, что Worldcoin — единственный путь», — сказал он.
Посмотреть Оригинал
Содержание носит исключительно справочный характер и не является предложением или офертой. Консультации по инвестициям, налогообложению или юридическим вопросам не предоставляются. Более подробную информацию о рисках см. в разделе «Дисклеймер».
Что находится внутри сферы? Нерассказанная история Worldcoin
Источник: Coindesk; Сборник: BitpushNews Мэри Лю
Я направился в Берлин, чтобы заглянуть в будущее. Или, точнее, я отправился в Берлин, чтобы увидеть «мяч» — буквально — устройство, которое, по мнению некоторых, является лучшей надеждой человечества на приручение и даже использование будущей силы искусственного интеллекта. Другие считают, что, как и в эпизодах с «Черным зеркалом», устройство предназначено для отслеживания и контроля людей.
Я смотрю на эту сферу "Орб".
Orb размером с шар для боулинга. Он покрыт сплавом, блестящий и гладкий. Я наклонился и уставился на черный круг, как смотрят на машину у окулиста. Затем Orb использует инфракрасные камеры, датчики и систему нейронных сетей на основе искусственного интеллекта, чтобы сканировать мои радужки и убедиться, что я действительно человек.
Я не первый, кто ест крабов. Более 2 миллионов человек увидели флагманское устройство Orb — Worldcoin, проект криптовалюты и искусственного интеллекта, соучредителями которого являются Сэм Альтман (генеральный директор OpenAI) и Алекс Блания (ныне генеральный директор материнской компании Tools for Humanity).
У Worldcoin есть смелая предпосылка: искусственный интеллект будет продолжать совершенствоваться и в конечном итоге превратится в AGI (Advanced General Intelligence), что означает, что он умнее людей, что будет стимулировать скачки в производительности, создавая богатство, которое не должно быть отнято элитой, но должно быть справедливо распределено между всем человечеством — практически всеми — в форме универсального базового дохода (UBI), который расширит возможности миллиардов людей. UBI появится в виде Worldcoin.
Достоинства UBI находили отклик у Альтмана в течение многих лет. Альтман сказал в недавнем интервью Zoom: «UBI интересен мне даже без разговоров об искусственном интеллекте, и эта идея нравится многим людям. Если наше общество достаточно богато, чтобы покончить с бедностью, то у нас есть моральное обязательство выяснить, как это сделать».
Итак, может быть, ИИ сможет добиться успеха там, где политическая политика потерпела неудачу?
«В мире ИИ он [универсальный базовый доход] еще более важен по очевидным причинам, и я все еще ожидаю, что в пост-ИИ-мире будут рабочие места, — сказал Альтман. — Но, А, я действительно думаю, что нам нужен какой-то буфер в переходный период, и, Б, часть волнения по поводу ИИ заключается в том, что это более материалистичный мир».
Мировая монета, которая следует этой логике, может стать ключом к обеспечению этого материального изобилия. Но есть проблема. Если цель состоит в том, чтобы раздать токены всем бесплатно, как мы можем быть уверены в этом будущем, управляемом ИИ, что мы раздаем добычу людям, а не манекенам, управляемым ИИ? (Это только вопрос времени, когда ИИ посмеется над капчами.) Или что, если кто-то со скрытыми мотивами использует ИИ для создания нескольких кошельков и обмана системы?
Команда размышляла и над этим вопросом, они исследовали все способы, как доказать, что они люди, и пришли к болезненному выводу — у них не было выбора. "Мы действительно не хотим этого делать, мы знаем, что это будет болезненно, это дорого, и люди думают, что это странно. Но мы считаем, что это необходимо сделать: биометрические данные необходимы для аутентификации людей", - сказал Блания. «Мы не хотим идти по этому пути по ряду причин, но это действительно единственное решение», — сказал Блания.
Это нерассказанная история этого решения и путешествие, чтобы узнать, является ли оно решением или проблемой.
Ирисовая сфера
Дизайн Sphere гладкий и минималистичный, без каких-либо элементов управления или ручек в очень «яблочном» стиле. Это не случайно, поскольку ведущим дизайнером Orb был Томас Мейерхоффер, первый сотрудник Джони Айва в Apple. (Я был легендарным разработчиком iMac, iPod и iPhone.) Orb стремится быть максимально простым, как однажды сказал Мейерхоффер: «Он должен быть достаточно простым для всех нас. Для всех и везде».
В берлинском офисе Блания показал мне старые модели Orb и рассказал истории о первых днях компании, когда они только начинали возиться с железом. Первоначально идея была задумана как «Проект Биткойн» с целью бесплатной раздачи биткойнов людям после того, как они докажут свою человечность. Блания держит старую версию и смеется, потому что у нее есть слот для выплевывания физических жетонов, как обратная копилка, и даже есть два глаза и рот.
Ранние сферы даже разговаривали с людьми. «Эта штука разговаривает с вами голосом робота», — вспоминает Блания.Каждая ранняя сфера могла содержать 15 физических токенов (которые содержали ключи к реальным биткойнам), идея заключалась в том, что люди будут относиться к криптовалютам более серьезно, если они будут держать что-то в руках. (По понятным причинам команда быстро отказалась от этой идеи.) «Мы пробовали много вещей, например, вибрировать, когда сфера что-то сообщает людям», — говорит Блания. Они быстро итерируют использование 3D-принтера, чтобы придумывать новые версии Orb каждую неделю.
Блания, высокая, спортивная 29-летняя девушка с детским лицом в джинсах и футболке, не похожа на генерального директора. Он ведет один из самых амбициозных проектов на планете и свою первую работу. Альтман назначил его генеральным директором и соучредителем после работы в Калифорнийском технологическом институте, где он исследовал нейронные сети и теоретическую физику. Поначалу Блания признается: «Я думал, что я ужасный генеральный директор, не говоря уже о моей технической подкованности».
Так что Альтман помог ему. «Альтман приглашал кого-нибудь встречаться со мной почти каждую неделю, и они говорили мне, что не так, — говорит он, — Одним из коучей генеральных директоров был Мэтт Мочари, который ранее обучал Альтмана и Брайана Армстронга, и он научил их основам управления, например, как проводить встречи один на один, как проводить собрания персонала, как выступать перед публикой.
У Блании нет увлечений, кроме тяжелой атлетики и медитации. Его часы разделены между Сан-Франциско и Берлином (два основных офиса Tools for Humanity), где он начинает свой день в 9 утра и уходит из офиса в 10 вечера, чтобы отправиться в спортзал. «Я стараюсь работать каждый час бодрствования», — сказал он.
В эту работу входило руководство 50 штатными сотрудниками, некоторым из которых было поручено создать новый крипто-кошелек от O. «Пользовательский опыт в криптовалютах ужасен», — сказал Тьяго Сада, руководитель отдела продуктов и разработки, с которым я также познакомился в берлинском офисе, еще один гений. (Их много в сообществе ИИ.) Он вырос в Мексике, строил роботов с друзьями в 14 лет, основал стартап «Venmo of Mexico» и познакомился с Альтманом в инкубаторе Y Combinator.
Первоначально Сада скептически относился к шифрованию, потому что, по его мнению, нетехническим людям будет сложно зарегистрироваться. Когда он просил людей сделать что-то вроде загрузки расширения MetaMask, они застряли. Конечно, криптокошельки доступны для тех, кто интересуется криптовалютой, но для многих из 8 миллиардов человек на планете они имеют барьеры для входа. Основная идея Worldcoin состоит в том, чтобы сделать криптовалюту легкодоступной для всех, независимо от того, разбираются они в технологиях или нет. То есть они могут что-то сделать в мгновение ока. Поэтому они создали приложение WorldApp, которое синхронизируется с Orb и обеспечивает почти мгновенный вход в систему.
Я попробовал это сам. В берлинском офисе я скачал приложение World из App Store. Приложение синхронизируется с The Orb, который стоит на столе в конференц-зале. Через несколько секунд я смотрю на блестящий шар, моя учетная запись подтверждена, и теперь я счастливый обладатель 1 Worldcoin*. (*Что было бы невозможно, если бы я попробовал это в США, где у них нет запуска токена по нормативным причинам — по крайней мере, пока.)
Процесс регистрации, по крайней мере для меня, прошел довольно гладко. Если вы проигнорируете весь процесс сканирования глазного яблока, это будет самый плавный вход в шифрование, которое я испытал за более чем пять лет. (Подробнее об этом позже.)
Одной из причин, по которой эта технология так хорошо работает, является использование ИИ, чьи парадоксы широко распространены, когда потенциальные последствия ИИ — как фантастические (повышение производительности), так и злонамеренные (глубокие подделки) — продвигают миссию компании, но в повседневной жизни последние достижения в области ИИ делают инженеров более эффективными. Сада сказал: «Без искусственного интеллекта Worldcoin не может существовать». Несколько моделей машинного обучения помогают питать Orb, и Сада говорит, что ИИ уже (фактически) обучает другие ИИ, еще больше повышая их производительность.
** Как искусственный интеллект обучает искусственный интеллект? **
"Люди думают, что нам нужно много данных для обучения алгоритмов, и на самом деле многие модели позволяют нам генерировать синтетические данные, — сказал Сада. — Точно так же, как вы можете использовать Dall-E для создания изображения Люка Скайуокера, забивающего данк в стиле Караваджо — и оно возвращается за секунды — инженеры могут использовать ИИ для моделирования данных. Это позволяет нам использовать относительно небольшой объем данных и по умолчанию удалять все [биометрические данные и данные радужной оболочки глаза]».
Это подводит нас к вопросу, который мучил Worldcoin с момента его создания: что именно Worldcoin делает с этими сканированиями глазных яблок?
После того, как Альтман написал в Твиттере The Orb в октябре 2021 года, критики и скептики раскритиковали его. Эдвард Сноуден предупредил в твиттере: «Не классифицируйте глазные яблоки, не используйте биометрию для противодействия мошенничеству. Фактически, не используйте биометрию ни для чего».
Сноуден признал, что проект использует ZK-Proofs для защиты конфиденциальности, но настаивал на том, что «умное есть умное, но все же отстой, человеческое тело — не пропускная способность».
Дэвид З. Моррис пишет: «Для частной компании собирать биометрические данные о каждом человеке на Земле крайне рискованно, кстати, называть устройство Сферой — жутко с густыми намеками на Око Саурона».
Блания, Сада и другие сотрудники Worldcoin неоднократно заявляли мне, что Orb не собирает биометрические данные с глазных яблок, по крайней мере, если это явно не разрешено пользователем.
«Конфиденциальность — это фундаментальное право человека. Каждая часть системы Worldcoin была разработана для ее бескомпромиссной защиты. Мы не хотим знать, кто вы, мы просто хотим знать, что вы уникальны», — говорится в заявлении о конфиденциальности компании. Это означает, что некоторые данные перехватываются, если пользователи разрешают это. По умолчанию данные не собираются; пользователи могут изменить это и разрешить сохранение данных, что, по словам Worldcoin, используется для узкой цели улучшения алгоритма. (И почему пользователь включил бы это вне меня).
SADA сказал: «Самая крутая вещь — это также и самая сложная вещь. Это ORB, который выполняет все вычисления и проверку на месте, чтобы проверить, являетесь ли вы уникальным человеком, а затем он генерирует уникальный «код радужной оболочки». SADA сказал, что вы можете рассматривать свой мировой идентификатор как паспорт, и то, что делает ORB, ставится в вашем паспорте, чтобы указать, что он эффективен. Карты глазного яблока нет. Это просто код, указывающий, что вы уникальный человек, а не ваш возраст, раса, пол или цвет глаз.
В день публичного запуска Worldcoin Виталик Бутерин написал подробный пост в блоге, в котором поставил под сомнение его заявление о конфиденциальности. Он выразил опасения, но дал хорошую оценку. Он сказал: «В целом, несмотря на «антиутопическую атмосферу» пристального взгляда на сферу и ее глубокого сканирования в ваши глазные яблоки, специализированные аппаратные системы, кажется, действительно неплохо справляются с сохранением конфиденциальности ... Однако обратная сторона этого заключается в том, что специализированные аппаратные системы создают большую проблему централизации. Таким образом, мы думаем, что шифропанки застряли: нам приходится обменивать одну глубоко укоренившуюся ценность шифропанка на другую».
Если у пользователя есть WorldID (который, по мнению Worldcoin, обеспечивает конфиденциальность), его можно использовать в будущем в качестве главного ключа для доступа к другим приложениям и веб-сайтам, таким как Twitter или ChatGPT. Они уже начали экспериментировать с этой функцией. WorldID недавно объявила об интеграции с немецким провайдером управления идентификацией и доступом Okta, и в ближайшее время появятся новые партнерские отношения.
WorldID — это форма самоуверенной идентичности, которая сама по себе является священным Граалем для многих в пространстве Web3. В оптимистичном и лучшем сценарии Orb может масштабировать SSID и UBI на миллиарды людей, вырвать онлайн-«идентификацию» у централизованных корпоративных гигантов и помочь более бедным, маргинализированным сообществам получить больше финансовых возможностей. Это видение.
Но кто за это платит? В соответствии с тем, как настроена система в настоящее время, после регистрации Orb вы можете получать 1 Worldcoin в неделю. Это раннее ядро UBI. Кто платит за этот токен, который внезапно появляется в каждом кошельке (или глазном яблоке) на планете? С одной стороны, у криптовалют есть прецедент, они входят в мир как по волшебству, а затем в конечном итоге увеличиваются в цене, биткойн является лучшим примером, с другой стороны, часть ценностного предложения биткойна заключается в его дефиците, а его предложение ограничено 21 миллионом монет.
Экономика токенов
Экономика токенов Worldcoin более туманна.
Джесси Уолден, один из первых инвесторов проекта и генеральный партнер iant, признал, что «кто платит» — хороший вопрос, но сказал: «Я не знаю, есть ли сейчас четкий ответ, и не знаю, нужен ли он».
У Альтмана есть более прагматичный ответ. В краткосрочной перспективе Альтман сказал: "Мы надеемся, что когда люди захотят купить этот токен, потому что они верят, что это будущее, в экономику потекут деньги. Новые покупатели токенов - это то, как они эффективно оплачиваются".
Конечно, долгосрочная и более масштабная перспектива заключается в том, что результаты общего искусственного интеллекта принесут человечеству экономическую отдачу. (Отсюда и название материнской компании Worldcoin — Tools for Humanity.) Как это происходит, остается только гадать. «В конечном счете, вы можете вообразить что угодно в мире после AGI, но у нас нет конкретных планов на этот счет. На данном этапе это не главное», — сказал Альтман.
Немногие люди лучше подготовлены к тому, чтобы представить себе мир после ИИ, чем Альтман, который стоит на странном пересечении этих двух проектов ИИ. Центральный игрок в разработке искусственного интеллекта, Альтман является соучредителем проекта, который частично направлен на то, чтобы максимально ограничить злоупотребление искусственным интеллектом. Хотя он так не думает: «Мне кажется более привлекательным описать историю как« создай проблемы здесь, реши проблемы там »».
Это модель развития в глазах Альтмана: мир будет двигаться дальше. По мере того, как мир продолжает двигаться вперед, меняется и игровое поле. Еще многое должно произойти, но это не похоже на решение проблемы. Это больше похоже на совместно развивающуюся экосистему. Я не думаю, что одно является ответом на другое. (Я признаю, что Альтман раздавил меня интеллектуально, он произвел на меня впечатление искренности и доброты, но я действительно нашел его ответы трудными для понимания)
Я задал Альтману тот же вопрос, что и Блании в своем первом выступлении: каким был бы мир, если бы Worldcoin был полностью успешным и все работало? Если предположить, что присоединились миллиарды пользователей, финансовые выгоды от AGI распределяются между всеми справедливо. Как выглядит это будущее? В чем смысл всего этого?
"Я думаю, что мы все будем лучшей версией того, на что мы можем надеяться, большей личной автономией и свободой действий. Больше времени, больше ресурсов для того, чтобы что-то делать", - говорит Альтман. Он говорит быстро, без колебаний; это идеи, над которыми он размышлял годами: "Как и в случае любой технологической революции, люди найдут удивительные новые вещи друг для друга... но это совсем другой, более захватывающий мир".
Каковы самые большие риски и проблемы в реализации этого видения? Альтман считает, что «еще слишком рано говорить о больших проблемах», но признает, что OpenAI и Worldcoin «далеки от того, чтобы быть полезными» и что «у нас впереди еще много работы».
Тяжелая работа включает в себя развертывание сферы, и здесь все становится опасно.
Сценарий применения
Цель сканирования восьми миллиардов наборов глазных яблок почти амбициозна. В конечном счете, доставка бесплатной горсти «конфет» каждому человеку на планете, даже без каких-либо биометрических условий, является сложной логистической задачей. Как добраться до отдаленных районов? Как безопасно транспортировать сферу? Как объяснить эту сложную взаимосвязь между потенциалом ОИИ, потребностью в БОД и достоинствами шифрования?
По сути, презентация такая: эй, получи немного криптовалюты бесплатно!
Сообщение со временем уточнялось, переделывалось и уточнялось, но вот основная идея: пользователи могут подписаться на бесплатную криптовалюту, и этот шар — ваш способ доказать, что вы нигде не подписывались раньше.
Вспомните первые полевые испытания Блании, как будто это что-то из комедии Джадда Апатоу. В парке в Германии Блания искал потенциальных пользователей со сферами, когда заметил двух молодых женщин. Должен ли он подойти и поговорить? Команда Worldcoin наблюдает со стороны. (В берлинском офисе Блания находит фотографию сцены, которую кто-то снял на ее телефон, и показывает ее мне: как парень в баре, набравшийся смелости, чтобы завязать разговор.)
В то время они все еще находились в ранней эре «биткойн-проектов». Итак, Блания подошла к одной из женщин, которая показала ей шар и сказала, что это поможет ей получить бесплатные биткойны. «Единственное, что делает это устройство, — это гарантирует, что вы получите его [биткойн] только один раз, но вы получаете биткойн, и это то, чему можно радоваться», — сказал он ей.
Ответ женщины был прост: «Вы с ума сошли?»
Она предпочитает не сканировать радужную оболочку, но ее подруга делает.
Блания полуулыбается: «На самом деле, я думаю, она просто считает меня милой».
Это неудивительно. Блания — симпатичный парень, умный и способный ясно и убедительно рассказать о преимуществах, нюансах и смысле существования Worldcoins (кого это не впечатлит?). Но как масштабировать Алекса Бланию? Может быть, если бы Блания можно было клонировать, он мог бы лично зарегистрировать 8 миллиардов человек.
Но вернемся к реальности: сначала Блания и небольшая команда просто таскали сферу по улицам Берлина, показывали ее людям и пытались объяснить на лету. «На самом деле это был ранний сценарий, когда люди подходили к нам, потому что это была блестящая сфера, и люди спрашивали: «Что это, черт возьми?», — сказал он.
Ранние сферы разговаривали с пользователями странными роботизированными голосами, приказывая им двигаться ближе или дальше, или, возможно, влево. (Позже команда внесла ряд оптимизаций, чтобы автоматизировать этот процесс.) Роботизированный голос сбивает с толку зрителей, которые иногда делают веселые селфи со Сферой.
Неоколониальные проблемы
Менее интересны первые попытки вербовки пользователей в Найроби, Судане и Индонезии. В апреле 2022 года MIT Technology Reports опубликовал статью из 7000 слов под названием «Обман, эксплуатация рабочих и раздача наличных: как Worldcoin набрала своих первых 500 000 тестовых пользователей». Авторы утверждают, что, несмотря на амбиции проекта, «все, что он сделал до сих пор, — это создал биометрическую базу данных на основе тел бедняков».
В отчете описывалась некачественная операция, изобилующая дезинформацией, ошибками данных и неисправными сферами. Эйлин Гуо и Ади Ренальди написали: «Наше расследование выявило огромный разрыв между общедоступной информацией Worldcoin, ориентированной на конфиденциальность, и пользовательским опытом, и мы обнаружили, что представители компании использовали обманные маркетинговые методы, собирали больше личных данных, чем признавали, и не смогли получить значимых прав на информацию».
Я рассказал об этом отчете Блании и Альтману. «Первое, что нужно понять, это то, что эта статья была опубликована до того, как компания подняла свой раунд серии A», — сказал Блания. Он признал, что это не оправдание, но подчеркнул, что проект все еще находится в зачаточном состоянии, и с тех пор «практически все изменилось» благодаря более строгим операциям и протоколам. Конечно, именно возможность подобных ошибок — независимо от того, насколько благими намерениями может быть команда — заставляет людей опасаться делиться своими биометрическими данными.
Блания также был возмущен тем, что статья была определена (по его словам) как «колониалистская попытка получить подписи бедняков со всего мира». Он сказал, что это вводит в заблуждение, потому что более 50% зарегистрированных пользователей в то время были из более богатых стран, таких как Норвегия, Финляндия и европейские страны. Их цель — протестировать регистрацию в развитых и развивающихся регионах, в жарком и холодном климате, в городской и сельской местности, чтобы лучше понять, что работает, а что нет.
По словам Альтмана, ошибки — это естественная часть роста любого крупномасштабного проекта. «С любой новой системой вы будете подвергаться некоторому мошенничеству на начальном этапе, и это одна из причин, по которой мы проводим этот длительный период в [этой] медленной бета-фазе. Видя, насколько система открыта для злоупотреблений, и как мы собираемся смягчить это. Я не знаю системы, которая была бы такой большой, такой амбициозной и у которой вообще не было бы проблем с мошенничеством.
Одним из смягчений является изменение способа вознаграждения операторов сфер. В настоящее время в поле работает от 200 до 250 сфер и около нескольких десятков операторов, каждый из которых имеет свою подгруппу. Вначале Worldcoin просто платил операторам в зависимости от количества необработанных регистраций, что приводило к некоторым небрежным и некачественным практикам.
По словам Блания, операторов теперь мотивирует не только количество регистраций, но и их качество, а также то, насколько хорошо пользователи знают, что происходит: после нескольких недель сканирования Orb операторам платят больше, если пользователи используют Worldapp. (Основной способ «использования» Worldapp сейчас — еженедельное получение Worldcoin.) Я разговаривал с двумя операторами в Испании, Гонсало Ресио и Хуаном Чаконом, которые в основном одобряют новый протокол, но вопрос о том, строго ли этот процесс соблюдается во всем мире, остается открытым.
Как люди могут поверить, что Worldcoin действительно решает эти проблемы? Альтман слышит вопросы и понимает, что вряд ли сможет переубедить сомневающихся, но, кажется, не возражает. Он считает, что более убедительные ответы исходят не от него, Блании или компании, а от первых последователей Worldcoin. «Вы можете попытаться ответить на кучу вопросов и сделать все эти вещи, но на самом деле это не так», — сказал он.
«Что действительно работает, так это первый миллион человек, первые последователи, люди, двигающиеся вперед — убеждают следующие 10 миллионов человек. Затем следующие 10 миллионов человек становятся ближе к норме. Они убеждают следующий миллиард человек. Это действительно нормы, которые убеждают другие миллиарды».
Политика и будущее
Во время нашего первого разговора Блания сказал мне, что если WorldID и UBI Worldcoin будут полностью приняты в масштабе, это будет «вероятно, одно из самых глубоких технологических изменений всех времен». Если это так, создает ли это новый и сложный набор законов, политик и даже экзистенциальных вопросов для рассмотрения правительствами?
Последний вопрос не давал мне покоя, когда я заканчивал встречу в берлинском офисе. Создается впечатление, что проект настолько амбициозен, настолько безумен и настолько преобразующий — по крайней мере, в теории — что власть предержащие не до конца учли его последствия. Если люди получают компенсацию не за счет труда, а за счет общего искусственного интеллекта, не будет ли это означать фундаментальный сдвиг в том, как устроен мир? Правительство не будет настаивать на регулировании этого? Если предположить, что да, то как Worldcoin решит эту проблему?
Блания откинулась на спинку стула и на мгновение задумалась. Он сказал: "Очевидно, что это важный вопрос для обсуждения, и я начну с самого важного прямо сейчас. И самая важная идея на самом деле гораздо менее сложна, чем все, что вы только что упомянули".
Альтман отверг идею о том, что политики невежественны или медлительны. «Я побывал примерно в 22 странах, встречался со многими мировыми лидерами, и люди понимают это больше, чем я думал, и относятся к этому очень серьезно», — сказал он. (Неясно, имеет ли он в виду «это» конкретные амбиции Worldcoin или более широкие проблемы, связанные с искусственным интеллектом.) «Сейчас я трачу все больше и больше времени не на технические вопросы, а на политические вызовы. В конечном счете, для того, чтобы мир двигался к добру через все это, это должно быть решение, которое имеет как технологические, так и политические части. В некотором смысле политическая часть может стать более сложной».
Политические препятствия являются одним из рисков, с которыми сталкивается Worldcoin. Недостаточное расширение — это риск для Worldcoin. Дополнительные ошибки в этой области, такие как те, которые отмечены в отчете MIT Tech, представляют собой еще один риск. Или данные диафрагмы могут быть скомпрометированы. Или провал экономики токенов. Или подрыв доверия может помешать будущим регистрациям. Или логистические проблемы, связанные с доставкой Orb в более сложные уголки мира. Или технические и производственные сбои. Или обнаружить, что сфера каким-то образом повреждена. (Как отметил Виталик Бутерин, «Сфера — это аппаратное устройство, и мы не можем проверить, правильно ли оно сконструировано и не имеет ли оно лазеек».)
Или, может быть, Worldcoin никогда не будет стоить больше нескольких центов, так что всем наплевать. На долгом пути к широкому распространению Worldcoin существует множество рисков, и проект остается неудачным.
Но, как считает аналитический центр компании, самый большой риск заключается не в самой Worldcoin. Самый жуткий риск для них заключается в том, что будет разработано что-то вроде биометрического WorldID, только не открытым и не сохраняющим конфиденциальность способом.
Первоначальная логика, которую Альтман сформулировал до того, как ChatGPT стал мейнстримом, по-прежнему убедительна: в конце концов ИИ станет настолько хорош, что сможет легко притворяться человеком, поэтому нам нужен способ доказать нашу человечность. Возможно, биометрическое доказательство неизбежно. Кто должен быть распорядителем решения? «Такие вещи, как WorldID, должны произойти», — сказал Блания. «Вам необходимо пройти аутентификацию в сети. Что-то подобное произойдет. Путь по умолчанию заключается в том, что это не онлайн как таковое, оно не защищает конфиденциальность и фрагментировано правительствами и странами».
Для Блании неконфиденциальная версия биометрической цензуры — настоящий заговор «Черного зеркала». «Это путь по умолчанию, и я думаю, что Worldcoin — единственный путь», — сказал он.