Особая благодарность добровольцам Бальви, Полу Дилану-Эннису, Павлу Каверсаччо, векторизованному, Брюсу Ксу и Луоджу Чжану за обсуждение и обратную связь.
Недавно я все больше обращаю внимание наулучшение состояния конфиденциальностив экосистеме Ethereum. Конфиденциальность является важным гарантом децентрализации: у кого есть информация, у того и власть, следовательно, мы должны избегать централизованного контроля над информацией. Когда люди в реальном мире выражают беспокойство по поводу централизованной технической инфраструктуры, беспокойство иногда связано с тем, что операторы неожиданно меняют правила или исключают пользователей, но так же часто это связано с сбором данных. В то время как криптовалютное пространство имеет свои корни в проектах, подобныхЭлектронные деньги Шома, который делает сохранение цифровой финансовой конфиденциальности важнейшим аспектом, в последнее время недооценивал конфиденциальность по вполне плохой причине: до появления ZK-SNARKs у нас не было способа обеспечить конфиденциальность децентрализованным образом, поэтому мы пренебрегали этим аспектом, вместо этого сосредотачиваясь исключительно на других гарантиях, которые мы могли предоставить в то время.
Однако сегодня конфиденциальность больше нельзя игнорировать. ИИ значительно увеличивает возможности централизованного сбора и анализа данных, расширяя объем данных, которые мы добровольно делимся. В будущем новые технологии, такие как мозг-компьютерные интерфейсы, представляют дополнительные вызовы: мы можем буквально говорить о том, что ИИ читает наши мысли. В то же время у нас есть более мощные инструменты для сохранения конфиденциальности, особенно в цифровой среде, чем могли представить себе криптогики 1990-х годов: высокоэффективные доказательства нулевого знания (ZK-SNARKs) могут защитить наши личности, раскрывая достаточно информации, чтобы доказать, что мы заслуживаем доверия, полностью гомоморфное шифрование (FHE) позволяет нам выполнять вычисления над данными, не видя сами данные, а обфускация может предложить еще больше в ближайшем будущем.
Приватность - это не оставаться в стороне. Это остаться вместе.
В этот момент стоит отойти назад и пересмотреть вопрос: зачем нам вообще нужна конфиденциальность? Ответ каждого человека будет отличаться. В этом посте я дам свой собственный ответ, который разобью на три части:
- Конфиденциальность - это свобода: конфиденциальность дает нам пространство для жизни так, как это соответствует нашим потребностям, не беспокоясь постоянно о том, как наши действия будут восприняты во всех видах политических и социальных игр.- Приватность - это порядок: целый ряд механизмов, лежащих в основе базового функционирования общества, зависит от приватности для своего функционирования- Приватность - это прогресс: если мы обретаем новые способы делиться нашей информацией выборочно, защищая ее от злоупотреблений, мы можем разблокировать много ценности и ускорить технологический и социальный прогресс## Приватность - это свободаВ начале 2000-х годов было популярно иметь точки зрения, аналогичные тем, которые олицетворялись книгой Дэвида Брина 1998 года.Прозрачное общество: технология сделает информацию по всему миру намного более прозрачной, и хотя это будет иметь недостатки и потребует адаптации, в среднем это очень хорошо, и мы можем сделать это справедливым, убедившись, что люди могут наблюдать (или скорее,sousveil) а также правительство. В 1999 году генеральный директор Sun Microsystems Скотт Макнейли по-видимому воскликнул«приватность мертва, примите это!». Эта ментальность была распространена в начальной концепции и развитии Facebook, которая запрещены псевдонимичные личности. Лично я помню, как в конце этой концепции я столкнулся с ней на презентации на мероприятии Huawei в Шэньчжэне в 2015 году, где (западный) спикер краем уха упомянул, что "приватность закончилась".
Прозрачное общество представляло собой лучшее и самое яркое из того, что могла предложить идеология "конец приватности": оно обещало лучший, более справедливый и честный мир, используя силу прозрачности, чтобы сделать правительства ответственными, а не угнетать индивидуумов и меньшинства. Однако сегодня ясно, что даже этот подход был продуктом своего времени, написан на пике энтузиазма по поводу глобального сотрудничества и мира и "конца истории", и он зависел от ряда чересчур оптимистичных предположений о человеческой природе. Прежде всего:
- Высшие уровни глобальной политики, как правило, были бы благонамеренными и здравомыслящими, делая вертикальную конфиденциальность (т. е. не раскрывая информацию мощным людям и учреждениям) все менее и менее нужной. Злоупотребления властью, как правило, были бы локализованными, поэтому лучший способ борьбы с этими злоупотреблениями - выносить их на свет.- Культура будет продолжать улучшаться до тех пор, пока горизонтальная конфиденциальность (т. е. не раскрытие информации другим членам общественности) не станет ненужной. Ботаны, геи и, в конечном итоге, все остальные смогут перестать прятаться в шкафу, потому что общество перестанет быть суровым и осуждающим по отношению к уникальным чертам людей и вместо этого станет толерантным и принимающим.Сегодня нет ни одной крупной страны, по поводу которой широко согласны с тем, что первое предположение справедливо, а для немалого числа стран широко признается, что оно ложно. На втором фронте также быстро ухудшается культурная толерантность - достаточно просто поискать в Twitter фразы типа"Издевательства – это хорошо"это одно из доказательств этого, хотя легко найти больше."
Мне лично не повезло регулярно сталкиваться с недостатками "прозрачного общества", поскольку каждое мое действие на улице имеет ненулевой шанс неожиданно стать публичной новостью в СМИ:
Самым худшим нарушителем был кто-то, кто снял минутное видео, пока я работал на ноутбуке в Чиангмай, и опубликовал его на xiaohongshu, где он сразу получил множество лайков и репостов. Конечно, моя ситуация далека от человеческого нормы, но это всегда было так в случае с приватностью: люди, чьи жизненные ситуации относительно нормальны, нуждаются в ней меньше, чем те, чьи ситуации отклоняются от нормы в любом направлении. И когда вы учитываете все различные направления, которые имеют значение, количество людей, которым действительно нужна приватность, оказывается довольно велико - и вы никогда не знаете, когда вы станете одним из них. Вот почему приватность часто недооценивается: это не только о вашей ситуации и вашей информации сегодня, но и о неизвестных неизвестных том, что происходит с этой информацией (и как это влияет на вас) в бесконечном будущем.
Конфиденциальность от корпоративных механизмов ценообразования сегодня является узким вопросом, даже среди сторонников искусственного интеллекта, но с развитием инструментов анализа на основе искусственного интеллекта она, вероятно, станет нарастающей проблемой: чем больше компания знает о вас, тем больше они также могут предложить вам персонализированную цену, максимизирующую то, сколько они могут извлечь от вас, умноженное на вероятность того, что вы заплатите.
Я могу выразить свой общий аргумент в пользу конфиденциальности как свободы в одном предложении следующим образом:
Конфиденциальность дает вам свободу жить своей жизнью так, как это наилучшим образом соответствует вашим личным целям и потребностям, не приходится постоянно балансировать каждое действие между "частной игрой" (вашими собственными потребностями) и "общественной игрой" (как все виды других людей, посредничество всех видов механизмов, включая каскады социальных средств массовой информации, коммерческие стимулы, политику, институты и т. д., воспримут и ответят на ваше поведение)
Без конфиденциальности всё превращается в постоянную борьбу за то, что будут думать другие люди (и боты) о том, что я делаю - влиятельные люди, компании и коллеги, люди сегодня и в будущем. С конфиденциальностью мы можем сохранить баланс. Сегодня этот баланс быстро разрушается, особенно в физической области, и стандартный путь современного техно-капитализма, c его жаждой бизнес-моделей, находящих способы захвата ценности от пользователей, не требуя при этом явной оплаты за вещи, - это даже больше разрушить (даже в высокочувствительных областях, таких как, в конечном итоге, наши умы). Следовательно, нам необходимо противодействовать этому эффекту и поддерживать конфиденциальность более явно, особенно там, где мы это можем сделать наиболее практично: в цифровой сфере.
Но почему не разрешить правительственные задние двери?На вышеуказанное рассуждение есть один общий ответ: недостатки конфиденциальности, о которых я говорил, в значительной степени являются недостатками, связанными с тем, что общественность слишком много знает о нашей личной жизни, и даже когда речь идет об злоупотреблении властью, дело касается корпораций, начальников и политиков, которые знают слишком много. Но мы не позволим общественности, корпорациям, начальникам и политикам располагать всей этой информацией. Вместо этого мы позволим небольшой группе высококвалифицированных и тщательно проверенных правоохранительных специалистов видеть данные, полученные с камер видеонаблюдения на улицах и съемок с интернет-кабелей и чат-приложений, проводить строгие процедуры ответственности, и больше никто не узнает.
Это тихое, но широко распространенное положение, поэтому важно явно его обсудить. Есть несколько причин, почему, даже если такие стратегии реализованы на высоком уровне качества с хорошими намерениями, они по своей сути нестабильны:
- На практике это касается не только правительства, но и всех видов корпоративных субъектов разного качества. В традиционных финансовых системах данные по KYC и платежам хранятся платежными обработчиками, банками и всевозможными другими посредниками. Провайдеры электронной почты видят огромные объемы данных всех видов. Телекоммуникационные компании знают ваше местоположение и регулярно незаконно перепродаватьВ целом, контроль за всеми этими субъектами на достаточно высоком уровне строгости, который гарантирует, что у них действительно высокий уровень заботы о данных пользователей, настолько интенсивен как для наблюдающих, так и для наблюдаемых, что скорее всего несовместим с поддержанием конкурентоспособного свободного рынка.- Люди, у которых есть доступ, всегда будут чувствовать соблазн злоупотреблять им (включая продажу третьим лицам). В 2019 году несколько сотрудников Twitter были взимаетсяипозднее осужденза продажу личной информации диссидентов Саудовской Аравии.- Данные всегда могут быть взломаны. В 2024 году были взломаны данные, которые американским телекоммуникационным компаниям было законодательно требуется собирать.предположительно китайскими хакерами, ассоциированными с государствомВ 2025 году украинским правительством будет храниться большое количество чувствительных персональных данных был взломан РоссиейИ в другом направлении, высокочувствительные правительственные и корпоративные базы данных в Китаетакже получить взломанные, включаяправительством США.- Режим может измениться. Правительство, которому сегодня можно доверять, завтра может быть недостойным доверия. Люди, у власти сегодня, могут быть преследуемы завтра. Полицейское ведомство, которое поддерживает безупречно высокие стандарты уважения и приличия однажды, может обнаружить, что спустя десятилетие оно свелось к различным видам радостного жестокосердия.С точки зрения отдельного лица, если данные берут у них, у них нет способа узнать, будет ли и как они будут злоупотребляться в будущем. Самый безопасный подход к обработке масштабных данных - централизованно собирать как можно меньше данных в первую очередь. Данные должны максимально находиться в собственном распоряжении пользователей, а криптографические средства должны использоваться для возможности агрегации полезной статистики без ущерба для индивидуальной конфиденциальности.
Аргумент о том, что правительство должно иметь возможность получить доступ к чему угодно по ордеру, потому что именно так всегда работали вещи, упускает один ключевой момент: исторически объем информации, доступной для получения по ордерам, был намного ниже, чем сегодня, и даже чем это было бы доступно, если бы самые сильные предлагаемые формы конфиденциальности в Интернете были всеобщими. В XIX веке среднестатистическая беседа происходила один раз, устно, и никогда не записывалась никем. Поэтому: целикомморальная паника вокруг "погружения во тьму"это ахронично: средний разговор, а даже финансовая транзакция, полностью и безусловно приватная, является многотысячелетним историческим нормативом.
Средний разговор, 1950 год. Точно ни одно слово разговора никогда не было записано, подслушано, подвергнуто "законной перехват", проанализировано иначе просмотрено кем-либо в любое другое время, кроме участников разговора во время его проведения.
Еще одной важной причиной минимизации централизованного сбора данных является международный характер значительной части глобальных коммуникаций и экономического взаимодействия. Если все находятся в одной и той же стране, то, по крайней мере, логично сказать, что «правительство» должно иметь доступ к данным в ходе их взаимодействия. Но что делать, если люди находятся в разных странах? Конечно, в принципе, вы можете попытаться придумать схему с галактическим мозгом, в которой данные каждого человека сопоставляются с неким законным объектом доступа, который несет за него ответственность, хотя даже в этом случае вам придется иметь дело с огромным количеством пограничных случаев, связанных с данными, относящимися к нескольким людям. Но даже если бы вы могли, это не реалистичный исход по умолчанию. Реалистичный результат правительственных бэкдоров по умолчанию таков: данные концентрируются в небольшом количестве центральных юрисдикций, у которых есть данные каждого, потому что они контролируют приложения — по сути, глобальная техногемония. Надежная конфиденциальность на сегодняшний день является наиболее стабильной альтернативой.
Конфиденциальность - это порядокУже более века признается, что ключевым техническим компонентом, обеспечивающим работу демократии, является тайное голосование: никто не знает, за кого вы проголосовали, и более того, у вас нет возможности доказать кому-либо, за кого вы проголосовали, даже если вы действительно хотите. Если бы тайное голосование не было бы стандартом, избирателей бы постоянно обсуждали различные побочные стимулы, влияющие на их голосование: взятки, обещания о ретроспективных наградах, социальное давление, угрозы и многое другое.
Можно видеть, что такие побочные поощрения полностью разрушают демократию с помощью простого математического аргумента: на выборах с участием N человек вероятность вашего влияния на исход составляет всего лишь примерно 1/N, поэтому любые соображения, связанные с тем, какой кандидат лучше, а какой хуже, в своей сущности делятся на N. Тем временем, «побочные игры» (например, покупка голосов, принуждение, социальное давление) действуют на вас непосредственно на основе вашего голоса (а не на основе итогов голосования в целом), поэтому они не делятся на N. Следовательно, если побочные игры не тесно контролируются, по умолчанию они овладевают всей игрой и заглушают любые соображения о том, чьи политики кандидата на самом деле лучше.
Это применимо не только к демократии на уровне нации. Теоретически это применимо к практически любой корпоративной или государственной принципал-агентной проблеме:
- Судья, решающий, как постановить в дело- Государственный чиновник, решающий, какой компании предоставить контракт или грант- Сотрудник по иммиграции, решающий выдать или отклонить визу- Сотрудник компании в социальных сетях принимает решение о том, как осуществлять политику модерации контента- Сотрудник компании, вносящий свой вклад в бизнес-решение (например, какому поставщику покупать)Основная проблема во всех случаях одинакова: если агент действует честно, он поглощает лишь небольшую долю выгоды от своего действия для сущности, которую он представляет, тогда как если он следует стимулам какой-то сторонней игры, то он поглощает полную долю этих выгод. Поэтому даже сегодня мы полагаемся на моральное доброжелательство, чтобы гарантировать, что все наши институты не будут полностью захвачены хаотическим водоворотом сторонних игр, свергающих сторонние игры. Если уровень конфиденциальности дальше снизится, то эти сторонние игры станут еще сильнее, и необходимое моральное доброжелательство для сохранения функционирования общества может стать нереалистично высоким.
Могут ли социальные системы быть переработаны так, чтобы этой проблемы не было? К сожалению, теория игр практически явно говорит, что это невозможно (за исключением одного: полной диктатуры). В версии теории игр, которая фокусируется на индивидуальном выборе - то есть версии, которая предполагает, что каждый участник принимает решения независимо и не допускает возможности групп агентов, работающих как одно целое в своих взаимных интересах, конструкторы механизмов имеют очень широкий диапазон игровые "инженеры"для достижения всех видов конкретных результатов. Фактически, есть математические доказательствадля любой игры должно существовать по крайней мере одно устойчивое равновесие по Нэшу, и анализ таких игр становится выполнимым. Но в версии теории игр, которая допускает возможность коалиций, работающих вместе (т.е. "сговора"), называемой кооперативной теорией игр,мы можем доказать, чтоесть большие классы игр, у которых нет никакого стабильного исхода (называемого “ядро”). В таких играх, несмотря на текущее положение дел, всегда есть коалиция, которая может выгодно отклониться от него.
Если мы серьезно отнесемся к математике, мы прийти к выводуединственный способ создать устойчивые социальные структуры - это установить определенные ограничения на количество координации между участниками, что подразумевает сильное соблюдение конфиденциальности (включая отрицание). Если вы не воспринимаете математику всерьез, то достаточно просто взглянуть на реальный мир, или по крайней мере обдумать, что могло бы произойти с некоторыми из описанных выше ситуаций принципала и агента, если бы их захватили побочные игры, чтобы прийти к тому же выводу.
Обратите внимание, что это дает еще один аргумент в пользу того, почему правительственные 'задние двери' рискованы. Если у каждого есть неограниченная возможность координироваться с каждым по всему, результатом будет хаос. Но если только некоторые люди могут это делать, потому что у них есть привилегированный доступ к информации, то результатом будет то, что они доминируют. Одна политическая партия, имеющая доступ к 'задним дверям' в коммуникации другой, легко может означать конец жизнеспособности существования нескольких политических партий.
Еще одним важным примером социального порядка, функционирующего в зависимости от границ сговора, является интеллектуальная и культурная деятельность. Участие в интеллектуальной и культурной деятельности по своей сути является внутренне мотивированной задачей общественного духа: очень трудно создать внешние стимулы, нацеленные на позитивный вклад в общество, именно потому, что интеллектуальная и культурная деятельность отчасти является деятельностью по определению того, какие действия в обществе являются позитивными действиями в первую очередь. Мы можем создать приблизительные коммерческие и социальные стимулы, указывающие правильное направление, но они также требуют серьезного дополнения внутренней мотивацией. Но это также означает, что этот вид деятельности очень уязвим для несогласованных внешних мотиваций, особенно побочных игр, таких как социальное давление и принуждение. Чтобы ограничить влияние таких несогласованных внешних мотиваций, снова требуется конфиденциальность.
Приватность - это прогрессПредставьте мир, в котором шифрование открытого и симметричного ключа вообще не существовало бы. В этом мире безопасная отправка сообщений на длинные расстояния была бы по своей сути значительно сложнее - не невозможно, но сложно. Это приведет к тому, что международное сотрудничество будет происходить гораздо реже, и в результате намного больше будет продолжаться через личные встречи в офлайн-каналах. Это сделало бы мир намного беднее и более неравным местом.
Я буду утверждать, что сегодня мы находимся именно в том месте сегодня, относительно гипотетического мира завтра, где широко доступны гораздо более сильные формы криптографии - в частности, программирование криптографии, дополненное более сильными формами полностековой безопасности и формальной верификации, чтобы дать нам строгие гарантии, что эта криптография используется правильно.
протоколы египетских богов: три мощных и высокоуниверсальных конструкции, которые позволяют нам выполнять вычисления над данными, при этом полностью сохраняя конфиденциальность данных.
Отличным источником примеров является здравоохранение. Если поговорить с кем-либо, кто работал в области продления жизни, устойчивости к пандемиям или других областях здравоохранения в последнее десятилетие, все они единогласно скажут вам, что будущее лечения и профилактики персонализировано, и эффективный ответ во многом зависит от высококачественных данных, как данных об отдельных людях, так и данных об окружающей среде. Эффективная защита людей от воздушных заболеваний требует знания, где качество воздуха выше, а где ниже, и в каких регионах в данный момент появляются возбудители. Самые передовые клиники по продлению жизни все предлагают индивидуальные рекомендации и лечение на основе данных о вашем организме, предпочтениях в питании и образе жизни.
Однако каждое из этих вещей одновременно представляет собой огромные риски для конфиденциальности. Лично я знаю о случае, когда сотруднику был выдан воздушный монитор, который "позвонил домой" в компанию, и собранных данных было достаточно, чтобы определить, когда этот сотрудник занимался сексом. По подобным причинам я ожидаю, что по умолчанию многие из самых ценных форм данных вообще не будут собираться, именно потому, что люди боятся последствий для конфиденциальности. И даже когда данные собираются, они почти всегда не будут широко распространяться или предоставляться исследователям - это происходит частично по бизнес-причинам, но также часто из-за связанных с конфиденциальностью опасений.
Тот же шаблон повторяется и в других сферах. В наших действиях, в документах, которые мы пишем, в сообщениях, которые мы отправляем через различные приложения, и в различных действиях в социальных сетях содержится огромное количество информации о нас, которая могла бы быть использована для более эффективного прогнозирования и доставки того, что нам нужно в нашей повседневной жизни. Существует огромное количество информации о том, как мы взаимодействуем с нашими физическими окружениями, которая не имеет отношения к здравоохранению. Сегодня у нас нет инструментов для эффективного использования этой информации без создания дистопических кошмаров конфиденциальности. Завтра у нас могут появиться эти инструменты.
Лучший способ решить эти проблемы - использовать надежное шифрование, которое может позволить нам получить преимущества от обмена данными без недостатков. Возможность доступа к данным, включая личные данные, будет только становиться более важной в эпоху искусственного интеллекта, поскольку есть ценность в возможности локального обучения и запуска «цифровых двойников», способных принимать решения от нашего имени на основе высокодетализированных приближений наших предпочтений. В конечном итоге это также будет включать использование технологии мозг-компьютерного интерфейса (BCI), считывание высокополосных входов из наших умов. Для того, чтобы это не привело к высокоцентрализованной глобальной гегемонии, нам нужны способы соблюдения сильной конфиденциальности. Программируемое шифрование - самое надежное решение.
Моя AirValentмониторинг качества воздуха. Представьте устройство, которое собирает данные о качестве воздуха, делает агрегированную статистику общедоступной на карте открытых данных и вознаграждает вас за предоставление данных, все это при использовании программной криптографии для избегания раскрытия ваших персональных данных о местоположении и проверки подлинности данных.
Приватность может быть прогрессом для обеспечения безопасности нашего обществаПрограммируемые криптографические техники, такие как доказательства нулевого знания, могут быть мощными, потому что они похожи на конструктор для потока информации. Они могут обеспечить тонкое управление тем, кто может видеть какую информацию и, что еще более важно, какую информацию вообще можно увидеть. Например, я могу доказать, что у меня есть канадский паспорт, который показывает, что мне больше 18 лет, не раскрывая ничего еще о себе.
Это делает возможным все виды увлекательных комбинаций. Я могу привести несколько примеров:
- Доказательство личности нулевого знания: доказательство того, что вы уникальный человек (через различные формы идентификации: паспорт, биометрия, децентрализованныйоснованный на социальном графе) без раскрытия какого-либо другого информации о том, кем вы являетесь. Это можно использовать для «доказательства того, что вы не бот», всех видов «максимум N на человека», и многого другого, сохраняя полную конфиденциальность за пределами раскрытия того факта, что правила не нарушаются.- Конфиденциальные пулы, финансовое решение конфиденциальности, которое может исключать плохих действующих лиц без необходимости обратных дверей. При расходах пользователи могут доказать, что их монеты поступили из источника, не являющегося частью общедоступного списка взломов и краж; сами хакеры и воры не смогли бы сгенерировать такое доказательство, поэтому они не смогли бы скрыться. Рельсовая пушкаиprivacypools.comв настоящее время работают и используют такую схему.- Сканирование анти-мошенничества на устройстве: это не зависит от ZKPs, но кажется, что оно относится к этой категории. Вы можете использовать фильтры на устройстве (включая LLMs), чтобы проверить входящие сообщения и автоматически идентифицировать потенциальную дезинформацию и мошенничество. Если это делается на устройстве, это не нарушает конфиденциальность пользователя, и это можно сделать способом, который дает пользователю выбор, на какие фильтры подписаться.- Доказательство происхождения физических предметов: с использованием комбинации блокчейнов и доказательств нулевого знания можно отслеживать различные характеристики предмета через его цепочку производства. Это может позволить, например, оценить экологические внешности, не раскрывая публично цепочку поставок.
изображение конфиденциальности пулов
Тайваньский Проверка сообщенияприложение, которое дает пользователю возможность включить или выключить несколько фильтров, здесь сверху вниз: проверка URL-адресов, проверка криптовалютных адресов, проверка слухов### Конфиденциальность и искусственный интеллектНедавно, ChatGPT объявилчто он начнет подавать ваши прошлые разговоры в ИИ в качестве контекста для ваших будущих разговоров. То, что тенденция будет продолжаться в этом направлении, неизбежно: ИИ, просматривающий ваши прошлые разговоры и извлекающий из них инсайты, фундаментально полезен. В скором будущем мы, вероятно, увидим, как люди создают ИИ-продукты, которые делают еще более глубокие вторжения в частную жизнь: пассивно собирают ваши интернет-браузерные шаблоны, электронную почту и историю чата, биометрические данные и многое другое.
В теории ваши данные остаются конфиденциальными для вас. На практике это не всегда кажется таким:
“Ух ты! У ChatGPT есть ошибкаи он передает мне вопросы, заданные другими! Это большая утечка конфиденциальных данных. Я задал вопрос, получил ошибку, и затем кнопка 'Повторить' сгенерировала вопрос, который я бы никогда не задал.
Всегда есть возможность, что защита конфиденциальности работала нормально, и в этом случае искусственный интеллект сгенерировал вопрос, который Брюс никогда не задавал, и на него ответил. Но нет способа проверить. Точно так же нет способа проверить, используются ли наши разговоры для обучения или нет.
Все это глубоко беспокоит. Еще более тревожными являются явные случаи использования искусственного интеллекта для наблюдения, где (физические и цифровые) данные о людях собираются и анализируются в большом масштабе без их согласия. Распознавание лиц уже помогает авторитарным режимам подавлять политическое неприятиена массовую шкалу. И самое беспокоящее из всех - неизбежный последний рубеж сбора и анализа данных ИИ: человеческий разум.
В принципе, технология интерфейса мозг-компьютер имеет невероятную силу, чтобы раскрыть человеческий потенциал. Возьмем историю Noland Arbaugh, Первый пациент Neuralink на прошлый год:
Экспериментальное устройство дало Арбо, теперь 30-летнему, чувство независимости. Раньше для использования палки для рта требовалось, чтобы кто-то поставил его в вертикальное положение. Если он уронил палку для рта, ее нужно было поднять для него. И он не мог использовать ее долго, иначе у него могли появиться язвы. С устройством Neuralink у него почти полный контроль над компьютером. Он может просматривать веб-сайты и играть в компьютерные игры в любое время, и Neuralink говорит, что у него естьустановить человеческий рекорд по управлению курсором с BCI.
Сегодня эти устройства достаточно мощны, чтобы помогать раненым и больным. Завтра они будут настолько мощными, что дадут полностью здоровым людям возможность работать с компьютерами и общаться телепатически друг с другом (!!), на уровне эффективности, который кажется нам невообразимым. Но для того, чтобы интерпретировать сигналы мозга и сделать такое общение возможным, требуется искусственный интеллект.
Существует темное будущее, которое может возникнуть естественным образом как слияние этих тенденций, и мы получаем кремниевых суперагентов, которые всасывают и анализируют информацию о каждом, включая то, как они пишут, действуют и мыслят. Но есть также светлое будущее, где мы получаем преимущества этих технологий, сохраняя при этом нашу конфиденциальность.
Это можно сделать с помощью комбинации нескольких техник:
- Запуск вычислений локально всякий раз, когда это возможно - многие задачи (например, базовый анализ изображений, перевод, транскрипция, базовый анализ мозговой активности для ИКМ) настолько просты, что могут быть выполнены полностью на локальных вычислениях. Действительно, локальные вычисления даже предоставляют преимущества в снижении задержки и улучшении проверяемости. Если что-то можно сделать локально, это должно быть сделано локально. Сюда входят вычисления, в которых различные промежуточные этапы включают доступ в Интернет, вход в учетные записи социальных сетей и т. д.- Использование криптографии для полного обеспечения конфиденциальности удаленных вычислений - полностью гомоморфное шифрование(FHE) можно использовать для выполнения вычислений искусственного интеллекта удаленно, не позволяя удаленному серверу видеть данные или результаты. Исторически FHE был очень дорогим, но (i) недавно его эффективность быстро улучшилась, и (ii) LLMs являются уникально структурированной формой вычислений, и асимптотически почти все это линейные операции, что делает его потенциально очень подходящим для ультра-эффективных реализаций FHE. Вычисления, которые включают частные данные нескольких сторон, могут быть выполнены с использованием вычислений между несколькими сторонами; общий случай двух сторон может быть обработан очень эффективно с использованием техник, подобных искаженные цепи.- Используя аппаратную верификацию для расширения гарантий на физический мир - мы могли бы настаивать на том, что аппаратное обеспечение, способное читать наши мысли (будь то изнутри черепа или снаружи), должно быть открытым и верифицируемым, и использовать техники, подобные IRISдля проверки. Мы также можем сделать это в других областях: например, у нас могут быть видеокамеры, которые доказательно сохраняют и передают видеопоток только в том случае, если местный LLM помечает его как физическое насилие или медицинскую чрезвычайную ситуацию, и удаляют его во всех других случаях, и имеют коммунический случайный контроль с помощью IRIS, чтобы проверить, что камеры реализованы правильно.## Недопустимое будущееВ 2008 году либертарианский философ Дэвид Фридман написал книга под названием Future Imperfect, в которой он привел ряд эскизов о изменениях в обществе, которые могут принести новые технологии, не все из них в его пользу (или нашу пользу).один раздел, он описывает потенциальное будущее, где мы видим сложное взаимодействие между конфиденциальностью и наблюдением, где рост цифровой конфиденциальности компенсирует рост наблюдения в физическом мире:
Нет смысла использовать сильное шифрование для моей электронной почты, если видеокамера сидит на стене и наблюдает за мной. Поэтому обеспечение сильной конфиденциальности в прозрачном обществе требует какого-то способа защиты интерфейса между моим реальным телом и киберпространством... Низкотехнологичное решение - набирать текст под капюшоном. Высокотехнологичное решение - это какое-то соединение между разумом и машиной, которое не проходит через пальцы - или что-либо еще, видимое для внешнего наблюдателя.24
Конфликт между прозрачностью реального пространства и конфиденциальностью киберпространства идет и в другом направлении… Мой карманный компьютер шифрует мое сообщение с вашим открытым ключом и передает его на ваш карманный компьютер, который расшифровывает сообщение и отображает его через ваши очки виртуальной реальности. Чтобы убедиться, что никто не читает текст ваших очков за вашей спиной, изображение доходит до вас не через экран, а с помощью маленького лазера, который пишет его на вашей сетчатке. С некоторой удачей внутреннее пространство вашего глазного яблока все еще является приватным.
Мы могли бы оказаться в мире, где физические действия полностью общедоступны, а информационные транзакции полностью конфиденциальны. У него есть некоторые привлекательные особенности. Частные граждане по-прежнему смогут воспользоваться сильной конфиденциальностью, чтобы найти наемного убийцу, но найм его может стоить им больше, чем они готовы заплатить, поскольку в достаточно прозрачном мире все убийства обнаружены. Каждый наемный убийца выполнит одно поручение, а затем немедленно отправится в тюрьму.
Как насчет взаимодействия между этими технологиями и обработкой данных? С одной стороны, это современная обработка данных делает такую прозрачную общество угрозой - без этого не имеет значения, если вы запишете на видео все, что происходит в мире, поскольку никто никогда не сможет найти конкретные шесть дюймов видеопленки, которые он хотел в миллионах миль, производимых каждый день. С другой стороны, технологии, поддерживающие сильную конфиденциальность, предоставляют возможность восстановления конфиденциальности, даже в мире с современной обработкой данных, сохраняя информацию о ваших транзакциях от доступа к ней кем-либо, кроме вас.
Такой мир может быть лучшим из всех возможных миров: если все пойдет хорошо, мы увидим будущее, где физического насилия будет очень мало, но при этом сохранится наша свобода в онлайне, и будет обеспечено базовое функционирование политических, гражданских, культурных и интеллектуальных процессов в обществе, которые зависят от определенных ограничений общей прозрачности информации для своего нормального функционирования.
Даже если это не идеально, это намного лучше, чем версия, где физическая и цифровая конфиденциальность идут на нет, в конечном итоге включая конфиденциальность наших собственных умов, и к середине 2050-х мы начинаем видеть статьи, утверждающие, что, конечно, нереалистично ожидать думать мысли, которые не подлежат законному перехвату, и ответы на эти статьи, состоящие из ссылок на самый последний инцидент, когда компания по искусственному интеллекту получила эксплойт, который привел к утечке 30 миллионов частных внутренних монологов людей в интернет.
Общество всегда зависело от баланса между конфиденциальностью и прозрачностью. В некоторых случаях я также поддерживаю ограничения конфиденциальности. Чтобы привести пример, полностью оторванный от обычных аргументов, которые люди приводят в этом отношении, я поддерживаю действия правительства США запретить неконкурентные ограничения в контрактах, в первую очередь не из-за их прямого влияния на работников, но потому что они являются способом вынудить компании открывать часть своих неявных знаний для общественности. Вынуждение компаний быть более открытыми, чем бы им хотелось, ограничивает конфиденциальность - но я бы утверждал, что это ограничение в целом благоприятно. Но с макроперспективы самым насущным риском ближайших технологий является то, что конфиденциальность приблизится к историческим минимумам, и это произойдет в крайне дисбалансированном виде, где самые мощные личности и самые мощные нации получат много данных о каждом, а все остальные почти ничего не увидят. Поэтому поддержка конфиденциальности для всех и создание необходимых инструментов с открытым исходным кодом, универсальных, надежных и безопасных является одним из важных вызовов нашего времени.
Disclaimer：- Эта статья перепечатана с [Виталик]. Все авторские права принадлежат оригинальному автору [Виталик]. Если есть возражения против этого перепечатывания, пожалуйста, свяжитесь с Gate Learnкоманды, и они оперативно справятся с этим.
-
Отказ от ответственности: Мнения и взгляды, выраженные в этой статье, являются исключительно мнениями автора и не являются инвестиционными советами.
-
Переводы статьи на другие языки выполняются командой Gate Learn. Если не указано иное, копирование, распространение или плагиат переведенных статей запрещены.
