Гэри Генслер предупреждает о влиянии ИИ на финансовую _s, не затрагивая криптовалюту

Рэйчел Вольфсон

Обновлено:

18 января 2024 02:58 EST | 4 мин. чтения

Председатель Комиссии по ценным бумагам и биржам США (SEC) Гэри Генслер. Источник: скриншот видео, YouTube / SECСекурии и биржи Председатель Комиссии по ценным бумагам и биржам (SEC) Гэри Генслер ранее предупредил, что искусственный интеллект (ИИ) может привести к следующему финансовому кризису. Генслер еще раз затронул эту тему во время виртуальной беседы, организованной некоммерческой правозащитной организацией Public Citizen 17 января

Генслер подробно рассказал о том, как ИИ может манипулировать рынками и инвесторами, предостерегая от «отмывания ИИ», предвзятости алгоритмов и многого другого. В начале беседы Генслер также уточнил, что темы, которые он будет обсуждать, будут касаться только традиционных финансовых рынков. Это стало очевидно после того, как модератор дискуссии спросил Генслера, «придумал» ли он термин «отмывание ИИ», на что Генслер ответил: «Ну, вы сказали «монета», и это день без криптовалюты, так что это не то».

Генслер предупреждает о мошенничестве и манипуляциях с ИИ

Затем Генслер объяснил, что «мойка» ИИ относится к интересу инвесторов или сотрудников, возникающему при подаче заявлений о новой технологической модели. «Если эмитент привлекает деньги от населения или просто делает свою обычную ежеквартальную отчетность, он должен быть правдивым в этих отчетах», — сказал он. По словам Генслера, SEC обнаружила, что, когда в игру вступают новые технологии, эмитенты должны быть правдивыми в своих заявлениях, подробно описывая риск и то, как эти риски управляются и снижаются

Председатель SEC также отметил, что, поскольку ИИ встроен в ткань финансовых рынков, должны быть способы гарантировать, что люди, стоящие за этими моделями, не вводят общественность в заблуждение. «Мошенничество есть мошенничество, и люди будут использовать ИИ, чтобы обмануть публику, дипфейк или что-то еще. По-прежнему запрещено вводить общественность в заблуждение в этом отношении", - сказал Генслер

Генслер добавил, что ИИ виноват в фейковом посте в блоге, в котором он объявил о своей отставке в июле 2023 года. Совсем недавно официальный аккаунт SEC X был связан с фейковыми новостями, в которых говорилось об одобрении спотового биржевого фонда биткоина (ETF), которое Генслер приписал взлому, а не искусственному интеллекту

Учетная запись @SECGov Twitter была скомпрометирована, и был опубликован несанкционированный твит. Комиссия по ценным бумагам и биржам США (SEC) не одобрила листинг и торговлю спотовыми биржевыми продуктами биткоина.

• Гэри Генслер (@GaryGensler) 9 января 2024

Кроме того, Генслер отметил, что ИИ сделал возможной новую форму «узкого вещания». По словам Генслера, узкая трансляция позволяет использовать искусственный интеллект для таргетирования конкретных людей на основе данных с подключенных устройств. Хотя это не должно вызывать удивления, Генслер предупредил, что если робо-консультант или брокер-дилер ставят интересы выше интересов инвесторов, возникает конфликт

Такие проблемы также могут привести к опасениям по поводу предвзятости алгоритма. По словам Генслера, ИИ можно использовать для выбора таких вещей, как резюме для чтения, когда соискатели подают заявление о приеме на работу, или кто может иметь право на финансирование, когда дело доходит до покупки дома. Имея это в виду, Генслер отметил, что данные, используемые алгоритмами, могут отражать предубеждения общества. Он сказал:

«Есть несколько проблем, связанных с искусственным интеллектом, из-за ненасытного стремления к данным в сочетании с вычислительной работой, которая является многомерной. Эта математика, лежащая в его основе, затрудняет объяснение окончательных решений алгоритма. Он может предсказать, у кого лучшая кредитная история, или он может предсказать рынок тем или иным способом, и как по-разному оценивать продукты. Но что, если это также связано с расой, полом или сексуальной ориентацией? Это не то, чего мы хотим, и это даже не разрешено».

Несмотря на то, что это представляет собой проблему, Генслер отметил, что со временем эта проблема будет решена из-за того, что люди устанавливают гиперпараметры алгоритмов. Например, Генслер отметил, что люди должны взять на себя ответственность за понимание того, почему алгоритмы на основе искусственного интеллекта работают определенным образом. «Если люди не могут объяснить, почему, то какие обязанности вы несете как группа людей, развертывающих модель, чтобы понять вашу модель? Я думаю, что это произойдет через несколько лет и, в конечном счете, в суде", - сказал Генслер

Централизованный ИИ представляет риск для финансового сектора в целом

Учитывая все обстоятельства, Генслер отметил, что, по его мнению, ИИ сам по себе является положительным для общества, наряду с эффективностью и доступностью, которую он может обеспечить на финансовых рынках. Тем не менее, Генслер предупредил, что одним из самых больших рисков, которые следует учитывать при использовании ИИ, является централизация. «Дело в том, что все в ИИ имеет схожую экономику сетей, так что он будет стремиться к централизации. Я считаю, что неизбежно, что мы будем измерять на пальцах одной руки большие модели и агрегаторы данных», — сказал он

Генслер считает, что в результате того, что в игру вступает очень мало крупных моделей и агрегаторов данных, скорее всего, возникнет «монокультура». Это может означать, что сотни или тысячи финансовых субъектов могут полагаться на централизованные данные или централизованную модель искусственного интеллекта. Генслер также отметил, что финансовые регуляторы не осуществляют надзор за центральными узлами. Он сказал:

«Весь финансовый сектор косвенно будет полагаться на эти центральные узлы, и если эти узлы ошибаются, монокультура пойдет в одном направлении. Это создает риски как для общества, так и для финансового сектора в целом».

Генслер добавил, что он продолжит повышать осведомленность своих международных коллег о проблемах, связанных с искусственным интеллектом, и о влиянии, которое они, вероятно, окажут на традиционные финансовые системы. «Осведомленность растет, но я буду придерживаться нашей линии законодательства о финансовых услугах и ценных бумагах», — сказал он.