Гері Генслер попереджає про вплив ШІ на фінансову _s, не торкається криптовалюти

Рейчел Вулфсон

Останнє оновлення:

18 січня 2024 р. 02:58 EST | 4-хвилинне чтиво

Голова SEC Гері Генслер. Джерело: скріншот відео, YouTube / SECSголова Комісії з цінних паперів і бірж (SEC) Гері Генслер раніше попереджав, що штучний інтелект (ШІ) може призвести до наступної фінансової кризи. Генслер ще раз зупинився на цій темі під час віртуального чату біля вогнища, організованого некомерційною правозахисною організацією Public Citizen 17 січня

Генслер детально розповів про те, як штучний інтелект може маніпулювати ринками та інвесторами, застерігаючи від «відмивання ШІ», упередженості алгоритмів тощо. На початку розмови Генслер також уточнив, що теми, які він торкнеться, стосуватимуться лише традиційних фінансових ринків. Це стало очевидним після того, як модератор панелі запитав Генслера, чи «придумав» він термін «відмивання штучного інтелекту», на що Генслер відповів: «Ну, ви сказали «монета», і це день без криптовалют, так що це не те».

Gensler попереджає про шахрайство та маніпуляції зі штучним інтелектом

Потім Генслер пояснив, що «миття штучного інтелекту» стосується інтересу інвесторів або співробітників, які виникають під час заяв про нову технологічну модель. «Якщо емітент збирає гроші від громадськості або просто проводить регулярну щоквартальну декларацію, вона повинна бути правдивою в цих деклараціях», – сказав він. За словами Генслера, SEC виявила, що коли в гру вступають нові технології, емітенти повинні бути правдивими щодо своїх претензій, детально описуючи ризики та те, як ці ризики управляються та пом’якшуються

Голова SEC також зазначив, що оскільки штучний інтелект вбудований у тканину фінансових ринків, повинні бути способи гарантувати, що люди, які стоять за цими моделями, не вводять громадськість в оману. «Шахрайство є шахрайство, і люди збираються використовувати штучний інтелект, щоб підробити публічність, діпфейк чи щось інше. Це все ще суперечить законам, щоб не вводити громадськість в оману в цьому відношенні", - сказав Генслер

Генслер додав, що ШІ винен у фейковому дописі в блозі, який оголосив про його відставку в липні 2023 року. Зовсім недавно офіційний рахунок SEC X був пов’язаний з фейковими новинами, в яких відзначалося схвалення спотового біржового фонду Bitcoin (ETF), який Генслер пояснив зломом, а не ШІ

Обліковий запис Twitter @SECGov було зламано, а також опубліковано несанкціонований твіт. Комісія з цінних паперів і бірж (SEC) не схвалила лістинг і торгівлю спотовими біржовими продуктами біткойнів.

— Гері Генслер (@GaryGensler) Січень 9, 2024

Крім того, Генслер зазначив, що штучний інтелект уможливив нову форму «вузького звернення». За словами Генслера, вузьке мовлення дозволяє націлюватися на конкретних людей на основі даних із підключених пристроїв. Хоча це не повинно дивувати, Генслер попередив, що якщо інтерес робо-радника або брокера-дилера вище інтересу інвестора, виникає конфлікт

Такі проблеми також можуть викликати занепокоєння щодо упередженості алгоритмів. За словами Генслера, штучний інтелект можна використовувати для вибору таких речей, як те, які резюме читати, коли претенденти подають заявки на роботу, або хто може мати право на фінансування, коли справа доходить до покупки будинку. З огляду на це, Генслер зазначив, що дані, які використовуються алгоритмами, можуть відображати упередження суспільства. Він сказав:

«У штучному інтелекті є кілька проблем, пов’язаних із ненаситним прагненням до даних у поєднанні з обчислювальною роботою, яка є багатовимірною. Ця математика ускладнює пояснення остаточних рішень алгоритму. Він може передбачити, у кого краща кредитна історія, або він може передбачити вихід на ринок тим чи іншим способом, і як по-різному оцінювати продукти. Але що, якщо це також пов’язано з расою, статтю чи сексуальною орієнтацією? Це не те, чого ми хочемо, і це навіть не дозволено».

Хоча це є проблемою, Генслер зазначив, що з часом це буде вирішено через те, що люди встановлюють гіперпараметри алгоритмів. Наприклад, Генслер зазначив, що люди повинні взяти на себе відповідальність за розуміння того, чому алгоритми на основі штучного інтелекту працюють певним чином. «Якщо люди не можуть пояснити чому, то які обов’язки ви маєте як група людей, які розгортають модель, щоб зрозуміти вашу модель? Я думаю, що це буде відбуватися через кілька років, і в кінцевому підсумку в суді", - сказав Генслер

Централізований штучний інтелект створює ризик для фінансового сектору в цілому

Беручи до уваги всі обставини, Генслер прокоментував, що, на його думку, штучний інтелект сам по собі є позитивним для суспільства, поряд з ефективністю та доступом, який він може забезпечити на фінансових ринках. Однак Генслер попередив, що одним із найбільших ризиків, що насуваються, які слід враховувати при використанні штучного інтелекту, є централізація. «Річ у тім, що штучний інтелект має схожу економіку мереж, тому він буде тяжіти до централізації. Я вважаю, що це неминуче, що ми матимемо на пальцях однієї руки великі моделі та агрегатори даних", - сказав він

В результаті того, що в гру вступає дуже мало великих базових моделей і агрегаторів даних, Генслер вважає, що «монокультура», швидше за все, виникне. Це може означати, що сотні або тисячі фінансових суб’єктів можуть покладатися на централізовані дані або центральну модель штучного інтелекту. Генслер також зазначив, що фінансові регулятори не мають нагляду за центральними вузлами. Він сказав:

«Весь фінансовий сектор опосередковано буде покладатися на ці центральні вузли, і якщо ці вузли помиляються, монокультура піде в один бік. Це створює ризик для суспільства та фінансового сектору в цілому».

Генслер додав, що він продовжуватиме підвищувати обізнаність серед своїх міжнародних колег про проблеми, пов’язані зі штучним інтелектом, і про те, як вони, ймовірно, матимуть вплив на традиційні фінансові послуги. «Обізнаність зростає, але я дотримуватимуся нашої смуги законодавства про фінансові послуги та цінні папери», – сказав він.