Gary Gensler Memperingatkan tentang Dampak AI terhadap _s Keuangan, Tidak Menyentuh Cryptocurrency

Rachel Wolfson

Terakhir diperbarui:

18 Januari 2024, 02:58 WIB | Bacaan 4 menit

Ketua SEC Gary Gensler. Sumber: Tangkapan layar video, YouTube / SECSecurities and Exchange Commission (SEC) Ketua Gary Gensler sebelumnya telah memperingatkan bahwa kecerdasan buatan (AI) dapat menyebabkan krisis keuangan berikutnya. Gensler sekali lagi menguraikan topik ini selama obrolan api unggun virtual yang diselenggarakan oleh organisasi advokasi nirlaba Public Citizen pada 17 Januari

Gensler berbicara secara mendalam tentang bagaimana AI dapat memanipulasi pasar dan investor, memperingatkan terhadap “pencucian AI,” bias algoritma, dan banyak lagi. Ketika percakapan dimulai, Gensler juga mengklarifikasi bahwa topik yang akan dia bahas hanya akan berkaitan dengan pasar keuangan tradisional. Ini terbukti setelah moderator panel bertanya kepada Gensler apakah dia “menciptakan” istilah pencucian AI, yang ditanggapi Gensler, “Yah, Anda mengatakan ‘koin’ dan ini adalah hari bebas kripto, jadi bukan itu.”

Gensler memperingatkan tentang penipuan dan manipulasi AI

Gensler kemudian melanjutkan untuk menjelaskan bahwa pencucian AI mengacu pada minat investor atau karyawan yang terjadi ketika membuat klaim tentang model teknologi baru. “Jika penerbit mengumpulkan uang dari publik atau hanya melakukan pengarsipan triwulanan reguler, itu seharusnya jujur dalam pengajuan tersebut,” katanya. Menurut Gensler, SEC telah menemukan bahwa ketika teknologi baru mulai berlaku, emiten harus jujur tentang klaim mereka, merinci risiko dan bagaimana risiko tersebut dikelola dan dikurangi

Ketua SEC juga mencatat bahwa karena AI dibangun ke dalam struktur pasar keuangan, perlu ada cara untuk memastikan bahwa manusia di balik model ini tidak menyesatkan publik. “Penipuan adalah penipuan, dan orang-orang akan menggunakan AI untuk memalsukan publik, deep fake, atau sebaliknya. Masih melanggar hukum untuk tidak menyesatkan publik dalam hal ini,” kata Gensler

Gensler menambahkan bahwa AI harus disalahkan atas posting blog palsu yang mengumumkan pengunduran dirinya pada Juli 2023. Baru-baru ini, akun X resmi SEC dikaitkan dengan berita palsu yang mencatat persetujuan dana yang diperdagangkan di bursa Bitcoin spot (ETF), yang dikaitkan Gensler dengan peretasan daripada AI

Akun twitter @SECGov disusupi, dan tweet yang tidak sah telah diposting. SEC belum menyetujui pencatatan dan perdagangan produk yang diperdagangkan di bursa bitcoin spot.

— Gary Gensler (@GaryGensler) 9 Januari 2024

Selain itu, Gensler menyebutkan bahwa AI telah memungkinkan bentuk baru “narrowcasting.” Menurut Gensler, narrowcasting memungkinkan AI untuk menargetkan individu tertentu berdasarkan data dari perangkat yang terhubung. Meskipun ini seharusnya tidak mengejutkan, Gensler memperingatkan bahwa jika seorang menempatkan penasihat robo atau kepentingan dealer broker di atas minat investor, konflik muncul

Masalah semacam itu juga dapat menyebabkan kekhawatiran seputar bias algoritma. Menurut Gensler, AI dapat digunakan untuk memilih hal-hal seperti resume mana yang akan dibaca ketika pelamar melamar pekerjaan, atau siapa yang mungkin memenuhi syarat untuk pembiayaan ketika datang untuk membeli rumah. Dalam pikiran ini, Gensler menunjukkan bahwa data yang digunakan oleh algoritma dapat mencerminkan bias masyarakat. Katanya:

“Ada beberapa tantangan yang tertanam dalam AI karena keinginan yang tak terpuaskan untuk data, ditambah dengan pekerjaan komputasi, yang multidimensi. Matematika di baliknya membuat sulit untuk menjelaskan keputusan akhir algoritma. Ini dapat memprediksi siapa yang memiliki kredit lebih baik, atau mungkin memprediksi ke pasar dengan satu atau lain cara, dan bagaimana memberi harga produk secara berbeda. Tetapi bagaimana jika itu juga terkait dengan ras, jenis kelamin, atau orientasi seksual seseorang? Ini bukan yang kami inginkan, dan itu bahkan tidak diperbolehkan.”

Meskipun ini menghadirkan tantangan, Gensler menunjukkan bahwa ini akan diselesaikan dari waktu ke waktu karena fakta bahwa manusia menetapkan hyperparameter di balik algoritma. Misalnya, Gensler mencatat bahwa individu harus mengambil tanggung jawab untuk memahami mengapa algoritma berbasis AI bekerja dengan cara tertentu. “Jika manusia tidak dapat menjelaskan mengapa, lalu tanggung jawab apa yang Anda miliki sebagai sekelompok orang yang menyebarkan model untuk memahami model Anda? Saya pikir ini akan dimainkan dalam beberapa tahun, dan akhirnya ke pengadilan,” kata Gensler

AI Terpusat menimbulkan risiko bagi sektor keuangan pada umumnya

Semua hal dipertimbangkan, Gensler berkomentar bahwa menurutnya AI itu sendiri positif bagi masyarakat, bersama dengan efisiensi dan akses yang dapat diberikannya di pasar keuangan. Namun, Gensler memperingatkan bahwa salah satu risiko terbesar yang perlu dipertimbangkan dengan AI adalah sentralisasi. “Hal tentang AI adalah bahwa segala sesuatu tentangnya memiliki ekonomi jaringan yang serupa, sehingga akan cenderung ke arah sentralisasi. Saya percaya tidak dapat dihindari bahwa kita akan mengukur dengan jari satu tangan, model berbasis besar dan agregator data,” katanya

Sebagai hasil dari sangat sedikit model berbasis besar dan agregator data yang ikut bermain, Gensler percaya bahwa “monokultur” kemungkinan akan terjadi. Ini bisa berarti bahwa ratusan atau ribuan pelaku keuangan dapat mengandalkan data pusat atau model AI pusat. Gensler lebih lanjut menunjukkan bahwa regulator keuangan tidak memiliki pengawasan terhadap node pusat. Katanya:

“Seluruh sektor keuangan secara tidak langsung akan bergantung pada simpul-simpul pusat itu, dan jika simpul-simpul itu salah, monokultur berjalan satu arah. Ini menempatkan risiko di masyarakat dan di sektor keuangan pada umumnya.”

Gensler menambahkan bahwa ia akan terus meningkatkan kesadaran di antara rekan-rekan internasionalnya tentang tantangan seputar AI dan dampaknya terhadap keuangan tradisional. “Kesadaran meningkat, tetapi saya akan tetap berpegang pada jalur layanan keuangan dan hukum sekuritas kami,” katanya.