Gary Gensler cảnh báo về tác động của AI đối với _s tài chính, không chạm vào tiền điện tử

Rachel Wolfson

Cập nhật lần cuối:

Tháng một 18, 2024 02: 58 EST | 4 phút đọc

Chủ tịch SEC Gary Gensler. Nguồn: Ảnh chụp màn hình video, Chủ tịch Ủy ban Chứng khoán và Giao dịch (SEC) Gary Gensler trước đó đã cảnh báo rằng trí tuệ nhân tạo (AI) có thể dẫn đến cuộc khủng hoảng tài chính tiếp theo. Gensler một lần nữa giải thích chi tiết về chủ đề này trong một cuộc trò chuyện bên lò sưởi ảo do tổ chức vận động phi lợi nhuận Public Citizen tổ chức vào ngày 17 tháng Giêng

Gensler đã nói sâu về cách AI có thể thao túng thị trường và nhà đầu tư, cảnh báo chống lại “rửa AI”, thiên vị thuật toán và hơn thế nữa. Khi cuộc trò chuyện bắt đầu, Gensler cũng làm rõ rằng các chủ đề mà ông sẽ đề cập sẽ chỉ liên quan đến thị trường tài chính truyền thống. Điều này được thể hiện rõ sau khi người điều hành bảng điều khiển hỏi Gensler liệu anh ta có “đặt ra” thuật ngữ rửa AI hay không, Gensler trả lời, “Chà, bạn đã nói ‘coin’ và đây là một ngày không có tiền điện tử, vì vậy không phải vậy.”

**Gensler cảnh báo về gian lận và thao túng AI **

Gensler sau đó tiếp tục giải thích rằng rửa AI đề cập đến lợi ích của nhà đầu tư hoặc nhân viên xảy ra khi đưa ra tuyên bố về một mô hình công nghệ mới. “Nếu một tổ chức phát hành đang huy động tiền từ công chúng hoặc chỉ nộp hồ sơ hàng quý thông thường, nó phải trung thực trong các hồ sơ đó”, ông nói. Theo Gensler, SEC đã phát hiện ra rằng khi các công nghệ mới đi vào hoạt động, các tổ chức phát hành phải trung thực về các tuyên bố của họ, nêu chi tiết rủi ro và cách những rủi ro đó đang được quản lý và giảm thiểu

Chủ tịch SEC cũng lưu ý rằng vì AI được tích hợp vào kết cấu của thị trường tài chính, nên cần phải có những cách để đảm bảo rằng con người đằng sau các mô hình này không gây hiểu lầm cho công chúng. “Gian lận là gian lận và mọi người sẽ sử dụng AI để giả mạo công chúng, giả mạo sâu sắc hoặc cách khác. Vẫn là trái pháp luật khi không đánh lừa công chúng về vấn đề này”, Gensler nói

Gensler nói thêm rằng AI là nguyên nhân gây ra một bài đăng trên blog giả mạo tuyên bố từ chức vào tháng 7/2023. Gần đây nhất, tài khoản X chính thức của SEC có liên quan đến tin tức giả mạo ghi nhận sự chấp thuận của một quỹ giao dịch trao đổi Bitcoin (ETF) giao ngay, mà Gensler cho là do hack chứ không phải AI

Tài khoản twitter @SECGov đã bị xâm phạm và một tweet trái phép đã được đăng. SEC đã không chấp thuận việc niêm yết và giao dịch các sản phẩm giao dịch trao đổi bitcoin giao ngay.

• Gary Gensler (@GaryGensler) Tháng Một 9, 2024

Ngoài ra, Gensler đã đề cập rằng AI đã cho phép một hình thức “thu hẹp” mới. Theo Gensler, thu hẹp cho phép các cá nhân hỗ trợ AI nhắm mục tiêu vào các cá nhân cụ thể dựa trên dữ liệu từ các thiết bị được kết nối. Mặc dù điều này không có gì đáng ngạc nhiên, Gensler cảnh báo rằng nếu một cố vấn robo hoặc đại lý môi giới đặt lợi ích của đại lý robo lên trên lợi ích của nhà đầu tư, một cuộc xung đột sẽ nảy sinh

Những vấn đề như vậy cũng có thể dẫn đến những lo ngại xung quanh sự thiên vị thuật toán. Theo Gensler, AI có thể được sử dụng để chọn những thứ như sơ yếu lý lịch nào sẽ đọc khi ứng viên nộp đơn xin việc hoặc ai có thể đủ điều kiện tài chính khi mua nhà. Điều này trong tâm trí, Gensler chỉ ra rằng dữ liệu được sử dụng bởi các thuật toán có thể phản ánh thành kiến xã hội. Ông nói:

“Có một vài thách thức được nhúng trong AI vì mong muốn vô độ đối với dữ liệu, cùng với công việc tính toán, đa chiều. Toán học đằng sau nó gây khó khăn cho việc giải thích các quyết định cuối cùng của thuật toán. Nó có thể dự đoán ai có tín dụng tốt hơn, hoặc nó có thể dự đoán thị trường theo cách này hay cách khác, và làm thế nào để định giá sản phẩm khác nhau. Nhưng nếu điều đó cũng liên quan đến chủng tộc, giới tính hoặc khuynh hướng tình dục của một người thì sao? Đây không phải là những gì chúng tôi muốn, và nó thậm chí không được phép.”

Trong khi điều này đưa ra một thách thức, Gensler chỉ ra rằng điều này sẽ được giải quyết theo thời gian do thực tế là con người đang thiết lập các siêu tham số đằng sau các thuật toán. Chẳng hạn, Gensler lưu ý rằng các cá nhân phải chịu trách nhiệm hiểu tại sao các thuật toán dựa trên AI hoạt động theo những cách nhất định. “Nếu con người không thể giải thích tại sao, thì bạn có trách nhiệm gì với tư cách là một nhóm người triển khai mô hình để hiểu mô hình của bạn? Tôi nghĩ điều này sẽ diễn ra trong một số năm, và cuối cùng là ra tòa”, Gensler nói

**AI tập trung gây rủi ro cho lĩnh vực tài chính nói chung **

Tất cả những điều được xem xét, Gensler nhận xét rằng ông nghĩ rằng bản thân AI là tích cực cho xã hội, cùng với hiệu quả và khả năng tiếp cận mà nó có thể cung cấp trên thị trường tài chính. Tuy nhiên, Gensler cảnh báo rằng một trong những rủi ro lớn nhất cần xem xét với AI là tập trung. “Vấn đề về AI là mọi thứ về nó đều có tính kinh tế tương tự của các mạng, do đó nó sẽ có xu hướng tập trung. Tôi tin rằng không thể tránh khỏi việc chúng ta sẽ đo lường trên đầu ngón tay, các mô hình dựa trên lớn và các nhà tổng hợp dữ liệu”, ông nói

Do có rất ít mô hình dựa trên lớn và các nhà tổng hợp dữ liệu đi vào hoạt động, Gensler tin rằng một “độc canh” có thể sẽ xảy ra. Điều này có thể có nghĩa là hàng trăm hoặc hàng ngàn tác nhân tài chính có thể dựa vào dữ liệu trung tâm hoặc mô hình AI trung tâm. Gensler chỉ ra thêm rằng các cơ quan quản lý tài chính không có sự giám sát đối với các nút trung tâm. Ông nói:

“Toàn bộ khu vực tài chính gián tiếp sẽ dựa vào các nút trung tâm đó và nếu các nút đó sai, độc canh sẽ đi một chiều. Điều này đặt ra rủi ro trong xã hội và khu vực tài chính nói chung”.

Gensler nói thêm rằng ông sẽ tiếp tục nâng cao nhận thức của các đồng nghiệp quốc tế về những thách thức xung quanh AI và tác động của chúng đối với tài chính truyền thống. “Nhận thức đang tăng lên, nhưng tôi sẽ tuân thủ làn đường dịch vụ tài chính và luật chứng khoán của chúng tôi”, ông nói.