AI ở châu Âu: AI Act có thể mang ý nghĩa gì

Ảnh: Maico Amorim trên Unsplash

Đạo luật AI Act vẫn chỉ là một bản dự thảo, nhưng các nhà đầu tư và chủ doanh nghiệp ở Liên minh châu Âu đã bắt đầu lo lắng trước những kết quả có thể xảy ra.

Liệu nó có ngăn Liên minh châu Âu trở thành một đối thủ cạnh tranh có giá trị trong không gian toàn cầu hay không?

Theo các cơ quan quản lý, không phải vậy. Nhưng hãy xem điều gì đang diễn ra.

Đạo luật AI Act và đánh giá rủi ro

Đạo luật AI Act chia các rủi ro do trí tuệ nhân tạo gây ra thành nhiều nhóm rủi ro khác nhau, nhưng trước khi làm điều đó, họ thu hẹp định nghĩa về trí tuệ nhân tạo để chỉ bao gồm các hệ thống dựa trên học máy và logic.

Việc này không chỉ nhằm mục đích phân biệt các hệ thống AI với những phần mềm đơn giản hơn, mà còn giúp chúng ta hiểu vì sao EU muốn phân loại rủi ro.

Các cách sử dụng AI khác nhau được chia thành rủi ro không thể chấp nhận, rủi ro cao, và
rủi ro thấp hoặc tối thiểu. Các hoạt động thuộc nhóm rủi ro không thể chấp nhận được coi là bị cấm.

Những hoạt động này bao gồm:

*   Các hoạt động sử dụng các kỹ thuật vượt ra ngoài nhận thức của một người, 
*   Các hoạt động muốn khai thác những phần dễ bị tổn thương trong dân số, 
*   Các hệ thống dựa trên AI được triển khai để phân loại người theo đặc điểm hoặc hành vi cá nhân,
*   Các hệ thống dựa trên AI sử dụng nhận dạng sinh trắc học ở không gian công cộng. 

Có một số trường hợp sử dụng, cần được coi là tương tự với một số hoạt động nằm trong nhóm bị cấm, nhưng lại rơi vào nhóm “rủi ro cao” trong thực hành.

Những trường hợp này bao gồm các hệ thống được sử dụng để tuyển dụng nhân sự hoặc đánh giá, phân tích mức độ tín nhiệm tín dụng của cá nhân (và điều này có thể nguy hiểm đối với fintech). Trong các trường hợp này, mọi doanh nghiệp tạo ra hoặc sử dụng loại hệ thống này cần phải tạo ra các báo cáo chi tiết để giải thích cách hệ thống hoạt động và các biện pháp được thực hiện nhằm tránh rủi ro cho con người, đồng thời minh bạch nhất có thể.

Mọi thứ có vẻ rõ ràng và đúng, nhưng vẫn có một số vấn đề mà cơ quan quản lý cần xử lý.

Đạo luật quá chung chung

Một trong những điểm khiến nhiều chủ doanh nghiệp và nhà đầu tư lo lắng nhất là việc thiếu sự chú ý đến các lĩnh vực AI cụ thể.

Ví dụ, những công ty sản xuất và sử dụng các hệ thống AI cho mục đích chung có thể bị coi là các công ty sử dụng trí tuệ nhân tạo cho các trường hợp sử dụng rủi ro cao.

Điều này có nghĩa là họ phải tạo ra các báo cáo chi tiết, tốn thời gian và tiền bạc. Vì các doanh nghiệp vừa và nhỏ không có ngoại lệ, và vì chúng chiếm phần lớn trong nền kinh tế châu Âu, nên theo thời gian họ có thể trở nên kém cạnh tranh hơn.

Và chính sự khác biệt giữa các công ty AI của Mỹ và châu Âu mới là điều làm dấy lên lo ngại lớn: thực tế, châu Âu không có các công ty AI lớn như Mỹ, bởi môi trường AI ở châu Âu chủ yếu được tạo ra bởi các doanh nghiệp vừa và nhỏ và các startup.

Theo một cuộc khảo sát do appliedAI thực hiện, phần lớn các nhà đầu tư sẽ tránh đầu tư vào các startup được gắn nhãn “rủi ro cao”, chính vì sự phức tạp liên quan đến cách phân loại này.

ChatGPT làm thay đổi kế hoạch của EU

Các cơ quan quản lý của EU lẽ ra đã nên đóng tài liệu vào ngày 19 tháng 4, nhưng cuộc thảo luận liên quan đến các định nghĩa khác nhau về các hệ thống dựa trên AI và các trường hợp sử dụng của chúng đã làm chậm tiến độ chuyển giao bản dự thảo cuối cùng.

Hơn nữa, các công ty công nghệ cho thấy không phải tất cả đều đồng ý với phiên bản hiện tại của tài liệu.

Điểm gây ra nhiều sự chậm trễ nhất là sự phân biệt giữa mô hình nền tảng và AI cho mục đích chung.

Một ví dụ về mô hình AI nền tảng là ChatGPT của OpenAI: các hệ thống này được huấn luyện bằng lượng lớn dữ liệu và có thể tạo ra mọi loại đầu ra.

AI cho mục đích chung bao gồm các hệ thống có thể được điều chỉnh cho nhiều trường hợp sử dụng và các lĩnh vực khác nhau.

Các cơ quan quản lý của EU muốn siết chặt quy định đối với các mô hình nền tảng, vì chúng có thể tiềm ẩn nhiều rủi ro hơn và tác động tiêu cực đến cuộc sống của người dân.

Cách Mỹ và Trung Quốc đang quản lý AI

Nếu nhìn vào việc các cơ quan quản lý của EU đang đối xử với AI, sẽ có một điểm nổi bật: có vẻ các cơ quan quản lý kém sẵn sàng hợp tác hơn.

Ở Mỹ chẳng hạn, chính quyền Biden đã tìm kiếm ý kiến đóng góp của công chúng về sự an toàn của các hệ thống như ChatGPT, trước khi thiết kế một khung pháp lý có thể áp dụng.

Ở Trung Quốc, chính phủ đã quản lý AI và thu thập dữ liệu trong nhiều năm, và mối quan ngại chính vẫn là ổn định xã hội.

Cho đến nay, quốc gia có vẻ được định vị tốt cho việc quản lý AI là Vương quốc Anh, với cách tiếp cận “nhẹ” hơn - nhưng không phải là bí mật khi Vương quốc Anh muốn trở thành đầu tàu trong việc áp dụng AI và fintech.

Fintech và AI Act

Khi nói đến các công ty và startup cung cấp dịch vụ tài chính, tình hình còn phức tạp hơn.

Thực tế, nếu Đạo luật vẫn được giữ như phiên bản hiện tại, các công ty fintech sẽ không chỉ cần gắn với các quy định tài chính hiện hành, mà còn phải tuân theo khung pháp lý mới này.

Việc đánh giá mức độ tín nhiệm tín dụng có thể bị gắn nhãn là một trường hợp sử dụng rủi ro cao chỉ là một ví dụ về gánh nặng mà các công ty fintech phải gánh chịu, khiến họ không thể linh hoạt như trước đây để thu hút đầu tư và cạnh tranh.

Kết luận

Như Peter Sarlin, CEO của Silo AI, đã chỉ ra, vấn đề không phải là quy định, mà là quy định kém.

Việc quá chung chung có thể gây hại cho đổi mới sáng tạo và cho tất cả các công ty liên quan đến việc sản xuất, phân phối và sử dụng các sản phẩm, dịch vụ dựa trên AI.

Nếu các nhà đầu tư ở EU lo ngại về các rủi ro tiềm ẩn mà một nhãn mác cho thấy startup hoặc công ty rơi vào nhóm “rủi ro cao” có thể mang lại, thì môi trường AI ở Liên minh châu Âu có thể bị ảnh hưởng tiêu cực, trong khi Mỹ đang tìm kiếm ý kiến công chúng để cải thiện công nghệ của mình và Trung Quốc đã có quan điểm rõ ràng về cách quản lý trí tuệ nhân tạo.

Theo Robin Röhm, đồng sáng lập Apheris, một trong những kịch bản khả dĩ là các startup sẽ chuyển sang Mỹ - một quốc gia có thể còn nhiều thứ để mất khi nói đến blockchain và tiền mã hóa, nhưng lại có thể giành chiến thắng trong cuộc đua AI.

Nếu bạn muốn tìm hiểu thêm về fintech và khám phá tin tức fintech, các sự kiện cũng như quan điểm, hãy đăng ký FTW Newsletter!