AI di Eropa: Apa yang Mungkin Dimaksudkan oleh Undang-Undang AI

Foto oleh Maico Amorim di Unsplash

Undang-Undang AI masih berupa draf, tetapi investor dan pemilik bisnis di Uni Eropa sudah merasa cemas tentang kemungkinan hasilnya.

Apakah itu akan mencegah Uni Eropa menjadi pesaing yang berharga di ruang global?

Menurut regulator, itu tidak terjadi. Tapi mari kita lihat apa yang sedang terjadi.

Undang-Undang AI dan Penilaian Risiko

Undang-Undang AI membagi risiko yang ditimbulkan oleh kecerdasan buatan ke dalam berbagai kategori risiko, tetapi sebelum melakukan itu, ia mempersempit definisi kecerdasan buatan untuk hanya mencakup sistem yang didasarkan pada pembelajaran mesin dan logika.

Ini tidak hanya berfungsi untuk membedakan sistem AI dari perangkat lunak yang lebih sederhana, tetapi juga membantu kita memahami mengapa UE ingin mengkategorikan risiko.

Penggunaan AI yang berbeda dikategorikan menjadi risiko yang tidak dapat diterima, risiko tinggi, dan
risiko rendah atau minimal. Praktik yang termasuk dalam kategori risiko yang tidak dapat diterima dianggap sebagai dilarang.

Jenis praktik ini mencakup:

* Praktik yang melibatkan teknik yang bekerja di luar kesadaran seseorang,  
* Praktik yang ingin mengeksploitasi bagian yang rentan dari populasi,  
* Sistem berbasis AI yang diterapkan untuk mengklasifikasikan orang menurut karakteristik atau perilaku pribadi,
* Sistem berbasis AI yang menggunakan identifikasi biometrik di ruang publik.

Ada beberapa kasus penggunaan, yang harus dianggap mirip dengan beberapa praktik yang termasuk dalam aktivitas terlarang, yang jatuh di bawah kategori praktik “berisiko tinggi”.

Ini termasuk sistem yang digunakan untuk merekrut pekerja atau untuk menilai dan menganalisis kelayakan kredit orang (dan ini mungkin berbahaya bagi fintech). Dalam kasus ini, semua bisnis yang membuat atau menggunakan jenis sistem ini harus menghasilkan laporan terperinci untuk menjelaskan bagaimana sistem itu bekerja dan langkah-langkah yang diambil untuk menghindari risiko bagi orang dan agar setransparan mungkin.

Semua tampak jelas dan benar, tetapi ada beberapa masalah yang harus ditangani oleh regulator.

Undang-Undang Terlihat Terlalu Umum

Salah satu aspek yang paling mengkhawatirkan pemilik bisnis dan investor adalah kurangnya perhatian terhadap sektor AI yang spesifik.

Misalnya, perusahaan-perusahaan yang memproduksi dan menggunakan sistem berbasis AI untuk tujuan umum dapat dianggap sebagai mereka yang menggunakan kecerdasan buatan untuk kasus penggunaan berisiko tinggi.

Ini berarti bahwa mereka harus menghasilkan laporan terperinci yang memakan waktu dan biaya. Karena UKM tidak membuat pengecualian, dan karena mereka membentuk bagian terbesar dari ekonomi Eropa, mereka bisa menjadi kurang kompetitif seiring waktu.

Dan justru perbedaan antara perusahaan AI AS dan Eropa yang menimbulkan kekhawatiran besar: faktanya, Eropa tidak memiliki perusahaan AI besar seperti AS, karena lingkungan AI di Eropa sebagian besar dibentuk oleh UKM dan startup.

Menurut survei yang dilakukan oleh appliedAI, mayoritas besar investor akan menghindari berinvestasi di startup yang dilabeli sebagai “berisiko tinggi”, tepat karena kompleksitas yang terlibat dalam klasifikasi ini.

ChatGPT Mengubah Rencana UE

Regulator UE seharusnya telah menutup dokumen pada 19 April, tetapi diskusi terkait berbagai definisi sistem berbasis AI dan kasus penggunaannya menunda pengiriman draf akhir.

Selain itu, perusahaan teknologi menunjukkan bahwa tidak semua dari mereka setuju dengan versi dokumen saat ini.

Titik yang paling menyebabkan penundaan adalah perbedaan antara model dasar dan AI tujuan umum.

Contoh model dasar AI adalah ChatGPT dari OpenAI: sistem-sistem ini dilatih menggunakan sejumlah besar data dan dapat menghasilkan segala jenis keluaran.

AI tujuan umum mencakup sistem-sistem yang dapat disesuaikan dengan berbagai kasus penggunaan dan sektor.

Regulator UE ingin mengatur model dasar secara ketat, karena mereka dapat menimbulkan lebih banyak risiko dan berdampak negatif pada kehidupan masyarakat.

Bagaimana AS dan Cina Mengatur AI

Jika kita melihat bagaimana regulator UE memperlakukan AI ada sesuatu yang menonjol: sepertinya regulator kurang bersedia untuk bekerja sama.

Di AS, misalnya, pemerintahan Biden mencari komentar publik tentang keamanan sistem seperti ChatGPT, sebelum merancang kerangka regulasi yang mungkin.

Di Cina, pemerintah telah mengatur AI dan pengumpulan data selama bertahun-tahun, dan perhatian utamanya tetap pada stabilitas sosial.

Sampai saat ini, negara yang tampaknya berada dalam posisi baik dalam regulasi AI adalah Inggris, yang lebih memilih pendekatan “ringan” - tetapi bukan rahasia bahwa Inggris ingin menjadi pemimpin dalam adopsi AI dan fintech.

Fintech dan Undang-Undang AI

Ketika datang ke perusahaan dan startup yang menyediakan layanan keuangan, situasinya bahkan lebih rumit.

Faktanya, jika Undang-Undang tetap seperti versi saat ini, fintech tidak hanya perlu terikat dengan regulasi keuangan yang ada, tetapi juga dengan kerangka regulasi baru ini.

Fakta bahwa penilaian kelayakan kredit dapat dilabeli sebagai kasus penggunaan berisiko tinggi hanyalah contoh dari beban yang harus ditanggung perusahaan fintech, mencegah mereka untuk fleksibel seperti sebelumnya, untuk mengumpulkan investasi dan tetap kompetitif.

Kesimpulan

Seperti yang disampaikan oleh Peter Sarlin, CEO Silo AI, masalahnya bukanlah regulasi, tetapi regulasi yang buruk.

Terlalu umum dapat merugikan inovasi dan semua perusahaan yang terlibat dalam produksi, distribusi, dan penggunaan produk dan layanan berbasis AI.

Jika investor UE akan khawatir tentang risiko potensial yang ditimbulkan oleh label yang mengatakan bahwa sebuah startup atau perusahaan jatuh ke dalam kategori “berisiko tinggi”, lingkungan AI di Uni Eropa dapat terpengaruh secara negatif, sementara AS mencari komentar publik untuk meningkatkan teknologinya dan Cina sudah memiliki pendapat yang jelas tentang bagaimana mengatur kecerdasan buatan.

Menurut Robin Röhm, salah satu pendiri Apheris, salah satu kemungkinan skenario adalah bahwa startup akan pindah ke AS - negara yang mungkin memiliki banyak yang hilang dalam hal blockchain dan cryptocurrency, tetapi yang dapat memenangkan perlombaan AI.

Jika Anda ingin tahu lebih banyak tentang fintech dan menemukan berita, acara, dan pendapat fintech, langgananlah Newsletter FTW!