AI di Eropa: Apa Artinya AI Act

Foto oleh Maico Amorim di Unsplash

UU AI masih sebatas rancangan, tetapi investor dan pemilik bisnis di Uni Eropa sudah merasa cemas terhadap kemungkinan hasilnya.

Akankah aturan ini mencegah Uni Eropa menjadi kompetitor yang berharga di ruang global?

Menurut regulator, itu tidak terjadi. Tapi mari kita lihat apa yang sedang terjadi.

UU AI dan penilaian risiko

UU AI membagi risiko yang ditimbulkan oleh kecerdasan buatan ke dalam kategori-kategori risiko yang berbeda, tetapi sebelum melakukannya, aturan ini mempersempit definisi kecerdasan buatan hanya mencakup sistem yang berbasis pembelajaran mesin dan logika.

Ini tidak hanya bertujuan membedakan sistem AI dari perangkat lunak yang lebih sederhana, tetapi juga membantu kita memahami mengapa UE ingin mengategorikan risiko.

Berbagai penggunaan AI dikategorikan menjadi risiko yang tidak dapat diterima, risiko tinggi, dan
risiko rendah atau minimal. Praktik yang masuk dalam kategori risiko yang tidak dapat diterima dianggap sebagai dilarang.

Jenis praktik ini mencakup:

*   Praktik yang melibatkan teknik yang bekerja di luar kesadaran seseorang, 
*   Praktik yang ingin mengeksploitasi bagian-bagian rentan dari populasi, 
*   Sistem berbasis AI yang dipasang untuk mengklasifikasikan orang berdasarkan karakteristik atau perilaku pribadi,
*   Sistem berbasis AI yang menggunakan identifikasi biometrik di ruang publik. 

Ada beberapa kasus penggunaan yang seharusnya dianggap mirip dengan beberapa praktik yang termasuk dalam aktivitas terlarang, namun masuk dalam kategori praktik “berisiko tinggi”.

Ini termasuk sistem yang digunakan untuk merekrut pekerja atau menilai serta menganalisis kelayakan kredit seseorang (dan ini bisa berbahaya untuk fintech). Dalam kasus-kasus ini, semua bisnis yang membuat atau menggunakan jenis sistem tersebut harus menghasilkan laporan rinci untuk menjelaskan cara kerja sistem dan langkah-langkah yang diambil untuk menghindari risiko bagi masyarakat serta agar setransparan mungkin.

Semuanya terlihat jelas dan benar, tetapi ada beberapa masalah yang seharusnya ditangani oleh regulator.

Aturannya terlalu generik

Salah satu aspek yang paling mengkhawatirkan pemilik bisnis dan investor adalah kurangnya perhatian terhadap sektor AI tertentu.

Sebagai contoh, perusahaan yang memproduksi dan menggunakan sistem berbasis AI untuk tujuan umum bisa dianggap sebagai pihak yang menggunakan kecerdasan buatan untuk kasus penggunaan berisiko tinggi.

Artinya, mereka harus membuat laporan rinci yang memakan waktu dan biaya. Karena UKM tidak terkecuali, dan karena mereka membentuk bagian terbesar dari perekonomian Eropa, mereka bisa menjadi kurang kompetitif dari waktu ke waktu.

Dan justru perbedaan antara perusahaan AI AS dan Eropa yang memunculkan kekhawatiran besar: sebenarnya, Eropa tidak memiliki perusahaan AI besar seperti AS, karena ekosistem AI di Eropa terutama dibentuk oleh UKM dan startup.

Menurut survei yang dilakukan oleh appliedAI, mayoritas besar investor akan menghindari berinvestasi pada startup yang diberi label “berisiko tinggi”, tepat karena kompleksitas yang terlibat dalam klasifikasi tersebut.

ChatGPT mengubah rencana UE

Regulator UE seharusnya menutup dokumen tersebut pada 19 April, tetapi diskusi terkait berbagai definisi sistem berbasis AI dan kasus penggunaannya menunda pengiriman rancangan final.

Selain itu, perusahaan teknologi menunjukkan bahwa tidak semuanya sepakat dengan versi dokumen saat ini.

Poin yang paling menyebabkan keterlambatan adalah pembedaan antara model fondasi dan AI tujuan umum.

Contoh model fondasi AI adalah ChatGPT milik OpenAI: sistem ini dilatih menggunakan volume data yang besar dan dapat menghasilkan jenis keluaran apa pun.

AI tujuan umum mencakup sistem yang dapat disesuaikan untuk berbagai kasus penggunaan dan sektor.

Regulator UE ingin mengatur model fondasi secara ketat, karena model tersebut berpotensi menimbulkan lebih banyak risiko dan berdampak negatif pada kehidupan masyarakat.

Cara AS dan China mengatur AI

Jika kita melihat bagaimana regulator UE memperlakukan AI, ada satu hal yang menonjol: tampaknya regulator kurang bersedia untuk bekerja sama.

Di AS, misalnya, pemerintahan Biden mencari masukan publik mengenai keselamatan sistem seperti ChatGPT, sebelum merancang kemungkinan kerangka regulasi.

Di China, pemerintah telah mengatur AI dan pengumpulan data selama bertahun-tahun, dan perhatian utamanya tetap stabilitas sosial.

Sejauh ini, negara yang tampaknya paling siap dalam regulasi AI adalah Inggris, yang memilih pendekatan yang “ringan” — tetapi bukan rahasia bahwa Inggris ingin menjadi pemimpin dalam adopsi AI dan fintech.

Fintech dan UU AI

Untuk perusahaan dan startup yang menyediakan layanan keuangan, situasinya bahkan lebih rumit.

Faktanya, jika aturan ini tetap seperti versi saat ini, fintech tidak hanya perlu terikat pada regulasi keuangan yang berlaku, tetapi juga pada kerangka regulasi baru ini.

Fakta bahwa penilaian kelayakan kredit bisa diberi label sebagai kasus penggunaan berisiko tinggi hanyalah salah satu contoh beban yang harus ditanggung perusahaan fintech, yang mencegah mereka menjadi sefleksibel selama ini untuk menghimpun investasi dan tetap kompetitif.

Kesimpulan

Seperti yang disorot Peter Sarlin, CEO Silo AI, masalahnya bukan regulasi, melainkan regulasi yang buruk.

Terlalu generik bisa menghambat inovasi dan semua perusahaan yang terlibat dalam produksi, distribusi, dan penggunaan produk serta layanan berbasis AI.

Jika investor UE khawatir tentang potensi risiko yang ditimbulkan oleh label yang menyatakan bahwa sebuah startup atau perusahaan masuk kategori “berisiko tinggi”, ekosistem AI di Uni Eropa bisa terkena dampak negatif, sementara AS mencari masukan publik untuk meningkatkan teknologinya dan China sudah memiliki pandangan yang jelas tentang cara mengatur kecerdasan buatan.

Menurut Robin Röhm, cofounder Apheris, salah satu skenario yang mungkin adalah startup akan pindah ke AS — sebuah negara yang mungkin punya banyak yang hilang dalam hal blockchain dan kripto, tetapi bisa memenangkan perlombaan AI.

Jika Anda ingin tahu lebih banyak tentang fintech dan menemukan berita, acara, serta opini fintech, langganan FTW Newsletter!