AI di Eropa: Apa yang Mungkin Dimaksudkan oleh Undang-Undang AI

Foto oleh Maico Amorim di Unsplash

Undang-Undang AI masih sebatas rancangan, tetapi investor dan pemilik bisnis di Uni Eropa sudah merasa khawatir tentang kemungkinan hasilnya.

Akankah ini mencegah Uni Eropa menjadi pesaing yang berharga di ruang global?

Menurut regulator, itu tidak terjadi. Tapi mari kita lihat apa yang sedang terjadi.

Undang-Undang AI dan penilaian Risiko

Undang-Undang AI membagi risiko yang ditimbulkan oleh kecerdasan buatan ke dalam kategori risiko yang berbeda, tetapi sebelum melakukan itu, undang-undang ini mempersempit definisi kecerdasan buatan agar hanya mencakup sistem yang didasarkan pada pembelajaran mesin dan logika.

Hal ini tidak hanya berfungsi untuk membedakan sistem AI dari perangkat lunak yang lebih sederhana, tetapi juga membantu kita memahami mengapa UE ingin mengategorikan risiko.

Berbagai penggunaan AI dikategorikan menjadi risiko yang tidak dapat diterima, risiko tinggi, dan
risiko rendah atau minimal. Praktik yang termasuk dalam kategori risiko yang tidak dapat diterima dianggap sebagai dilarang.

Jenis praktik ini mencakup:

*   Praktik yang melibatkan teknik yang bekerja di luar kesadaran seseorang, 
*   Praktik yang ingin mengeksploitasi bagian-bagian rentan dari populasi, 
*   Sistem berbasis AI yang diterapkan untuk mengklasifikasikan orang berdasarkan karakteristik atau perilaku personal,
*   Sistem berbasis AI yang menggunakan identifikasi biometrik di ruang publik. 

Ada beberapa kasus penggunaan, yang seharusnya dianggap serupa dengan sebagian praktik yang termasuk dalam aktivitas terlarang, namun masuk ke dalam kategori praktik “risiko-tinggi”.

Ini mencakup sistem yang digunakan untuk merekrut pekerja atau untuk menilai dan menganalisis kelayakan kredit orang (dan ini bisa berbahaya untuk fintech). Dalam kasus-kasus ini, semua bisnis yang membuat atau menggunakan jenis sistem ini harus menghasilkan laporan rinci untuk menjelaskan cara kerja sistem dan langkah-langkah yang diambil untuk menghindari risiko bagi orang, serta agar se-transparan mungkin.

Semuanya terlihat jelas dan benar, tetapi ada beberapa masalah yang seharusnya ditangani oleh regulator.

Undang-Undang ini terlihat terlalu generik

Salah satu aspek yang paling mengkhawatirkan pemilik bisnis dan investor adalah kurangnya perhatian terhadap sektor-sektor AI tertentu.

Misalnya, perusahaan-perusahaan yang memproduksi dan menggunakan sistem berbasis AI untuk tujuan umum dapat dianggap sebagai perusahaan yang menggunakan kecerdasan buatan untuk kasus penggunaan berisiko tinggi.

Artinya, mereka harus menghasilkan laporan rinci yang memakan waktu dan uang. Karena UMKM tidak ada pengecualian, dan karena mereka membentuk bagian terbesar dari ekonomi Eropa, mereka dapat menjadi kurang kompetitif dari waktu ke waktu.

Dan tepat perbedaan antara perusahaan AI AS dan Eropa yang menimbulkan kekhawatiran besar: nyatanya, Eropa tidak memiliki perusahaan AI besar seperti AS, karena lingkungan AI di Eropa terutama dibentuk oleh UMKM dan startup.

Menurut survei yang dilakukan oleh appliedAI, mayoritas besar investor akan menghindari berinvestasi pada startup yang diberi label “berisiko tinggi”, tepat karena kompleksitas yang terlibat dalam klasifikasi ini.

ChatGPT mengubah rencana UE

Regulator UE seharusnya menutup dokumen pada 19 April, tetapi diskusi terkait definisi berbeda tentang sistem berbasis AI dan kasus penggunaannya menunda penyampaian rancangan akhir.

Selain itu, perusahaan-perusahaan teknologi menunjukkan bahwa tidak semua dari mereka setuju dengan versi dokumen yang saat ini.

Poin yang paling menyebabkan keterlambatan adalah pembedaan antara model dasar dan kecerdasan buatan tujuan umum.

Salah satu contoh model dasar AI adalah ChatGPT milik OpenAI: sistem-sistem ini dilatih menggunakan kuantitas data yang besar dan dapat menghasilkan keluaran apa pun.

Kecerdasan buatan tujuan umum mencakup sistem-sistem yang dapat diadaptasi untuk berbagai kasus penggunaan dan sektor.

Regulator UE ingin mengatur model dasar secara ketat, karena model dasar dapat menimbulkan lebih banyak risiko dan berdampak negatif pada kehidupan orang.

Bagaimana AS dan China mengatur AI

Jika kita melihat bagaimana regulator UE memperlakukan AI, ada satu hal yang menonjol: tampaknya regulator kurang bersedia untuk bekerja sama.

Di AS, misalnya, pemerintahan Biden mencari komentar publik tentang keamanan sistem seperti ChatGPT, sebelum merancang kemungkinan kerangka regulasi.

Di China, pemerintah telah mengatur AI dan pengumpulan data selama bertahun-tahun, dan perhatian utamanya tetap stabilitas sosial.

Sejauh ini, negara yang tampaknya paling siap dalam regulasi AI adalah Inggris, yang memilih pendekatan “ringan” — tetapi bukan rahasia lagi bahwa Inggris ingin menjadi pemimpin dalam adopsi AI dan fintech.

Fintech dan Undang-Undang AI

Ketika berbicara tentang perusahaan dan startup yang menyediakan layanan keuangan, situasinya bahkan lebih rumit.

Faktanya, jika Undang-Undang ini tetap seperti versi saat ini, fintech tidak hanya perlu terikat pada peraturan keuangan yang berlaku saat ini, tetapi juga pada kerangka regulasi baru ini.

Fakta bahwa penilaian kelayakan kredit dapat diberi label sebagai kasus penggunaan berisiko tinggi hanyalah salah satu contoh beban yang harus ditanggung perusahaan fintech, yang mencegah mereka menjadi sefleksibel yang selama ini, untuk menghimpun investasi dan agar tetap kompetitif.

Kesimpulan

Seperti yang disorot oleh Peter Sarlin, CEO Silo AI, masalahnya bukan regulasi, melainkan regulasi yang buruk.

Terlalu generik dapat merugikan inovasi dan semua perusahaan yang terlibat dalam produksi, distribusi, dan penggunaan produk serta layanan berbasis AI.

Jika investor UE merasa khawatir tentang potensi risiko yang ditimbulkan oleh label yang menyatakan bahwa sebuah startup atau perusahaan masuk ke kategori “berisiko tinggi”, ekosistem AI di Uni Eropa bisa terdampak negatif, sementara AS sedang mencari komentar publik untuk meningkatkan teknologinya, dan China sudah memiliki pendapat yang jelas tentang cara mengatur kecerdasan buatan.

Menurut Robin Röhm, cofounder Apheris, salah satu kemungkinan skenarionya adalah startup akan pindah ke AS — sebuah negara yang mungkin punya banyak yang hilang dalam hal blockchain dan kriptokurensi, tetapi bisa memenangkan perlombaan AI.

Jika Anda ingin tahu lebih banyak tentang fintech dan menemukan berita, acara, dan opini fintech, daftarlah ke Newsletter FTW!