AI di Eropa: Apa yang Mungkin Dimaksudkan oleh Undang-Undang AI

Foto oleh Maico Amorim di Unsplash

Undang-Undang AI masih sebatas rancangan, tetapi para investor dan pemilik bisnis di European Union sudah gelisah tentang kemungkinan hasilnya.

Apakah itu akan mencegah European Union menjadi pesaing yang berharga di ruang global?

Menurut regulator, tidak demikian. Tetapi mari kita lihat apa yang sedang terjadi.

Undang-Undang AI dan penilaian risiko

Undang-Undang AI membagi risiko yang ditimbulkan oleh kecerdasan buatan ke dalam kategori risiko yang berbeda, tetapi sebelum melakukan itu, rancangan ini mempersempit definisi kecerdasan buatan agar hanya mencakup sistem yang didasarkan pada pembelajaran mesin dan logika.

Hal ini tidak hanya berfungsi untuk membedakan sistem AI dari perangkat lunak yang lebih sederhana, tetapi juga membantu kita memahami mengapa EU ingin mengategorikan risiko.

Berbagai penggunaan AI dikategorikan menjadi risiko yang tidak dapat diterima, risiko tinggi, dan
risiko rendah atau minimal. Praktik yang termasuk dalam kategori risiko yang tidak dapat diterima dianggap sebagai dilarang.

Jenis praktik ini mencakup:

*   Praktik yang melibatkan teknik yang bekerja di luar kesadaran seseorang, 
*   Praktik yang ingin mengeksploitasi bagian-bagian populasi yang rentan, 
*   Sistem berbasis AI yang diterapkan untuk mengklasifikasikan orang berdasarkan karakteristik atau perilaku pribadi,
*   Sistem berbasis AI yang menggunakan identifikasi biometrik di ruang publik. 

Ada beberapa kasus penggunaan yang harus dianggap serupa dengan beberapa praktik yang termasuk dalam aktivitas terlarang, namun masuk ke dalam kategori praktik “risiko tinggi”.

Ini mencakup sistem yang digunakan untuk merekrut pekerja atau untuk menilai dan menganalisis kelayakan kredit orang (dan ini bisa berbahaya untuk fintech). Dalam kasus-kasus ini, semua bisnis yang membuat atau menggunakan jenis sistem ini harus menyusun laporan terperinci untuk menjelaskan bagaimana sistem tersebut bekerja dan langkah-langkah yang diambil untuk menghindari risiko bagi orang, serta agar sedapat mungkin transparan.

Semuanya terlihat jelas dan benar, tetapi ada beberapa masalah yang seharusnya diatasi oleh para regulator.

Undang-Undang ini tampak terlalu umum

Salah satu aspek yang paling mengkhawatirkan pemilik bisnis dan investor adalah kurangnya perhatian terhadap sektor-sektor AI tertentu.

Sebagai contoh, perusahaan-perusahaan yang memproduksi dan menggunakan sistem berbasis AI untuk tujuan umum dapat dianggap sebagai perusahaan yang menggunakan kecerdasan buatan untuk kasus penggunaan berisiko tinggi.

Artinya, mereka harus membuat laporan terperinci yang menghabiskan waktu dan uang. Karena UKM tidak terkecuali, dan karena mereka membentuk bagian terbesar dari ekonomi European Union, mereka bisa menjadi kurang kompetitif seiring waktu.

Dan justru perbedaan antara perusahaan AI AS dan European Union yang menimbulkan kekhawatiran besar: faktanya, European Union tidak memiliki perusahaan AI besar seperti AS, karena lingkungan AI di European Union terutama dibentuk oleh UKM dan startup.

Menurut survei yang dilakukan oleh appliedAI, mayoritas besar investor akan menghindari berinvestasi pada startup yang diberi label “berisiko tinggi”, tepatnya karena kompleksitas yang terlibat dalam klasifikasi ini.

ChatGPT mengubah rencana European Union

Regulator European Union seharusnya menutup dokumen pada 19 April, tetapi pembahasan terkait definisi berbeda untuk sistem berbasis AI dan kasus penggunaannya menunda penyerahan rancangan final.

Selain itu, perusahaan-perusahaan teknologi menunjukkan bahwa tidak semuanya setuju dengan versi dokumen saat ini.

Poin yang paling menyebabkan keterlambatan adalah pembedaan antara foundation model dan general purpose AI.

Contoh foundation model AI adalah ChatGPT milik OpenAI: sistem-sistem ini dilatih menggunakan jumlah data yang besar dan dapat menghasilkan segala jenis keluaran.

General purpose AI mencakup sistem-sistem yang dapat disesuaikan untuk berbagai kasus penggunaan dan sektor.

Regulator European Union ingin mengatur foundation model secara ketat, karena model-model ini bisa menimbulkan lebih banyak risiko dan berdampak negatif pada kehidupan orang.

Bagaimana AS dan China mengatur AI

Jika kita melihat bagaimana regulator European Union memperlakukan AI, ada sesuatu yang menonjol: tampaknya para regulator kurang bersedia bekerja sama.

Di AS, misalnya, pemerintahan Biden mencari komentar publik tentang keselamatan sistem seperti ChatGPT, sebelum merancang kerangka kerja regulasi yang mungkin.

Di China, pemerintah telah mengatur AI dan pengumpulan data selama bertahun-tahun, dan perhatian utamanya tetap pada stabilitas sosial.

Sejauh ini, negara yang tampaknya paling tepat posisinya dalam regulasi AI adalah UK, yang memilih pendekatan “ringan” - tetapi bukan rahasia bahwa UK ingin menjadi pemimpin dalam adopsi AI dan fintech.

Fintech dan Undang-Undang AI

Ketika berbicara tentang perusahaan dan startup yang menyediakan layanan keuangan, situasinya bahkan lebih rumit.

Faktanya, jika Undang-Undang ini tetap seperti versi saat ini, fintech harus tidak hanya terikat pada peraturan keuangan yang berlaku saat ini, tetapi juga pada kerangka regulasi baru ini.

Fakta bahwa penilaian kelayakan kredit bisa diberi label sebagai kasus penggunaan berisiko tinggi hanyalah satu contoh beban yang harus ditanggung perusahaan fintech, yang mencegah mereka menjadi sefleksibel sejauh ini, untuk menghimpun investasi dan agar tetap kompetitif.

Kesimpulan

Seperti yang disoroti Peter Sarlin, CEO Silo AI, masalahnya bukan regulasi, melainkan regulasi yang buruk.

Terlalu umum bisa merugikan inovasi dan semua perusahaan yang terlibat dalam produksi, distribusi, dan penggunaan produk serta layanan berbasis AI.

Jika investor European Union akan khawatir tentang potensi risiko yang ditimbulkan oleh label yang menyatakan bahwa sebuah startup atau perusahaan termasuk dalam kategori “berisiko tinggi”, ekosistem AI di European Union bisa terdampak negatif, sementara AS sedang mencari komentar publik untuk meningkatkan teknologinya, dan China sudah memiliki pandangan yang jelas tentang cara mengatur kecerdasan buatan.

Menurut Robin Röhm, cofounder Apheris, salah satu skenario yang mungkin adalah startup akan pindah ke AS - sebuah negara yang mungkin punya banyak yang harus hilang dalam hal blockchain dan mata uang kripto, tetapi bisa memenangkan perlombaan AI.

Jika Anda ingin tahu lebih banyak tentang fintech dan menemukan berita, acara, serta opini fintech, berlangganan Newsletter FTW!