"AI Must Have Rules": Komisaris UE Magnus Brunner Mengingatkan tentang Masa Depan di Mana AI Bisa Mengungguli Manusia

AI bukan lagi sekadar perlombaan teknologi—ini adalah tantangan tata kelola untuk menciptakan aturan yang tepat, alat keamanan, dan berpotensi menjadi risiko eksistensial.

Berbicara di panggung acara HumanX di San Francisco, Komisaris Eropa Magnus Brunner menguraikan pendekatan Eropa dalam mengatur AI, membela AI Act yang kontroversial sambil mengakui batasannya—dan memperingatkan tentang masa depan ketika kecerdasan buatan bisa melampaui kendali manusia.

AI Act Eropa: “Anda Perlu Aturan agar Permainan Berjalan”

Brunner membahas salah satu kritik paling umum terhadap Eropa: mengatur terlalu dini dan terlalu banyak. Namun baginya, regulasi bukanlah kendala—ini adalah infrastruktur.

“Sepak bola adalah permainan yang hebat, tapi Anda perlu aturan. Anda perlu garis, gol, dan wasit. Begitu juga dengan AI.”

AI Act Uni Eropa dirancang untuk menciptakan kerangka kerja yang terpadu di 27 negara anggota dan 450 juta warga, menetapkan apa yang disebut Brunner sebagai “pagar pengaman” bagi pengembangan AI yang tepercaya.

Sementara para kritikus berpendapat bahwa ini memperlambat inovasi, Brunner menolak:

“Regulasi bukan musuh inovasi… Jika Anda memiliki pagar pengaman ini, Anda punya gambaran tentang apa yang terjadi, bukan berada di Wild West.”

AS vs Eropa: Fragmentasi vs Kerangka

Salah satu perbedaan paling mencolok yang disorot selama diskusi adalah celah regulasi antara Eropa dan Amerika Serikat.

Sementara UE telah memperkenalkan satu undang-undang yang komprehensif, AS tetap terpecah, dengan regulasi AI yang muncul di tingkat negara bagian.

“Kami mengalami kerugian karena fragmentasi… sekarang kami punya satu AI Act. AS tidak punya regulasi federal, tetapi negara bagian yang berbeda punya aturan masing-masing. Itu mengejutkan bagi kami.”

Menariknya, Brunner mencatat bahwa beberapa negara bagian AS—terutama California—bergerak menuju kerangka kerja yang mirip dengan Eropa.

“Kami agak terhibur… jantung inovasi adalah mengadopsi aturan yang serupa.”

Ini menandakan potensi konvergensi antara dua model tersebut, meskipun ada perbedaan filosofis.

AI dan Kejahatan: Medan Pertempuran Digital Baru

Di luar regulasi, Brunner menekankan dimensi yang kurang dibahas: AI sebagai alat dalam kejahatan modern—dan dalam penegakan hukum.

Menurutnya, organisasi kriminal dengan cepat mengadopsi AI:

“Para kriminal menggunakan AI semakin banyak… lebih canggih, lebih lintas batas, lebih internasional.”

Sebagai respons, lembaga-lembaga Eropa—terutama Europol—mengintegrasikan AI ke dalam operasi mereka.

“AI bisa digunakan untuk yang baik dan yang buruk… kita harus tetap mengikuti.”

Salah satu tren yang mengkhawatirkan adalah usia perekrutan:

“Mereka berusia antara 12 dan 20 tahun… semakin banyak di ranah digital.”

Kenaikan Pengendalian Perbatasan Berbasis AI

Salah satu aplikasi paling konkret yang dibahas adalah sistem masuk-keluar baru UE—sebuah infrastruktur besar yang digerakkan AI, yang dirancang untuk memantau pergerakan lintas batas.

Brunner menggambarkannya sebagai:

“sistem manajemen TI paling canggih di dunia.”

Dalam hanya beberapa bulan:

– 45 juta pendaftaran diproses

– 24.000 entri ditolak karena dokumen yang berbuat curang

– 500–600 individu diidentifikasi sebagai ancaman keamanan

Sistem ini mengintegrasikan data biometrik dan berbagi data real-time lintas negara anggota—sesuatu yang sebelumnya tidak mungkin.

“Sekarang mereka membagikannya secara real time, yang membantu dalam hal keamanan.”

Privasi vs Keamanan: “Garis yang Sangat Tipis”

Mungkin isu yang paling sensitif tetap adalah keseimbangan antara kebebasan sipil dan keamanan.

Brunner secara terbuka mengakui ketegangannya:

“Ini garis yang sangat tipis antara privasi dan upaya mengejar para kriminal.”

Perdebatan menjadi semakin intens ketika diterapkan pada area seperti perlindungan anak:

“Jika Anda membandingkan perlindungan data versus perlindungan anak… ini harus perlindungan anak. Tapi itu pandangan pribadi saya.”

Meski mengambil posisi itu, ia menegaskan kembali bahwa hak-hak dasar tidak bisa ditawar:

“Hak asasi manusia harus dilindungi… tapi pada akhirnya, itu selalu kompromi.”

Ketakutan Terbesar: AI Melampaui Kendali Manusia

Ke depan, Brunner tidak ragu membahas kekhawatiran eksistensial.

Ketakutan terbesarnya bukan penyalahgunaan—melainkan hilangnya kendali:

“Bahwa AI mengungguli manusia dalam hal pengetahuan… dan manusia tidak bisa memutuskan lagi apa yang AI lakukan.”

Ia bahkan menyinggung skenario di mana sistem AI bisa melawan penghentian:

“AI memberi tahu kita kapan harus mematikannya—atau tidak mengizinkan kita untuk mematikannya.”

Meskipun masih hipotetis, ia memperingatkan bahwa arah lintasannya sudah mengarah ke sana.

Lomba Global—Tapi Kerja Sama adalah Kuncinya

Di tengah ketegangan geopolitik, Brunner membingkai pengembangan AI sebagai persaingan sekaligus kolaborasi.

“Ini adalah perlombaan… tapi AS dan Eropa harus bekerja sama.”

Ia menyarankan pertukaran timbal balik di mana Eropa menawarkan kerangka regulasi dan AS menawarkan inovasi serta fleksibilitas.

“Kita harus belajar satu sama lain.”

Di dunia yang semakin dibentuk oleh AI—dan oleh model-model tata kelola yang saling bersaing—kerja sama ini mungkin terbukti menentukan juga untuk menciptakan aturan yang lebih baik.