Etika AI: Mengapa Penting Sekarang untuk Mengembangkan AI yang Beretika

Temukan berita dan acara fintech teratas!

Langganan buletin FinTech Weekly

Dibaca oleh eksekutif di JP Morgan, Coinbase, Blackrock, Klarna, dan lainnya

Etika AI adalah salah satu perhatian utama para investor dan analis, terutama sejak diperkenalkannya ChatGPT dari OpenAI, yang menjadi aplikasi dengan pertumbuhan tercepat.

Etika diperlukan jika kita ingin kecerdasan buatan tidak menjadi berbahaya dan digunakan dengan benar - juga terkait dengan industri fintech, karena bisa sangat berbahaya menggunakan AI yang tidak terlatih dengan baik dalam keuangan.

Mengapa etika AI menjadi berita utama

Etika dalam kecerdasan buatan menjadi berita utama karena alasan positif dan negatif.

Sementara Microsoft baru-baru ini mengurangi departemen AI & Society-nya – meninggalkan hanya 7 orang selama salah satu gelombang pemecatan yang melibatkan perusahaan, banyak analis dan organisasi yang mencoba memikirkan tentang topik ini dan merenungkan mengapa etika itu penting.

Ini juga mencakup organisasi internasional dan politik, sesuatu yang mungkin bisa membantu pengguna sehari-hari – mungkin masih terlalu tidak menyadari kemajuan kecerdasan buatan – untuk diyakinkan bahwa AI bukan hanya topik bisnis.

Pada 23 November 2021, UNESCO merilis sebuah teks, “Rekomendasi tentang Etika Kecerdasan Buatan”, yang kemudian diadopsi oleh 193 negara anggota.

Rekomendasi dibuka dengan “Mengambil sepenuhnya dalam pertimbangan bahwa perkembangan cepat teknologi AI menantang penerapan dan tata kelola etis mereka, serta penghormatan dan perlindungan terhadap keberagaman budaya, dan memiliki potensi untuk mengganggu standar dan nilai etika lokal dan regional”.

Referensi terhadap multikulturalisme penting dalam kasus AI.

Seperti yang akan kita lihat dalam beberapa saat, penting untuk mempertimbangkan bahwa tidak semua orang mampu mengelola dan menggunakan AI, dan jika tetap menjadi prerogatif profesional teknologi dan perusahaan, mungkin sulit bagi beberapa budaya dan segmen populasi untuk mengakses teknologi penting ini.

Apakah kita memiliki AI yang sadar?

Kita tidak memiliki – setidaknya, belum – AI yang sadar.

Sejauh ini, alat berbasis AI dilatih oleh orang dan data. Jika dari sudut pandang tertentu ini berarti bahwa AI tidak dapat dianggap terlalu berbahaya untuk saat ini, ini juga berarti bahwa jika orang memberikan data yang bias, maka jawaban yang diberikan oleh AI juga bias.

Hal yang sama berlaku jika data dan pelatihan hanya diberikan oleh sejumlah profesional tertentu dan di negara tertentu.

Seperti dilaporkan oleh MIT, kesenjangan gender dalam STEM (sains, teknologi, teknik, dan matematika) masih sangat signifikan, dan wanita dengan pekerjaan yang sesuai dengan studi mereka di salah satu bidang ini hanya mencapai 28%.

Sebuah laporan yang diterbitkan oleh IDC (International Data Corporation), Panduan Pengeluaran Kecerdasan Buatan Sedunia, memberi tahu kita bahwa investasi dalam AI diperkirakan mencapai $154 miliar pada tahun 2023. Tapi di mana investasi ini terkonsentrasi?

Seperti dilaporkan oleh InvestGlass, negara-negara tempat investasi terkonsentrasi adalah Amerika Serikat dan China. Juga Jepang, Kanada, dan Korea Selatan sedang meningkatkan investasi dan strategi yang melibatkan AI. Uni Eropa bukanlah wilayah yang paling maju terkait kecerdasan buatan – meskipun beberapa negara seperti Jerman dan Prancis mengembangkan lingkungan yang menarik untuk kecerdasan buatan.

Semua data ini menunjukkan bahwa tidak semua orang terlibat dalam revolusi ini, dan ini – tentu saja – dapat merugikan perkembangan AI yang berharga dan etis.

Jika AI tetap terlalu terkonsentrasi di bidang dan negara tertentu, data yang dihasilkannya akan menjadi bias.

Jika multikulturalisme mungkin belum ditangani dengan baik, investor sudah mencari teknologi yang dapat bertanggung jawab secara sosial dan etis.

Apa pendapat investor tentang AI?

Dalam beberapa tahun terakhir, kesadaran umum terkait tanggung jawab sosial juga membawa investor untuk lebih memilih bisnis yang tidak merugikan masyarakat.

Dalam kasus kecerdasan buatan, sulit tidak hanya untuk menciptakan kerangka kerja global yang bertujuan untuk mengatur teknologi, tetapi juga sulit bagi investor untuk sepenuhnya memahami apa yang sebenarnya etis dalam hal kecerdasan buatan.

AI relatif baru, dan memberikan konteks yang benar menjadi semakin sulit oleh fakta bahwa ia terus berubah.

Itulah sebabnya investor menggunakan berbagai metode untuk menilai kemungkinan perkembangan masa depan dari bisnis AI, serta etika seiring berjalannya waktu dan perubahan yang terjadi.

Seperti dilaporkan oleh TechCrunch, tampaknya investor mungkin menemukan lebih berguna untuk menilai karakteristik dan kualitas pemilik proyek, untuk lebih memahami bagaimana dia atau dia mungkin bereaksi terhadap kerangka kerja baru dan bagaimana mereka ingin mengelola proyek AI meskipun ada perubahan konstan.

Jadi, meskipun kita berbicara tentang AI, manusia tetap memiliki suara terakhir – dan semakin etis orang-orang yang menggunakan AI, semakin etis AI di masa depan.

Pemikiran Akhir

Etika AI bukanlah topik yang mudah, dan tidak mudah untuk menilai bagaimana AI dapat etis.

AI tidak sadar, ia tidak memiliki jiwa – terlepas dari bagaimana jiwa dapat didefinisikan.

Meskipun demikian, sangat penting untuk bekerja pada etika AI sekarang, untuk menghindari sebanyak mungkin bahaya di masa depan.

Jika Anda ingin tahu lebih banyak tentang berita fintech, acara, dan wawasan, langganan buletin FinTech Weekly!