Keahlian Keuangan Umum | Jiang Xiaojun Bicara tentang AI Berbuat Baik: Apa itu Kebaikan, Bagaimana Melakukan, Siapa yang Melakukan

Penulis/ Profesor Universitas Akademi Ilmu Sosial Tiongkok, Sekretaris Jenderal Dewan Negara sebelumnya Jiang Xiaojun

Pengantar: Baru-baru ini, Konferensi Akademik Pengembangan dan Tata Kelola Ekonomi Digital Tiongkok 2026 (Chongqing) berhasil diselenggarakan di Universitas Hukum dan Politik Barat Daya. Profesor Universitas Akademi Ilmu Sosial Tiongkok, Sekretaris Jenderal Dewan Negara sebelumnya Jiang Xiaojun menyampaikan pidato utama berjudul “AI Menuju Kebaikan: Apa itu Kebaikan, Bagaimana Melakukannya, Siapa yang Melakukannya”.

Jiang Xiaojun berpendapat bahwa diskusi tentang “AI Menuju Kebaikan” sudah banyak dilakukan, dan tingkat kesepakatan konsepnya cukup tinggi, tetapi diskusi tentang bagaimana mewujudkan dan siapa yang melaksanakan “kebaikan” tersebut masih kurang. Perlu menempatkan masalah ini ke dalam sistem pengetahuan ilmu sosial untuk dianalisis dan didiskusikan.

Apa itu Kebaikan: Perspektif Ilmu Sosial

Selama ini, diskusi tentang AI menuju kebaikan sudah banyak, dan tingkat kesepakatan konsepnya cukup tinggi. Misalnya, dari laporan Etika Robotik yang dirilis oleh UNESCO pada 2016 (Preliminary Draft Report of COMEST on Robotics Ethics) hingga Puncak Aksi AI Paris 2025, masyarakat memiliki kesepakatan tinggi tentang prinsip-prinsip pengelolaan AI.

Seperti keamanan, transparansi, non-diskriminasi, dapat dijelaskan, dapat dilacak, keadilan dan kesetaraan, inklusivitas dan keterbukaan, penghormatan terhadap privasi, berbagi manfaat, berorientasi manusia, kontrol manusia, dan lain-lain, terus-menerus dibahas ulang. Namun, diskusi tentang bagaimana mewujudkan dan siapa yang melaksanakan “kebaikan” tersebut masih kurang, biasanya hanya dilakukan oleh perusahaan terkait dan kelompok teknologi terkait dalam kerangka “penyelarasan”, yang bersifat sepihak dan berubah-ubah, kurang stabil secara umum.

Saya merasa perlu menempatkan masalah ini ke dalam sistem pengetahuan ilmu sosial untuk dianalisis dan didiskusikan. Konsep “kebaikan” secara luas adalah tema utama dari banyak penelitian ilmu sosial. Apakah teknologi menuju kebaikan tergantung pada apakah teknologi tersebut mendorong pertumbuhan ekonomi, kemajuan sosial, dan kebahagiaan rakyat, yaitu apakah mampu meningkatkan kesejahteraan manusia.

Ilmu sosial tidak hanya mampu mengusulkan jalan menuju kebaikan secara konsep, tetapi juga memiliki kedalaman akademik dan kemampuan teoretis dalam menetapkan standar penilaian, jalur pencapaian, dan aktor pelaku.

Satu

Kebaikan yang Rasional: Pengalokasian Sumber Daya yang Efisien, Meningkatkan Kesejahteraan dan Keadilan Sosial

“Kebijakan rasional” adalah konsep inti ekonomi, yang mendefinisikan “efisiensi pengalokasian sumber daya, peningkatan kesejahteraan sosial, dan distribusi yang relatif adil” sebagai rasional.

Dalam kerangka ini, ekonomi memiliki standar dan indikator penilaian yang jelas: meningkatkan produktivitas faktor secara keseluruhan, rasio input-output, pertumbuhan pendapatan, mendorong investasi inovasi, dan sebagainya, adalah indikator efisiensi pengalokasian sumber daya; peningkatan tingkat pendidikan dan layanan kesehatan, perbaikan sistem jaminan sosial, adalah indikator peningkatan kesejahteraan sosial. Dengan indikator-indikator ini, AI secara nyata berkontribusi dalam meningkatkan produktivitas faktor dan pertumbuhan kesejahteraan sosial, sehingga kebaikan teknologi sangat besar.

Bagaimana mewujudkan “kebaikan yang rasional”, ekonomi memiliki jalur pencapaian dan aktor pelaku. Misalnya, membiarkan pasar memainkan peran utama dalam pengembangan AI adalah salah satu jalur tersebut, yang tentu saja menuntut perusahaan sebagai aktor utama. Tentu saja, pasar tidak hanya melibatkan perusahaan, tetapi juga membutuhkan “lingkungan pasar” yang baik seperti kompetisi yang setara dan akses yang adil, sehingga regulasi pasar harus sehat dan lengkap.

Dengan menggunakan keadilan dalam distribusi sebagai ukuran, AI belum bisa disebut “kebaikan”. Indikator seperti koefisien Gini dan kesenjangan pendapatan digunakan untuk mengukur apakah hasil pembangunan didistribusikan secara relatif adil. Berdasarkan indikator ini, pengaruh AI saat ini lebih banyak bersifat negatif, menunjukkan adanya dampak “tidak baik”. Di satu sisi, kekayaan semakin terkonsentrasi pada segelintir orang yang sukses dalam inovasi; di sisi lain, efek substitusi AI terutama mempengaruhi kelompok berpenghasilan menengah ke bawah, dan saat ini belum terlihat AI mampu memperbaiki atau membalikkan keadaan tersebut.

Dari proses kemajuan teknologi sebelumnya, untuk mengatasi masalah ini, perusahaan AI harus berusaha sendiri, dan pemerintah perlu berperan lebih baik, menjaga keseimbangan antara penerapan teknologi AI yang menggantikan tenaga kerja dan penciptaan lapangan kerja baru melalui inovasi AI, serta menjalankan tanggung jawabnya dalam memperbaiki sistem jaminan sosial jangka panjang.

Dua

Kebaikan yang Memberi Manfaat: Manfaat Konsumen di Luar Batas GDP

Beberapa manfaat dari kemajuan teknologi tidak dapat diukur dengan pertumbuhan GDP secara standar, tetapi dapat membawa surplus konsumen yang besar, atau disebut juga manfaat, secara umum memberi rakyat kemudahan, kebahagiaan, dan rasa memperoleh lainnya, dan pengaruh AI dalam hal ini sangat mencolok.

AI membawa kebaikan berupa kemudahan. Kemudahan yang diberikan AI sangat signifikan, tetapi sebagian besar tidak tercermin dalam GDP. Misalnya, layanan mandiri berbasis jaringan, model AI, dan agen cerdas yang memberi kemudahan besar bagi pengguna, tetapi tidak menghasilkan aktivitas ekonomi yang dapat dihitung dalam GDP; bahkan menggantikan layanan yang sebelumnya termasuk dalam GDP, seperti pemesanan tiket otomatis menggantikan layanan pemesanan tradisional, informasi daring gratis menggantikan langganan koran, email menggantikan surat pos, dan banyak layanan gratis lainnya.

Industri budaya adalah contoh paling representatif, platform hiburan dan model generatif memungkinkan setiap orang menikmati lebih banyak musik, buku, video, dan produk budaya yang lebih beragam, sehingga konsumsi budaya meningkat pesat. Namun, secara bersamaan, ukuran pasar produk budaya yang diukur dengan GDP tidak meningkat seiring.

Contohnya, data dari Asosiasi Industri Rekaman Amerika menunjukkan bahwa pendapatan industri musik AS menurun dari 14,6 miliar dolar pada 1999 menjadi 7,5 miliar dolar pada 2016, manfaat yang dibawa musik digital bagi konsumen tidak bisa diukur dengan GDP. Meskipun platform yang menyediakan layanan gratis menayangkan iklan dan menciptakan GDP, banyak studi menunjukkan bahwa manfaat tersebut jauh lebih besar daripada skala GDP dari layanan pengganti dan manfaat baru tersebut. Jelas, AI membawa manfaat.

AI juga membawa kebaikan berupa kesetaraan. AI membawa jutaan konsumen biasa ke dalam bidang konsumsi dan kreativitas yang sebelumnya hanya dinikmati oleh kelompok berpenghasilan tinggi dan berpengetahuan tinggi. Misalnya, dalam konsumsi budaya, konsumen dengan kemampuan membaca terbatas dapat memilih agar AI menyediakan atau menghasilkan produk budaya berbentuk gambar dan video yang beragam; konsumen berpenghasilan rendah dapat menggunakan layanan gratis platform untuk menikmati produk dan layanan budaya yang sebelumnya tidak terjangkau secara offline (seperti pertunjukan di teater kelas atas).

Selain itu, dalam bidang kreativitas budaya, orang biasa yang kurang kemampuan “profesional” dalam berkarya budaya juga dapat mengubah inspirasi kreatif mereka menjadi produk budaya yang mereka ciptakan sendiri dan berbagi dengan orang lain. Influencer di media sosial tidak hanya menjual produk dan layanan mereka, tetapi juga berinteraksi dengan penggemar, berbagi gaya hidup, emosi, mode, dan mimpi, sehingga memenuhi kebutuhan spiritual dan psikologis konsumen.

Manfaat yang muncul melalui cara gratis, hiburan sendiri, dan saling membantu ini tidak dapat diukur dengan pertumbuhan GDP atau peningkatan pendapatan, tetapi dapat dinilai dengan metode penilaian nilai kondisi atau nilai keinginan. Misalnya, menanyakan kepada konsumen berapa banyak mereka bersedia membayar jika manfaat tersebut harus dibeli, atau berapa banyak mereka harus dikompensasi jika mereka harus melepaskan manfaat gratis tertentu. Contohnya, berapa kompensasi yang mereka inginkan agar mereka melepaskan penggunaan aplikasi seperti “Xiaohongshu” atau model besar gratis, dan dari situ dihitung manfaat penggunaan yang diperoleh masyarakat secara keseluruhan.

Beberapa studi menunjukkan bahwa manfaat yang diperoleh oleh kelompok berpenghasilan rendah relatif lebih tinggi dibandingkan pendapatan mereka, menunjukkan bahwa AI memang membawa kebaikan dalam kesetaraan dan peningkatan kesejahteraan kelompok berpenghasilan rendah.

Namun, manfaat juga memiliki sisi buruk. Beberapa konsumsi yang memberi kepuasan psikologis sesaat dapat menyebabkan kerusakan mendalam dan jangka panjang secara fisik dan mental. Contohnya, ketergantungan pada permainan daring, dan ruang informasi yang tebal yang membatasi pemahaman, yang secara sosial sudah sangat disepakati berbahaya, dan para pelaku juga merasakan dampaknya tetapi sulit keluar dari jerat tersebut.

Pihak pengembang dan pengguna teknologi harus memiliki tanggung jawab untuk menahan diri dan disiplin. Jika tidak mampu mengatasi, mereka harus membatasi dan mengendalikan dampak buruk tersebut dengan kekuatan teknologi, seperti produsen produk yang bertanggung jawab atas kualitas produk, tidak menjual produk yang membahayakan kesehatan dan nyawa.

Selain itu, pemerintah dan masyarakat perlu bekerja sama dalam penanganan. Untuk “kejahatan” yang disepakati secara luas di masyarakat—seperti tantangan terhadap nilai-nilai manusia, pelanggaran privasi, dan propaganda terorisme—otoritas publik harus melakukan penindakan tegas.

Tiga

Kebaikan yang Disepakati: Konsensus Sosial tentang Dampak Jangka Panjang Teknologi

Ilmu sosial dari berbagai disiplin mempelajari “konsensus”, misalnya dalam sosiologi, konsensus sosial mewakili tingkat kesepakatan sosial yang tinggi. Artikel ini mendefinisikan “konsensus” sebagai “kesepakatan sosial terbesar yang dapat dicapai dan solidaritas sosial yang dihasilkan”, dan menggunakan konsep ini untuk membahas etika teknologi di era AI.

Masalah etika teknologi sudah ada sejak lama, tetapi menjadi sangat menonjol di era AI, dengan sifat yang mengalami perubahan mendasar. Dulu, kita mengatakan bahwa ilmu pengetahuan adalah “penemuan hukum alam”, yang merupakan hukum yang muncul dari tatanan alami, hasil dari pertarungan dan evolusi kekuatan selama miliaran tahun di alam. Sekarang, AI berusaha membangun kondisi yang tidak ada dalam evolusi alam dan masyarakat manusia, menciptakan tatanan baru, dan banyak eksplorasi bertujuan mengubah kondisi alami manusia atau masyarakat manusia.

Misalnya, dalam bidang ilmu kehidupan yang paling intensif menggunakan AI, banyak penelitian berusaha mengubah struktur fisiologis, reproduksi, dan kognisi manusia, bahkan mengintervensi pembentukan kesadaran, yang menyebabkan subjektivitas dan kendali manusia atas proses tersebut berubah, dan ada pula yang berusaha membangun makhluk hidup baru dengan konsekuensi jangka panjang yang tidak diketahui. Hasil dari penciptaan hal-hal baru ini mungkin bahkan tidak bisa diprediksi oleh para ilmuwan penciptanya. Jika direnungkan, ini berbeda dari penemuan ilmiah sebelumnya.

Dalam situasi ini, penting bagi masyarakat untuk menyepakati arah perkembangan ilmiah tertentu, yaitu apa yang disebut sebagai “konsensus”. Saya pernah mengatakan kepada seorang ilmuwan yang saya hormati bahwa saya sebagai penggemar teknologi yang tidak berpengetahuan sangat penasaran dan mengagumi penelitian tertentu yang dia lakukan, tetapi sebagai ekonom, saya tidak bisa menilai saat itu. Namun, kembali ke identitas “manusia”, saya ingin mengatakan bahwa penelitian tersebut sepenuhnya “tidak sesuai konsensus”.

Ketika ilmuwan berusaha mengubah ciri-ciri manusia dan hukum alam yang telah terbentuk selama jutaan tahun, ini adalah masalah besar yang menyangkut semua orang, dan masyarakat harus diberi tahu dan dilibatkan, serta menyatakan apakah mereka menyetujui atau tidak. Diskusi dengan nada ilmiah ini mungkin sulit didorong dengan metode penilaian nilai keinginan, dan membutuhkan “konsultasi kolektif” yang transparan dan terbuka.

Ilmuwan bertanggung jawab untuk menjelaskan seluruh konsekuensi yang mungkin timbul kepada masyarakat, tidak hanya manfaatnya, dan harus memungkinkan diskusi yang cukup dari seluruh masyarakat untuk membentuk konsensus sosial terbesar. Semua pihak harus mengungkapkan pendapat dan berdebat secara terus-menerus agar dapat menemukan jalur dan posisi nyata dari “konsensus”, dan jangan biarkan logika teknologi menjadi satu-satunya penggerak, serta harus mencegah para ahli teknologi yang kurang bertanggung jawab dan kurang mampu meramalkan agar tidak membuat inovasi yang tidak dapat dibalik dan berbahaya. Singkatnya, syarat “konsensus” ini harus ada dalam diskusi tentang AI menuju kebaikan.

Pembahasan Mekanisme: Kolaborasi Berbagai Pihak untuk Mendorong AI Menuju Kebaikan

Mari kita tinjau mekanisme pencapaian kebaikan. Selain hasil alami dari “manfaat”, “kebaikan yang rasional” dan terutama “kebaikan yang disepakati” tidak akan terjadi secara alami. Jadi, dari mana motivasi menuju kebaikan berasal? Bagaimana merancang mekanisme yang sesuai?

Praktik menunjukkan bahwa kekuatan pendorong “menuju kebaikan” dan faktor yang menyebabkan “tidak baik” ada di berbagai tingkat, dan kekuatan “menuju kebaikan” serta “tidak baik” di era AI berbeda dari sebelumnya. “Menuju kebaikan” membutuhkan pengendalian diri dan juga pengendalian sosial.

Pertama, insentif inovasi dan pelaku produksi AI untuk “menuju kebaikan” sangat nyata dan efektif. Salah satu alasannya adalah AI membutuhkan penerapan skala besar, dan jika “kebaikan” tidak disepakati secara sosial, tidak mungkin diterapkan secara baik dan jangka panjang. Tingginya perhatian masyarakat terhadap keamanan dan etika AI memberikan tekanan dan panduan nilai yang sangat luas, kuat, dan berkelanjutan kepada perusahaan dan pengusaha.

Reputasi menuntut produsen “menuju kebaikan”, dan jika dianggap “tidak baik”, mereka harus merespons dan menyesuaikan dengan cepat. Pada 2023, OpenAI menghadapi kritik luas karena penggunaan data sensitif pengguna dalam pelatihan, dan kemudian berjanji tidak akan mengulanginya. Beberapa perusahaan AI terkemuka di dalam negeri juga memiliki contoh respons yang baik. Dari sudut pandang ini, mekanisme insentif “menuju kebaikan” di era ini menjadi lebih luas dan kuat.

Kedua, tata kelola terdistribusi adalah ciri khas pengelolaan AI menuju kebaikan. AI dan data berbeda secara mendasar dari industri sebelumnya karena penerapannya berbasis skenario. Dulu, pengalokasian sumber daya pasar bersifat satu-satu, tetapi di era AI, pengalokasian sumber daya bersifat kelompok dan berbasis skenario.

Pemerintah digital, kota pintar, transportasi cerdas, layanan kesehatan cerdas, industri penerbangan rendah, membutuhkan banyak pelaku yang mengalokasikan sumber daya, yang kita sebut sebagai pengalokasian sumber daya terdistribusi. Dalam pengalokasian ini, para pemangku kepentingan dan aktor terkait membentuk komunitas kecil dan besar sesuai skenario tertentu, dan pasar serta aktor sosial memilih secara mandiri mitra transaksi dan kerja sama. Setiap skenario memiliki aturan sendiri, seperti aturan transaksi, aturan pengembalian, dan sanksi pelanggaran, yang menentukan apa yang disebut “kebaikan dan tidak baik” dalam skenario tersebut, serta apa yang boleh dan tidak boleh dilakukan oleh peserta. Peserta mengikuti aturan ini, sehingga komunitas tersebut juga memiliki fungsi pengelolaan, yang dapat disebut sebagai tata kelola terdistribusi.

Ketiga, pengelolaan oleh kekuasaan publik sangat penting. Beberapa “tidak baik” yang berakibat serius tidak bisa diserahkan kepada pasar dan masyarakat untuk berdebat, melainkan harus ada daftar larangan “melakukan kejahatan”, seperti melanggar privasi tanpa izin, menyebarkan informasi palsu, terorisme, ujaran kebencian, dan lain-lain.

Selain itu, agar pengelolaan pasar dan masyarakat efektif, fungsi utama pemerintah adalah memastikan transparansi dan keterbukaan. Perusahaan harus memungkinkan konsumen dengan cepat memahami apa isi perjanjian pengguna mereka, dan transparansi detail perjanjian sangat penting. Selain inovasi terkait manusia dan masyarakat, penyedia harus menjelaskan secara terbuka apa yang mereka lakukan dan konsekuensinya kepada masyarakat dan publik.

Terakhir, sinyal dari pemerintah juga sangat penting. Hukum harus relatif stabil, sulit mengikuti perkembangan cepat, dan tidak perlu dibuat secara terburu-buru sebelum situasi stabil. Tetapi, pemerintah dapat melakukan banyak hal, seperti menerbitkan panduan dan studi kasus yang baik, mengkritik praktik yang tidak tepat, dan mengadakan pertemuan dengan perusahaan terkait, yang semuanya berperan besar dalam mengarahkan AI menuju kebaikan.

Akhirnya, kembali ke inti artikel ini: ilmu sosial harus berperan penting dalam mendorong AI menuju kebaikan. Ilmu sosial memiliki kedalaman disiplin yang kuat, membuat kita lebih mampu menilai baik buruknya AI. Dalam hal pengalokasian sumber daya, manfaat dan kerugian sosial, distribusi kekayaan yang adil, persepsi dan penilaian keinginan masyarakat, serta menjaga harmoni sosial, ilmu sosial telah memberikan kontribusi luar biasa. Di era AI, kita harus lebih berusaha, memikul tanggung jawab, dan berperan di tengah diskusi, praktik, serta pembangunan teori tentang AI menuju kebaikan, dari pusat hingga garis depan.

Sumber丨Disusun berdasarkan pidato langsung Profesor Jiang Xiaojun

Editor丨Lan Yinfan

Verifikasi丨Qin Ting