Para ahli mendesak kehati-hatian dalam pengembangan sistem AI sadar

Lebih dari 100 pakar dalam kecerdasan buatan, termasuk Sir Stephen Fry, menyerukan penelitian yang bertanggung jawab terkait kesadaran AI. Mereka menekankan perlunya mencegah potensi penderitaan pada sistem AI jika sistem tersebut mencapai kesadaran diri.

Lima Prinsip Panduan untuk Penelitian Kesadaran AI

Para penandatangan mengusulkan lima prinsip untuk memandu pengembangan etis sistem AI yang sadar:

2.      

**Utamakan Penelitian tentang Kesadaran AI:** Fokus pada memahami dan menilai kesadaran pada AI untuk mencegah perlakuan salah dan penderitaan.

    
4.      

**Terapkan Pembatasan dalam Pengembangan:** Tetapkan batas yang jelas untuk memastikan sistem AI yang sadar dikembangkan secara bertanggung jawab.

    
6.      

**Terapkan Pendekatan Bertahap:** Maju secara bertahap dalam mengembangkan AI yang sadar, sehingga memungkinkan penilaian yang cermat di setiap tahap.

    
8.      

**Dorong Transparansi Publik:** Bagikan temuan penelitian kepada publik untuk mendorong wacana yang terinformasi dan pengawasan etis.

    
10.      
 
 **Hindari Klaim yang Terlebih-lebihkan:** Jangan membuat pernyataan yang menyesatkan atau terlalu percaya diri tentang penciptaan AI yang sadar.

Prinsip-prinsip ini bertujuan untuk memastikan bahwa seiring teknologi AI berkembang, pertimbangan etis tetap berada di garis depan.

Potensi Risiko dari AI yang Sadar

Makalah penelitian yang menyertai menyoroti kemungkinan bahwa sistem AI dapat dikembangkan untuk memiliki, atau tampak memiliki, kesadaran dalam waktu dekat. Hal ini menimbulkan kekhawatiran tentang perlakuan etis terhadap sistem-sistem tersebut.

Para peneliti memperingatkan bahwa tanpa pedoman yang tepat, ada risiko menciptakan entitas sadar yang mampu mengalami penderitaan.

Makalah ini juga membahas tantangan dalam mendefinisikan kesadaran pada sistem AI, dengan mengakui perdebatan dan ketidakpastian yang sedang berlangsung. Makalah ini menekankan pentingnya menetapkan pedoman untuk mencegah terciptanya entitas sadar secara tidak sengaja.

Temukan berita dan acara fintech teratas!

Berlangganan buletin FinTech Weekly

Pertimbangan Etis dan Implikasi Masa Depan

Jika suatu sistem AI diakui sebagai “pasien moral”—entitas yang memiliki kepentingan secara moral untuk kepentingannya sendiri—maka muncul pertanyaan etis mengenai perlakuannya.

Misalnya, apakah mematikan AI seperti itu akan sebanding dengan menyakiti makhluk yang peka? Pertimbangan-pertimbangan ini menegaskan perlunya kerangka kerja etis untuk memandu pengembangan AI.

Makalah dan surat tersebut disusun oleh Conscium, sebuah organisasi riset yang didirikan bersama oleh chief AI officer WPP, Daniel Hulme. Conscium berfokus pada pendalaman pemahaman untuk membangun AI yang aman yang bermanfaat bagi kemanusiaan.

Perspektif Ahli tentang Kewaspadaan AI

Pertanyaan apakah AI dapat mencapai kesadaran telah menjadi topik perdebatan di kalangan para ahli.

Pada 2023, Sir Demis Hassabis, kepala program AI Google, menyatakan bahwa meskipun sistem AI saat ini belum bersifat sadar, ada kemungkinan sistem tersebut bisa demikian di masa depan. Ia mencatat bahwa para filsuf belum mencapai kesepakatan mengenai definisi kesadaran, namun potensi AI untuk mengembangkan kesadaran diri tetap menjadi subjek yang perlu dipertimbangkan.

Kesimpulan

Prospek mengembangkan sistem yang sadar memerlukan pertimbangan etis yang cermat. Surat terbuka dan makalah penelitian yang menyertainya berfungsi sebagai ajakan bertindak bagi komunitas AI untuk memprioritaskan praktik penelitian dan pengembangan yang bertanggung jawab.

Dengan mematuhi prinsip-prinsip yang diusulkan, para peneliti dan pengembang dapat bekerja menuju memastikan bahwa kemajuan dalam AI dicapai secara etis, dengan fokus pada pencegahan potensi penderitaan pada sistem AI yang sadar.