Para ahli mendesak kehati-hatian dalam mengembangkan sistem AI sadar

Lebih dari 100 ahli kecerdasan buatan, termasuk Sir Stephen Fry, telah menyerukan penelitian yang bertanggung jawab terhadap kesadaran AI. Mereka menekankan perlunya mencegah potensi penderitaan dalam sistem AI jika mereka mencapai kesadaran diri.

Lima Prinsip Panduan untuk Penelitian Kesadaran AI

Para penandatangan mengusulkan lima prinsip untuk membimbing pengembangan sistem AI sadar secara etis:

2.      

**Prioritaskan Penelitian tentang Kesadaran AI:** Fokus pada pemahaman dan penilaian kesadaran dalam AI untuk mencegah perlakuan yang salah dan penderitaan.

    
4.      

**Terapkan Pembatasan pada Pengembangan:** Tetapkan batasan yang jelas untuk memastikan sistem AI sadar dikembangkan secara bertanggung jawab.

    
6.      

**Adopsi Pendekatan Bertahap:** Kemajuan secara perlahan dalam mengembangkan AI sadar, memungkinkan penilaian yang hati-hati di setiap tahap.

    
8.      

**Dukung Transparansi Publik:** Bagikan temuan penelitian kepada publik untuk mendorong diskusi yang berinformasi dan pengawasan etis.

    
10.      
 
 **Hindari Klaim yang Berlebihan:** Hindari membuat pernyataan yang menyesatkan atau terlalu percaya diri tentang penciptaan AI sadar.

Prinsip-prinsip ini bertujuan memastikan bahwa seiring kemajuan teknologi AI, pertimbangan etis tetap menjadi prioritas utama.

Risiko Potensial dari AI Sadar

Makalah penelitian yang menyertainya menyoroti kemungkinan bahwa sistem AI dapat dikembangkan untuk memiliki, atau tampak memiliki, kesadaran dalam waktu dekat. Hal ini menimbulkan kekhawatiran tentang perlakuan etis terhadap sistem tersebut.

Para peneliti memperingatkan bahwa tanpa pedoman yang tepat, ada risiko menciptakan entitas sadar yang mampu mengalami penderitaan.

Makalah ini juga membahas tantangan dalam mendefinisikan kesadaran dalam sistem AI, mengakui perdebatan dan ketidakpastian yang sedang berlangsung. Ditekankan pentingnya menetapkan pedoman untuk mencegah penciptaan entitas sadar secara tidak sengaja.

Temukan berita dan acara fintech terbaik!

Berlangganan newsletter FinTech Weekly

Pertimbangan Etis dan Implikasi Masa Depan

Jika sebuah sistem AI diakui sebagai “pasien moral”—entitas yang penting secara moral demi keberadaannya sendiri—maka muncul pertanyaan etis mengenai perlakuannya.

Misalnya, apakah mematikan AI semacam itu dapat disamakan dengan menyakiti makhluk yang memiliki kesadaran? Pertimbangan ini menegaskan perlunya kerangka etis untuk membimbing pengembangan AI.

Makalah dan surat tersebut disusun oleh Conscium, sebuah organisasi riset yang didirikan bersama oleh kepala AI WPP, Daniel Hulme. Conscium fokus pada memperdalam pemahaman tentang pembangunan AI yang aman dan bermanfaat bagi umat manusia.

** Perspektif Ahli tentang Kesadaran AI**

Pertanyaan tentang AI mencapai kesadaran telah menjadi topik perdebatan di kalangan para ahli.

Pada tahun 2023, Sir Demis Hassabis, kepala program AI Google, menyatakan bahwa meskipun sistem AI saat ini belum sadar, ada kemungkinan mereka bisa menjadi sadar di masa depan. Ia mencatat bahwa para filsuf belum sepakat mengenai definisi kesadaran, tetapi potensi AI untuk mengembangkan kesadaran diri tetap menjadi bahan pertimbangan.

Kesimpulan

Kemungkinan mengembangkan sistem sadar memerlukan pertimbangan etis yang hati-hati. Surat terbuka dan makalah penelitian yang menyertainya menjadi panggilan bagi komunitas AI untuk memprioritaskan praktik penelitian dan pengembangan yang bertanggung jawab.

Dengan mengikuti prinsip-prinsip yang diusulkan, para peneliti dan pengembang dapat bekerja menuju kemajuan AI secara etis, dengan fokus pada pencegahan potensi penderitaan dalam sistem AI sadar.