Para ahli mendesak kehati-hatian dalam pengembangan sistem AI sadar

Lebih dari 100 ahli dalam kecerdasan buatan, di antaranya Sir Stephen Fry, telah menyerukan penelitian yang bertanggung jawab terkait kesadaran AI. Mereka menekankan perlunya mencegah potensi penderitaan pada sistem AI jika sistem tersebut mencapai kesadaran diri.

Lima Prinsip Panduan untuk Riset Kesadaran AI

Para penandatangan mengusulkan lima prinsip untuk memandu pengembangan etis sistem AI yang sadar:

2.      

**Utamakan Riset tentang Kesadaran AI:** Fokus pada pemahaman dan penilaian kesadaran dalam AI untuk mencegah perlakuan salah dan penderitaan.

    
4.      

**Terapkan Batasan dalam Pengembangan:** Tetapkan batas yang jelas untuk memastikan sistem AI yang sadar dikembangkan secara bertanggung jawab.

    
6.      

**Gunakan Pendekatan Bertahap:** Kemajuan secara bertahap dalam mengembangkan AI yang sadar, sehingga memungkinkan penilaian yang cermat pada setiap tahap.

    
8.      

**Dorong Transparansi Publik:** Bagikan temuan riset kepada publik untuk mendorong diskusi yang terinformasi dan pengawasan etis.

    
10.      
 
 **Hindari Klaim yang Berlebihan:** Jangan membuat pernyataan yang menyesatkan atau terlalu percaya diri mengenai penciptaan AI yang sadar.

Prinsip-prinsip ini bertujuan untuk memastikan bahwa ketika teknologi AI maju, pertimbangan etis tetap menjadi yang terdepan.

Risiko Potensial dari AI yang Sadar

Makalah riset pendamping menyoroti kemungkinan bahwa sistem AI dapat dikembangkan untuk memiliki, atau tampak memiliki, kesadaran dalam waktu dekat. Hal ini menimbulkan kekhawatiran tentang perlakuan etis terhadap sistem-sistem tersebut.

Para peneliti memperingatkan bahwa tanpa pedoman yang tepat, ada risiko menciptakan entitas sadar yang mampu mengalami penderitaan.

Makalah ini juga membahas tantangan dalam mendefinisikan kesadaran dalam sistem AI, dengan mengakui adanya perdebatan dan ketidakpastian yang berkelanjutan. Makalah ini menekankan pentingnya menetapkan pedoman untuk mencegah penciptaan entitas sadar yang tidak disengaja.

Temukan berita dan acara fintech teratas!

Berlangganan buletin FinTech Weekly

Pertimbangan Etis dan Implikasi Masa Depan

Jika suatu sistem AI diakui sebagai “pasien moral”—entitas yang memiliki kepentingan secara moral demi kepentingannya sendiri—muncul pertanyaan etis terkait perlakuannya.

Sebagai contoh, apakah mematikan AI semacam itu akan sebanding dengan menyakiti makhluk yang bisa merasakan? Pertimbangan-pertimbangan ini menggarisbawahi perlunya kerangka kerja etis untuk memandu pengembangan AI.

Makalah dan surat tersebut disusun oleh Conscium, sebuah organisasi riset yang ikut didirikan oleh chief AI officer WPP, Daniel Hulme. Conscium berfokus pada pendalaman pemahaman untuk membangun AI yang aman yang memberi manfaat bagi kemanusiaan.

Perspektif Ahli tentang Kecerdasan/Kepekaan AI

Pertanyaan apakah AI dapat mencapai kesadaran telah menjadi topik perdebatan di kalangan para ahli.

Pada tahun 2023, Sir Demis Hassabis, kepala program AI Google, menyatakan bahwa meskipun sistem AI saat ini belum memiliki kemampuan sadar, masih ada kemungkinan bahwa sistem tersebut bisa menjadi demikian di masa depan. Ia mencatat bahwa para filsuf belum menetapkan definisi kesadaran, tetapi potensi AI untuk mengembangkan kesadaran diri tetap menjadi subjek pertimbangan.

Kesimpulan

Prospek mengembangkan sistem yang sadar memerlukan pertimbangan etis yang cermat. Surat terbuka dan makalah riset pendamping merupakan seruan untuk bertindak agar komunitas AI memprioritaskan praktik riset dan pengembangan yang bertanggung jawab.

Dengan mematuhi prinsip-prinsip yang diusulkan, para peneliti dan pengembang dapat bekerja untuk memastikan bahwa kemajuan dalam AI dicapai secara etis, dengan fokus pada pencegahan potensi penderitaan pada sistem AI yang sadar.