Para ahli mendesak kehati-hatian dalam pengembangan sistem AI sadar

Lebih dari 100 pakar dalam kecerdasan buatan, termasuk Sir Stephen Fry, telah menyerukan penelitian yang bertanggung jawab terkait kesadaran AI. Mereka menekankan perlunya mencegah potensi penderitaan pada sistem AI jika sistem tersebut mencapai kesadaran diri.

Five Guiding Principles for AI Consciousness Research

Para penandatangan mengusulkan lima prinsip untuk memandu pengembangan etis sistem AI yang memiliki kesadaran:

2.      

**Utamakan Penelitian tentang Kesadaran AI:** Fokus pada memahami dan menilai kesadaran dalam AI untuk mencegah perlakuan salah dan penderitaan.

    
4.      

**Terapkan Pembatasan pada Pengembangan:** Tetapkan batas yang jelas untuk memastikan sistem AI yang memiliki kesadaran dikembangkan secara bertanggung jawab.

    
6.      

**Terapkan Pendekatan Bertahap:** Maju secara bertahap dalam mengembangkan AI yang memiliki kesadaran, sambil memungkinkan penilaian yang cermat pada setiap tahap.

    
8.      

**Dorong Transparansi Publik:** Bagikan temuan penelitian kepada publik untuk mendorong diskursus yang terinformasi dan pengawasan etis.

    
10.      
 
 **Hindari Klaim yang Terlebih-lebih:** Jangan membuat pernyataan yang menyesatkan atau terlalu penuh keyakinan tentang penciptaan AI yang memiliki kesadaran.

Prinsip-prinsip ini bertujuan untuk memastikan bahwa ketika teknologi AI terus maju, pertimbangan etis tetap berada di garis depan.

Risiko Potensial AI yang Memiliki Kesadaran

Makalah penelitian yang menyertainya menyoroti kemungkinan bahwa sistem AI dapat dikembangkan untuk memiliki, atau terlihat memiliki, kesadaran dalam waktu dekat. Hal ini menimbulkan kekhawatiran tentang perlakuan etis terhadap sistem-sistem tersebut.

Para peneliti memperingatkan bahwa tanpa pedoman yang tepat, ada risiko menciptakan entitas-entitas sadar yang mampu mengalami penderitaan.

Makalah ini juga membahas tantangan dalam mendefinisikan kesadaran pada sistem AI, sambil mengakui perdebatan dan ketidakpastian yang terus berlangsung. Makalah ini menekankan pentingnya menetapkan pedoman untuk mencegah terciptanya entitas sadar secara tidak sengaja.

Temukan berita dan acara fintech teratas!

Berlangganan buletin FinTech Weekly

Pertimbangan Etis dan Implikasi Masa Depan

Jika sebuah sistem AI diakui sebagai “pasien moral”—sebuah entitas yang memiliki kepentingan moral demi dirinya sendiri—maka muncul pertanyaan etis mengenai perlakuannya.

Sebagai contoh, apakah menonaktifkan AI seperti itu akan sebanding dengan menyakiti makhluk yang memiliki kesadaran/insentif? Pertimbangan-pertimbangan ini menegaskan perlunya kerangka etis untuk memandu pengembangan AI.

Makalah dan surat tersebut disusun oleh Conscium, sebuah organisasi riset yang ikut didirikan oleh chief AI officer WPP, Daniel Hulme. Conscium berfokus pada pendalaman pemahaman untuk membangun AI yang aman yang bermanfaat bagi umat manusia.

Perspektif Para Ahli tentang Sentien AI

Pertanyaan apakah AI dapat mencapai kesadaran telah menjadi topik perdebatan di kalangan para ahli.

Pada tahun 2023, Sir Demis Hassabis, kepala program AI Google, menyatakan bahwa meskipun sistem AI saat ini belum sentien, ada kemungkinan sistem-sistem tersebut bisa menjadi sentien di masa depan. Ia mencatat bahwa para filsuf belum mencapai kesepakatan mengenai definisi kesadaran, tetapi potensi AI untuk mengembangkan kesadaran diri tetap menjadi subjek yang perlu dipertimbangkan.

Kesimpulan

Prospek mengembangkan sistem yang memiliki kesadaran memerlukan pertimbangan etis yang cermat. Surat terbuka dan makalah penelitian yang menyertainya berfungsi sebagai seruan bagi komunitas AI untuk memprioritaskan praktik penelitian dan pengembangan yang bertanggung jawab.

Dengan mematuhi prinsip-prinsip yang diajukan, para peneliti dan pengembang dapat berupaya memastikan bahwa kemajuan dalam AI dicapai secara etis, dengan fokus pada pencegahan potensi penderitaan pada sistem AI yang memiliki kesadaran.