AI Renaissance》filsuf menjadi barang rebutan di laboratorium AI, tulis etika ke dalam model Anda

Ketika Anda bertanya kepada Claude apakah sesuatu harus dilakukan, seseorang telah memikirkan jawabannya sebelumnya, dan orang itu mungkin seorang filsuf. Anthropic dan OpenAI sedang menuliskan dua kerangka etika, deontologi dan konsekuensialisme, ke dalam aturan perilaku AI.
(Prasejarah: Dari Keluar dari OpenAI hingga Berhadapan dengan Pentagon: Bagaimana Kakak-beradik Anthropic Menggambar Garis Merah untuk AI untuk Menghindari Runtuhnya Peradaban)
(Latar Belakang: Uji Coba Game Battle Royale OpenRouter: Grok Menjadi Raja, Kebiasaan Baik Claude Justru Menjadi Kelemahan Fatal)

Daftar Isi

Toggle

• Dua Filosofi di Balik Aturan
• Mengapa Filsuf?
• Hanya Sebagian Kecil, Posisi Belum Tentu Netral

Tanyakan pertanyaan sulit yang sama kepada Claude dan ChatGPT, jawabannya mungkin sangat berbeda. Ini bukan bias data pelatihan, bukan juga kebisingan acak, tetapi karena dua kerangka filosofis yang berlawanan sedang ditulis oleh perusahaan AI ke dalam kode etik mereka. Model yang Anda gunakan sebenarnya adalah produk dari suatu posisi etis.

Dua Filosofi di Balik Aturan

"Konstitusi AI" (dalam bahasa sederhana adalah kumpulan aturan yang membatasi respons dan tindakan model) bukanlah taktik pemasaran startup, tetapi upaya untuk mengubah etika abstrak menjadi instruksi yang dapat dijalankan sistem. Masalahnya adalah, etika sendiri memiliki perbedaan mendasar.

Deontologi (deontology, sederhananya "ada hal-hal yang tidak boleh dilakukan"): Tidak peduli seberapa indah konsekuensinya, berbohong, memaksa, dan menggunakan orang sebagai alat adalah garis merah yang tidak boleh dilampaui.

Konsekuensialisme (consequentialism, sederhananya "hitung total, jika untung lebih besar dari rugi, boleh dilakukan"): Ukur biaya dan manfaat, selama keuntungan yang diharapkan melebihi risiko yang terlihat, tindakan itu masuk akal.

Claude dari Anthropic lebih condong ke jalur deontologi, dalam berbagai situasi seperti rumah atau tempat umum, perilaku model lebih konsisten, lebih sedikit pengecualian; ChatGPT dan Google Gemini lebih dekat ke konsekuensialisme, cenderung mengevaluasi risiko dan manfaat per kasus.

Perbedaan ini bukan kebetulan, tim penyusun "konstitusi" Anthropic secara eksplisit memasukkan filsuf Amanda Askell dan Joe Carlsmith, membawa pelatihan filosofis ke inti penyelarasan model. Ini adalah ketegangan nyata: permintaan yang sama, sistem deontologi mungkin langsung menolak, sistem konsekuensialisme mungkin bertanya "pada akhirnya bermanfaat bagi siapa?"

Mengapa Filsuf?

Sepuluh tahun lalu, siswa ilmu humaniora sering diperingatkan oleh guru "belajar programming untuk masa depan"; sekarang giliran insinyur yang cemas: akankah AI membuat keterampilan mereka usang?

Anthropic, Google DeepMind, Meta dalam beberapa tahun terakhir secara aktif merekrut peneliti filsafat, etika, dan ilmu kognitif, ini bukan hanya aksi humas. AI sedang menyentuh serangkaian masalah yang tidak memiliki solusi teknis tunggal: kesadaran, agensi, tanggung jawab, tata kelola keamanan, penilaian nilai. Sam Altman secara terbuka menyatakan bahwa OpenAI, saat menyusun aturan ChatGPT, berkonsultasi dengan "ratusan filsuf moral", entah angka itu akurat atau tidak, arahnya sudah menjelaskan masalah.

Anthropic dan Google DeepMind bahkan melangkah lebih jauh dengan penelitian "kesejahteraan AI", menyelidiki apakah model memiliki keadaan internal seperti perasaan. Penelitian ini berjalan paralel dengan pengejaran AGI: jika AI benar-benar mendekati kesadaran mirip manusia, pemahaman filsuf tentang kesadaran, subjek, dan bahasa bukan hanya hiasan humaniora, tetapi perspektif yang tidak dimiliki insinyur.

Di komunitas pengembang Hacker News, ada juga pengamatan konstruktif: memberikan tujuan, alasan, dan konteks trade-off kepada LLM menghasilkan hasil yang lebih andal daripada perintah murni, ini mungkin yang biasa dilakukan oleh pelatihan filosofis: pertama klarifikasi "masalah apa yang ingin dipecahkan", lalu tanya "apakah melalui pengujian benar-benar sesuai dengan tujuan".

Tentu saja, ada juga yang membantah, ini lebih mirip klarifikasi kebutuhan produk, tidak bisa disamakan dengan argumen ketat filsafat akademis.

Hanya Sebagian Kecil, Posisi Belum Tentu Netral

Tentu saja, jika tren ini digambarkan sebagai "filsuf menyerbu industri teknologi secara besar-besaran", itu sendiri adalah pernyataan berlebihan. Pada kenyataannya, posisi filsuf di seluruh industri teknologi masih jarang, jauh di bawah satu persen dari insinyur.

Dan masalah yang lebih mendasar bukan pada jumlah, tetapi pada struktur: bisakah filsuf yang dipekerjakan benar-benar menantang keputusan bisnis majikan? Tim etika AI perusahaan teknologi memiliki sejarah yang menjadi pelajaran, ketika kesimpulan penelitian bertentangan dengan kepentingan bisnis, posisi-posisi itu sering kali yang pertama hilang.

Ini bukan hanya masalah tata kelola perusahaan, tetapi juga melibatkan risiko dari kerangka filosofis itu sendiri. Konsekuensialisme terdengar rasional, dapat diukur, tetapi begitu diterapkan pada pengembangan senjata, keputusan politik, atau sistem skala besar, ketidakpastian konsekuensi akan membuat perhitungan "untung lebih besar dari rugi" cepat lepas kendali.