Perusahaan AI raksasa ternyata sangat suka merekrut filsuf?!

Piagam Claude versi terbaru disusun dengan dipimpin oleh filsuf Amanda,
setidaknya ada 4 filsuf di posisi penting milik Anthropic, DeepMind minimal memiliki 10 filsuf, dan ketika OpenAI menyusun pedoman perilaku untuk ChatGPT, mereka juga berkonsultasi dengan ratusan filsuf moral.
AI menghadirkan sederet pertanyaan rumit, dan justru itu yang paling ahli ditangani filsuf.

Pertama, filsuf dapat menetapkan batas perilaku untuk AI.
AI perlu memutuskan permintaan mana yang harus ditolak, apa yang lebih diprioritaskan saat keselamatan dan kehendak pengguna bertentangan; pertanyaan-pertanyaan ini menyangkut pemahaman tentang bahaya, kejujuran, dan tanggung jawab—persis bidang yang selama ini lama diteliti filsuf.
Mereka mampu merapikan penilaian nilai yang masih kabur menjadi prinsip-prinsip yang bisa dipatuhi model.

Kedua, pelatihan filsafat juga dapat mengurangi kepercayaan diri AI yang berlebihan dan sikap “menurut” keinginan.
AI cenderung memberi jawaban afirmatif saat tidak yakin, dan ikut arus pandangan pengguna untuk melanjutkan menjawab.
Pelatihan filsafat menekankan pemeriksaan asumsi dan penalaran; pertanyaan berantai ala Socrates dapat membuat model menemukan kontradiksi, serta mengakui batas pengetahuannya.

Terakhir, filsuf dapat membantu AI menangani pilihan yang tidak punya jawaban standar.
Saat kecelakaan terjadi, bagaimana mengurangi dampak pada kendaraan otonom, dan bagaimana model dukungan emosional merespons ketika ada risiko melukai diri, semuanya tidak memiliki jawaban sederhana.
Filsuf telah lama meneliti masalah seperti ini; mereka akan memastikan batas mana yang tidak boleh dilampaui, lalu menganalisis konsekuensi dari setiap pilihan.