MIT: Jangan panik tentang kiamat AI, kemampuan verifikasi adalah sumber daya yang langka

Sumber: Podcast Bankless; Disusun oleh: Felix, PANews

Ekonom dari MIT, Christian Catalini, hadir di acara Ryan dan David untuk mengupas secara mendalam makalah barunya yang berjudul “Beberapa Ekonomi Sederhana tentang AI Umum”. Makalah tersebut menyatakan bahwa sumber daya yang langka dalam ekonomi AI tidak lagi adalah kecerdasan, melainkan verifikasi: kemampuan manusia untuk memeriksa, menilai, dan memastikan bahwa keluaran AI benar.

Christian menjelaskan secara rinci dua kurva biaya yang akan membentuk ulang berbagai industri (biaya otomatisasi dan biaya verifikasi), serta menguraikan mengapa pekerjaan tingkat awal pertama-tama akan menghilang, dan mengapa bahkan para ahli terbaik pun, tanpa disadari, sedang menumbuhkan penerusnya (“kutukan bagi para pengode”). Ia juga menggambarkan tiga jenis peran yang tetap bertahan selama masa transformasi: direktur, pencipta makna, dan penanggung jawab tanggung jawab.

PANews merangkum inti percakapan tersebut.

Host: Saya ingin banyak pendengar mungkin merasakan hal yang sama seperti saya—ada semacam kepanikan terhadap AI. Menurut Anda, mengapa orang-orang khawatir tentang AI? Apakah kekhawatiran mereka masuk akal?

Christian: Kita semua merasa sejalan. Ini adalah periode perubahan yang cepat dan transformatif; semakin dekat dengan kode, Anda mungkin semakin cepat menyaksikan akselerasi ini—pertumbuhan eksponensial yang terjadi dalam beberapa bulan terakhir terasa sangat nyata. Teknologi ini mewujudkan hal-hal yang banyak orang kira perlu waktu lebih lama untuk dilakukan. Perasaan itu sedang kita semua hadapi. Tapi saya pikir “kiamat” itu keliru; orang-orang sering meremehkan potensi yang dibawa alat-alat ini. Ya, akan ada periode transisi yang sangat sulit, kecepatan peralihan pekerjaan tak pernah terlihat dalam sejarah. Namun meskipun begitu, selama Anda memanfaatkan fitur paling besar dari teknologi ini dan melakukan investasi, dalam jangka panjang hasil utamanya tetap positif—meski sepanjang jalan akan terasa sangat bergejolak. Ekonomi memandang pekerjaan sebagai kumpulan tugas; sebagian tugas akan diotomatisasi—itu kabar baik. Namun kuncinya adalah bagaimana Anda melakukan reskilling ulang dan tetap berada di garis depan.

Host: Menurut Anda, siapa yang paling dulu terkena dampaknya?

Christian: Ini pertanyaan yang sangat bagus; saya punya banyak pemikiran berbeda. Pertama, ketika saya mengatakan orang yang paling dekat dengan kode akan terkena dampak lebih dulu, maksudnya adalah mereka yang paling cepat merasakan betapa kuatnya teknologi ini. Seperti yang diungkapkan oleh “paradoks Jevons”, ketika sesuatu menjadi lebih efisien, justru kita akan mengonsumsi lebih banyak—misalnya kita akan menulis lebih banyak perangkat lunak. Saya pikir pemrograman akan terpecah seperti banyak profesi lain; di makalah kami, itu disebut “lingkaran awal yang menghilang”. Jika Anda masih level pemula dan belum memiliki “pengetahuan tersirat” untuk membedakan produk yang bagus dan yang biasa saja, maka AI dapat menggantikan Anda dengan sangat baik di berbagai bidang.

Saat ini, setiap orang bisa dengan mudah mendapatkan pemasar yang cukup bagus, programmer junior, atau bahkan pengacara yang bisa membantu menangani sebagian besar situasi—Anda hanya perlu memanggil pengacara terbaik pada tahap akhir untuk verifikasi final. Di sisi lain, bahkan bagi para ahli kelas atas, dalam proses memperkenalkan AI, mereka secara sengaja atau tidak sengaja tetap menciptakan label, jejak informasi, dan jejak angka; pada akhirnya, hal-hal itu akan membuat pekerjaan mereka sendiri bisa diotomatisasi. Laboratorium-laboratorium teratas sedang merekrut talenta terbaik di bidang keuangan, misalnya, dan memanfaatkan mereka untuk membuat standar penilaian, mengintegrasikan pengetahuan spesifik bidang tersebut ke dalam model besar. Jadi saya pikir tidak ada pekerjaan tunggal yang benar-benar aman 100%: bahkan kerja fisik yang dibatasi oleh kemampuan manufaktur robot sekalipun, model imbalannya akan mengalami lompatan besar dalam beberapa tahun mendatang. Apa pun yang terjadi di depan layar dapat dilacak, direplikasi, dan dipelajari. Untuk setiap profesi, kuncinya adalah berpikir: jika saya mendelegasikan sebanyak mungkin pekerjaan saya kepada AI, di mana lagi saya bisa menambah nilai?

Pada kenyataannya, ada banyak “penghiburan diri” terhadap “selera” dan “penilaian”. Itu sangat kabur. Jadi dalam makalah, kami mengatakan: tidak ada yang namanya selera, apalagi penilaian baik-buruk; yang ada hanya perbedaan antara “yang bisa diukur” dan “yang tidak bisa diukur”. Jika sesuatu sudah diukur, mesin dapat menirunya. Jika sesuatu masih tertanam pada bobot jaringan saraf di otak Anda—misalnya seorang desainer kelas atas yang telah mengumpulkan puluhan ribu jam pengalaman dan mampu memutuskan mana yang sebaiknya dipublikasikan dan mana yang tidak—itulah yang kami sebut “verifikasi”. Semua verifikasi adalah langkah terakhir ini: agen AI menciptakan produk, dan Anda sebagai pengambil keputusan menilai apakah produk itu telah memenuhi standar untuk diluncurkan ke pasar. Ketika mesin memperoleh data yang semakin baik, hal-hal pun akan diotomatisasi; tetapi menghadapi wilayah yang belum diketahui, atau tempat yang sama sekali tidak ada data, bagian ini di masa depan beberapa tahun tetap akan menjadi urusan manusia.

Host: Ini pandangan yang sangat mendalam. Tapi saya juga berpikir: otomatisasi pekerjaan oleh para insinyur itu wajar. Apakah dampak yang diterima tiap industri akan sama?

Christian: Kami punya cukup bukti bahwa perubahan akan berjalan tidak merata. Bisa dipikir seperti ini: apakah pekerjaan ini hanya semacam “kemasan” untuk sesuatu yang sesungguhnya tidak terlalu dibutuhkan oleh masyarakat? Misalnya pekerjaan konsultasi pada umumnya: jika tujuannya terutama mengemas ulang, merumuskan, dan meringkas informasi yang sudah sangat tersedia, jelas ada risikonya. Tapi jika konsultasi itu membawa pengetahuan profesional yang langka, atau karena alasan politik perlu mempekerjakan konsultan, hal-hal seperti itu akan tetap bertahan. Tanyakan pada diri sendiri: apakah profesi ini menghasilkan keuntungan karena ia menyelesaikan masalah yang kompleks, atau hanya karena ada semacam hambatan buatan.

Host: Verifikasi itu pada dasarnya berarti apa? Saya sulit membagi pekerjaan saya sehari-hari menjadi mana yang pekerjaan kognitif dan mana yang verifikasi.

Christian: Agen telah belajar dan mengukur semuanya dari internet dan buku—karena lebih murah dan mudah diskalakan—sehingga akan menggantikan bagian yang bisa diukur. Namun hal yang belum diketahui agen: yaitu bobot jaringan saraf unik yang ada di otak Anda. Itu Anda peroleh lewat pengalaman dan pergulatan sendiri—dan ini membuat Anda menjadi ahli kelas atas. Contohnya, para peserta awal dalam kripto; banyak dari mereka berasal dari Argentina, Venezuela, dan tempat lain. Mereka mengalami sendiri inflasi yang sangat buruk, sehingga respons mereka terhadap aset sama sekali berbeda. Ukuran batin yang unik itu tetap menjadi keunggulan besar.

Apa itu verifikasi? Itu adalah perbedaan antara standar penilaian Anda sendiri tentang dunia dan standar yang dimiliki agen. Seperti editor kelas atas yang benar-benar tahu artikel mana yang akan terasa beresonansi; atau seperti CTO kelas atas, ketika menghadapi tumpukan besar kode yang dihasilkan AI, ia benar-benar tahu bagian tepi yang menentukan mana yang harus diperiksa langsung oleh manusia—bagian itu masih belum bisa diukur oleh mesin.

Host: Saya beri contoh: jika saya melihat di X sebuah video tentang Israel yang diserang rudal, tetapi saya menemukan bahwa itu dibuat oleh AI. Lalu saya menggunakan otak untuk mengenali masalah, dan mungkin dengan meminta ulang saya bisa menghasilkan video yang lebih baik—apakah itu “kemampuan verifikasi” saya?

Christian: Itu contoh yang bagus. Lebih jauh lagi, kita mungkin segera hidup dalam dunia seperti ini: bagi kebanyakan orang, video tersebut sulit dibedakan dari situasi nyata. Langkah berikutnya: ahli militer bisa melihat bahwa dinamika nyala api tidak sesuai. Langkah berikutnya: bahkan ahli militer pun mungkin tidak bisa membedakannya secara langsung; perlu AI untuk menganalisis prinsip fisika dan melakukan uji simulasi. Pada akhirnya, bisa jadi sama sekali tidak bisa dibedakan; saat itulah kita harus mengandalkan infrastruktur berbasis kriptografi untuk memastikan keaslian. Ini juga berlaku di bidang medis: kasus-kasus tepi pada akhirnya perlu ditolak oleh dokter radiologi kelas atas yang memanfaatkan 20 tahun pengalamannya serta pemahaman terhadap konteks spesifik pasien—untuk membatalkan penilaian AI. Inilah lapisan tipis terakhir yang menjadi fokus kami, “filter” tersebut. Ketika kita melakukan itu, kita membebaskan banyak waktu. Jadi ini sisi baiknya. Kita bisa melakukan lebih banyak hal dengan sumber daya yang lebih sedikit. Biaya untuk hal-hal yang mahal akan turun. Seluruh masyarakat akan mengonsumsi lebih banyak hal-hal tersebut. Saya pikir ini kabar baik.

Host: Tapi dalam contoh Anda, saat ini dia sedang melakukan verifikasi, namun sebentar lagi dia tidak bisa lagi memverifikasi; lalu diperlukan komandan militer, dan pada akhirnya bahkan komandan pun tidak bisa memverifikasi, sehingga harus meminta bantuan AI. Bukankah itu justru menunjukkan bahwa verifikasi awalnya berharga, tapi kemudian akan otomatis diotomatisasi oleh AI? Jadi, bukankah bahkan verifikasi itu sendiri tidak aman?

Christian: Betul. Dalam makalah, kami menyebutnya “kutukan bagi para pemrogram”. Tindakan verifikasi yang sangat rasional itu sendiri mendorong kemajuan teknologi di garis depan dan mengubah data pengalaman menjadi sesuatu yang bisa diolah. Kita tidak bisa berhenti, karena semua pengacara atau praktisi mencoba menggunakan AI. Verifikasi memang merupakan front terdepan yang sedang mengecil.

Host: Bidang verifikasi terakhir pun makin menyempit. Kapan kita tidak perlu merasa cemas?

Christian: Pertama, beberapa hal memang tidak bisa diukur sejak desainnya, seperti apa yang disebut “permainan status” atau hal-hal yang diberi makna oleh manusia. Bidang-bidang ini tidak akan dikuasai mesin, karena cirinya berkaitan dengan konsensus yang terkoordinasi antarmanusia. Kripto, sampai batas tertentu, juga seperti itu: yang penting adalah adanya kesepakatan manusia tentang apa yang bernilai. Seiring mengecilnya bidang kerja yang bisa diukur, kita akan menciptakan banyak cara agar pekerjaan yang tidak bisa diukur menjadi bermakna.

Host: AI bisa membangun situs web dalam 10 detik, tapi mungkin tidak bisa menulis satu cuitan yang menarik bagi manusia. Apakah ini salah satu dari pekerjaan verifikasi yang terakhir tersisa?

Christian: Menarik perhatian orang, serta menceritakan lelucon yang benar-benar baru—itu pekerjaan kreatif yang sangat sulit, yang mencoba memecah hal-hal yang belum pernah diukur. Dalam perjuangan panjang untuk hidup dan mati, kita berevolusi dengan kemampuan yang sangat kuat untuk menghadapi lingkungan yang belum diketahui. Orang-orang yang melakukan jenis pekerjaan ini disebut “pencipta makna”. Misalnya di bidang seni atau budaya, apa itu yang bagus tergantung pada konsensus manusia. Bahkan ketika Anda menggunakan agen AI, Anda tetap harus menetapkan “niat”.

Host: Jika biaya otomatisasi turun secara eksponensial, bagaimana dengan “biaya verifikasi”? Apakah biaya itu akan selamanya terikat pada batasan biologis manusia?

Christian: Saat ini biayanya memang terikat pada biologis. Jadi banyak perusahaan merilis banyak kode yang dihasilkan AI, tapi tidak ada cukup tenaga manusia untuk membacanya dan memverifikasinya—dan pasti ada risiko yang tersembunyi di dalamnya.

Host: Bukankah tidak bisa menggunakan AI untuk memverifikasi AI?

Christian: Jika AI dapat memverifikasi dengan benar, maka bagian itu sendiri sudah bisa diotomatisasi. Setelah menggunakan semua verifikasi berbasis AI, yang tersisa adalah hal-hal yang benar-benar tidak bisa diverifikasi oleh AI—itulah yang menjadi kemacetan intervensi manusia.

Host: Jika verifikasi adalah sumber daya langka baru, tapi terus mundur, lalu bagaimana cara bekerja dan berinvestasi dalam ekonomi ini?

Christian: Kami membuat matriks 2x2 berdasarkan “biaya otomatisasi” dan “biaya verifikasi”. Kotak kiri-bawah adalah para pekerja yang digantikan: otomatisasinya mudah, verifikasinya juga mudah—Anda jelas tidak mau berada di sini. Tiga kuadran lainnya adalah:

Pencipta makna: otomatisasinya sulit, verifikasinya sulit. Mereka berkomitmen pada konsensus sosial, permainan status, dan keterhubungan antarmanusia. Misalnya pencipta selera di dunia fashion, serta KOL kripto di Twitter—mereka menciptakan narasi dan menyelaraskan perhatian.

Penanggung jawab tanggung jawab: otomatisasinya mudah, verifikasinya sulit. Mereka adalah ahli top di bidangnya, seperti pengacara, dokter, atau investor ventura kelas atas. Mereka memanfaatkan AI dalam skala besar, tetapi menyediakan layanan yang menanggung tanggung jawab dan verifikasi untuk kasus-kasus tepi yang paling akhir.

Direktur: otomatisasinya sulit, verifikasinya mudah. Intinya adalah “niat”. Mereka menangani “yang tidak diketahui yang tidak diketahui”—mengarahkan agen seperti layaknya seorang pendiri usaha, menetapkan arah, merasakan deviasi, dan terus melakukan koreksi haluan.

Host: Bagaimana nasib anak muda yang baru lulus dan ingin memasuki dunia kerja? Di satu sisi ada pekerjaan pemula yang tidak bernilai; di sisi lain ada ahli top yang butuh sepuluh tahun untuk diasah dalam industri. Di antaranya ada jurang yang besar. Kalau AI juga bisa mengerjakan pekerjaan tingkat awal, bagaimana anak muda berkembang sampai ke ujung yang lain?

Christian: Jurang itu memang ada. Tapi kabar baiknya adalah Anda bisa memperpendek waktu belajar. Anda bisa melewati langkah-langkah pelatihan tradisional. Seorang insinyur junior sekarang, dengan bantuan alat, bisa melakukan pekerjaan yang dulu dikerjakan oleh satu tim. Meski di awal mereka akan membuat kesalahan, sebagai pendatang baru mereka bisa mempertanyakan tradisi dengan sudut pandang yang sangat segar—dan itu adalah keunggulan. Mereka bisa mewujudkan ide dengan cara yang dulu sama sekali tidak bisa dilakukan oleh kami saat masih muda. Ada pro dan kontra.

Jalur yang dulu ditempuh: “mendapatkan gelar, mencari magang, bekerja keras lalu naik jabatan”, memang sudah tidak ada lagi—dan ini akan menimbulkan benturan budaya yang besar. Ini sangat sulit bagi anak muda yang baru lulus. Jika Anda masih kuliah, Anda masih punya waktu untuk melihat arah dengan jelas. Jika Anda sedang berada dalam situasi sulit, saran saya adalah: gunakan alat-alat ini untuk membangun sesuatu. Ambisi Anda harus 100 kali lebih besar dibanding ambisi yang dimiliki kami pada usia yang sama dulu.

Host: Akankah hilangnya banyak pekerjaan “klik tombol” dalam jangka pendek membuat masyarakat menjadi kacau?

Christian: Masyarakat selalu akan menciptakan kembali pekerjaan “klik tombol” ketika dibutuhkan agar tetap stabil. Namun banyak orang yang mengerjakan jenis pekerjaan itu sebenarnya mampu melakukan lebih banyak; hanya saja dulu mereka terikat oleh lingkungan. Ketika kerja fisik tidak lagi diperlukan, kita menciptakan gym; kini menghadapi pembebasan dari kerja kognitif, orang akan mengembangkan berbagai pekerjaan sampingan dan ekonomi kreator untuk mendapatkan rasa tantangan. Itulah sebabnya saya menganggap “pendapatan dasar universal tanpa syarat (UBI)” benar-benar salah—manusia membutuhkan dorongan untuk makna dan aktualisasi diri. Selain itu, meskipun kini sebagian besar pekerjaan Anda digantikan oleh otomatisasi, jika Anda memanfaatkan AI sebagai alat super ini, bahkan seorang karyawan junior yang baru mulai pun bisa meledak dengan output yang sebelumnya hanya bisa dihasilkan oleh satu tim.

Host: Saran Anda untuk perusahaan dan investor apa?

Christian: Untuk perusahaan, berinvestasilah pada infrastruktur verifikasi, sediakan “responsibility as a service” (yaitu bukan hanya menyediakan agen, tetapi juga menanggung konsekuensinya). Selain itu, kuasai “sumber fakta eksklusif”, karena AI mudah ditipu; kemampuan menyediakan data eksklusif yang benar seperti Bloomberg atau penilaian mendalam memiliki nilai yang sangat besar. Bagi investor, selain investasi itu, fokus pada R&D yang “tidak bisa diukur” yang benar-benar hardcore. Dulu, jaringan efek biasa mungkin gagal; jaringan efek baru akan terbentuk dari cara Anda membuat agen Anda lebih andal dibanding yang lain lewat umpan balik nyata yang lebih baik, karena yang benar-benar ingin dibeli orang adalah kecerdasan yang sudah terverifikasi.

Host: Apakah teknologi kripto berguna dalam proses verifikasi ini?

Christian: Infrastruktur dasar yang dibangun di bidang kripto selama sepuluh tahun terakhir sangat penting. Saat kita perlu memastikan keaslian identitas dan mencegah pengambilalihan akun, teknologi on-chain seperti “proof of personhood” dapat memberikan verifikasi yang kuat. Ada juga sumber data dan rantai pengawasan kriptografi; kita butuh jaminan kriptografi yang tegas untuk memastikan apakah informasi dan modelnya sesuai aturan.

Host: Orang-orang harus melakukan apa di tahun depan? Apakah Anda optimistis tentang masa depan manusia?

Christian: Pertama, jangan panik. Lakukan banyak eksperimen; gunakan alat sebanyak mungkin untuk “menggantikan” dan mengotomatisasi versi diri Anda saat ini. Eksplorasi masa depan lewat banyak hobi mungkin justru menjadi usaha yang paling bermakna. Paling tidak, Anda bisa memetakan batas dan kekurangan model. Untuk banyak kreator konten di internet, hobi sudah berubah menjadi karier; itu akan menjadi arah utama di masa depan. Jika Anda punya anak, temukan bakat mereka dan biarkan mereka tenggelam dalam apa yang mereka sukai—itulah yang paling penting. Tidak ada template profesional yang tetap; alat AI baru akan membantu kalian menemukan jalan yang hanya milik kalian.