Alasan untuk AI yang membosankan

Lomba benchmark AI punya pemenang. Hanya saja itu bukan Anda.

Setiap beberapa bulan, model baru muncul dan papan peringkat baru berantakan lagi. Laboratorium berlomba untuk mengungguli satu sama lain dalam penalaran, kode, dan jawaban pada tes yang dirancang untuk mengukur kecerdasan mesin. Cakupannya mengikuti. Pendanaannya juga.

Yang kurang mendapat perhatian adalah apakah semua ini sesuatu yang tak terhindarkan. Benchmark, perlombaan senjata, cara membingkai AI sebagai keselamatan atau bencana—semua itu adalah pilihan, bukan hukum fisika. Itu mencerminkan apa yang diputuskan industri untuk dioptimalkan, dan apa yang diputuskan untuk didanai. Teknologi yang akan matang dalam puluhan tahun dengan cara-cara yang biasa dan berguna tidak mendatangkan miliaran tahun kuartal ini. Narasi ekstrem justru melakukannya.

Sebagian peneliti mengira tujuan itu sendiri keliru. Bukan berarti AI tidak penting, tetapi “penting” tidak harus berarti “tanpa preseden.” Mesin cetak mengubah dunia. Listrik juga. Keduanya mengubah dunia secara bertahap, lewat adopsi yang berantakan, memberi masyarakat waktu untuk merespons. Jika AI mengikuti pola itu, pertanyaan yang tepat bukan soal superintel. Melainkan tentang siapa yang diuntungkan, siapa yang dirugikan, dan apakah alat yang sedang kita bangun benar-benar bekerja bagi orang-orang yang menggunakannya.

Banyak peneliti telah mengajukan pertanyaan-pertanyaan itu dari arah yang sangat berbeda. Berikut tiga di antaranya.

Bermanfaat, bukan umum

Ruchir Puri telah membangun AI di IBM $IBM -0.57% sejak sebelum kebanyakan orang mendengar tentang machine learning. Ia menyaksikan Watson mengalahkan pemain Jeopardy terbaik di dunia pada 2011. Ia menyaksikan beberapa gelombang sensasi mencapai puncak lalu surut sejak saat itu. Saat gelombang saat ini tiba, ia punya tes sederhana untuk itu: apakah itu berguna?

Tidak mengesankan. Tidak umum. Berguna.

“Saya tidak terlalu peduli dengan artificial general intelligence,” katanya. “Saya peduli bagian yang berguna.”

Kerangka itu membuatnya berselisih dengan citra diri sebagian besar industri. Laboratorium yang berlomba menuju AGI mengoptimalkan untuk keluasan, membangun sistem yang bisa melakukan apa saja, menjawab apa saja, bernalar tentang apa saja. Puri mengira target itu salah, dan ia punya benchmark yang ingin ia lihat industri benar-benar coba capai.

Otak manusia hidup di 1.200 sentimeter kubik, mengonsumsi 20 watt, energi dari sebuah lampu, dan, seperti yang ditunjukkan Puri, berjalan dengan sandwich. Satu GPU Nvidia $NVDA +0.14% mengonsumsi 1.200 watt, 60 kali lebih banyak daripada seluruh otak, dan Anda perlu ribuan di antaranya di pusat data raksasa untuk melakukan sesuatu yang bermakna. Jika otak adalah benchmark, industri ini belum dekat dengan efisien. Itu berjalan ke arah yang salah.

Alternatifnya adalah sesuatu yang ia sebut arsitektur hibrida: model kecil, sedang, dan besar yang bekerja bersama, masing-masing ditugaskan pada tugas yang paling ditanganinya. Model frontir besar melakukan penalaran dan perencanaan yang kompleks. Model yang lebih kecil yang dibuat khusus menangani eksekusi. Tugas sesederhana menyusun email tidak perlu sistem yang dilatih dengan setengah internet. Ia butuh sesuatu yang cepat, murah, dan terfokus. Setiap sembilan bulan atau lebih, Puri mencatat, model kecil dari generasi sebelumnya menjadi kira-kira setara dengan yang dulu dianggap besar. Kecerdasan makin murah. Pertanyaannya apakah ada yang membangun sesuai realitas itu.

Pendekatan ini punya dukungan dunia nyata. Airbnb $ABNB +1.49% memakai model yang lebih kecil untuk menyelesaikan sebagian besar masalah layanan pelanggan lebih cepat daripada perwakilan manusia mereka. Meta $META -0.25% tidak memakai model terbesarnya untuk menayangkan iklan; ia mendistilasi pengetahuan itu menjadi model yang lebih kecil yang dibangun khusus untuk tugas itu saja. Polanya cukup konsisten sampai peneliti mulai menyebutnya sebagai knowledge assembly line: data mengalir masuk, model-model terspesialisasi menangani langkah-langkah diskrit, dan sesuatu yang berguna keluar di ujung lainnya.

IBM sudah membangun assembly line itu lebih lama daripada kebanyakan. Agen hibrida yang menggabungkan model dari beberapa perusahaan menunjukkan peningkatan produktivitas 45% di seluruh tenaga kerja rekayasa yang besar. Sistem yang berjalan dengan model yang lebih kecil dan dibuat khusus kini membantu para insinyur yang menjaga 84% transaksi keuangan dunia agar mendapatkan informasi yang tepat pada waktu yang tepat. Ini bukan aplikasi yang heboh. Mereka juga tidak gagal.

Semuanya tidak membutuhkan sistem yang bisa menulis puisi atau menyelesaikan PR matematika anak Anda. Mereka membutuhkan sesuatu yang lebih sempit, dan karena itu lebih dapat dipercaya. Model yang dilatih untuk melakukan satu hal dengan baik tahu kapan sebuah pertanyaan berada di luar cakupannya. Ia mengatakannya. Ketidakpastian yang sudah dikalibrasi—tahu apa yang tidak Anda ketahui—adalah sesuatu yang masih sulit dihadapi model frontir besar.

“Saya ingin membangun agen dan sistem untuk proses-proses itu,” kata Puri. “Bukan sesuatu yang menjawab dua juta hal.”

Alat, bukan agen

Ben Shneiderman punya tes sederhana untuk mengetahui apakah sebuah sistem AI dirancang dengan baik. Apakah orang yang menggunakannya merasa seperti mereka melakukan sesuatu, atau terasa seperti ada sesuatu yang dikerjakan untuk mereka?

Pembedaan itu lebih penting daripada kedengarannya. Shneiderman, seorang ilmuwan komputer di University of Maryland yang membantu meletakkan dasar bagi desain antarmuka modern, telah menghabiskan puluhan tahun berargumen bahwa tujuan teknologi adalah memperkuat kemampuan manusia, bukan menggantikannya. Alat yang baik membangun apa yang ia sebut user self-efficacy, atau kepercayaan diri yang muncul dari mengetahui bahwa Anda bisa melakukan sesuatu sendiri. Yang buruk memindahkan agensi itu dengan diam-diam ke tempat lain.

Ia mengira sebagian besar industri AI sedang membangun alat yang buruk, dan ia pikir peralihan ke arah agen membuatnya makin buruk. Pemasarannya untuk agen AI adalah bahwa mereka bertindak atas nama Anda, menangani tugas dari ujung ke ujung tanpa keterlibatan Anda. Bagi Shneiderman, itu bukan fitur. Itu masalahnya. Jika sesuatu berjalan salah, dan memang akan, siapa yang bertanggung jawab? Jika sesuatu berjalan benar, siapa yang belajar apa pun?

Jeram yang telah ia lawan sejak lama punya nama. Antropomorfisme, dorongan untuk membuat teknologi terlihat seperti manusia, adalah sesuatu yang terus menang, dan terus gagal. Pada era 1970-an, bank bereksperimen dengan ATM yang menyapa nasabah dengan “Bagaimana saya bisa membantu Anda?” dan memberi diri mereka nama seperti Tilly the Teller dan Harvey the World Banker. Mereka kemudian digantikan oleh mesin yang menampilkan tiga opsi untuk Anda. Saldo, uang tunai, setoran. Pemanfaatan melonjak. Citibank memiliki penggunaan 50% lebih tinggi daripada para pesaingnya. Orang tidak ingin hubungan sintetis. Mereka ingin mendapatkan uang mereka.

Pola yang sama terulang lintas dekade, lewat Microsoft $MSFT -0.16% Bob, pin AI dari Humane, dan gelombang robot humanoid. Setiap kali, versi yang antropomorfik gagal dan digantikan oleh sesuatu yang lebih seperti alat. Shneiderman menyebutnya gagasan zombie. Ia tidak mati, ia hanya terus kembali.

Yang berbeda sekarang adalah skala dan kecanggihan. Generasi AI saat ini, ia akui, benar-benar mengesankan, bahkan sangat mengejutkan. Tapi mengesankan dan berguna tidaklah sama, dan sistem yang dirancang untuk tampak manusiawi, mengatakan “saya”, mensimulasikan hubungan, sedang mengoptimalkan kualitas yang salah. Pertanyaan yang ia ingin para perancang ajukan lebih sederhana: apakah ini memberi orang lebih banyak kekuatan, atau lebih sedikit?

“Tidak ada ‘saya’ dalam AI,” katanya. “Atau setidaknya, seharusnya tidak ada.”

Orang, bukan benchmark

Karen Panetta punya jawaban sederhana mengapa pengembangan AI terlihat seperti ini. Ikuti uangnya.

Panetta, seorang profesor bidang teknik elektro dan komputer di Tufts University dan fellow IEEE, meneliti etika AI dan punya pandangan yang jelas tentang ke mana teknologi seharusnya pergi. Hewan peliharaan bantu untuk pasien Alzheimer, alat pembelajaran adaptif untuk anak-anak dengan gaya kognitif berbeda, pemantauan rumah pintar untuk lansia yang menua di tempat. Teknologi untuk melakukannya dengan baik, katanya, sebagian besar sudah ada. Investasinya tidak.

“Manusia tidak peduli tentang benchmark,” katanya. “Mereka peduli, apakah itu bekerja saat saya membelinya, dan apakah itu benar-benar akan membuat hidup saya lebih mudah?”

Masalahnya adalah orang-orang yang paling diuntungkan dari AI bantu yang dirancang dengan baik juga merupakan orang-orang dengan promosi paling kurang menarik bagi seorang venture capitalist. Sistem yang mengubah proses manufaktur, mengurangi cedera di tempat kerja, dan menurunkan biaya kesehatan untuk karyawan perusahaan punya pengembalian yang jelas. Pendamping robot yang menjaga pasien Alzheimer agar tetap tenang dan terhubung memerlukan jenis matematika yang sama sekali berbeda. Jadi uang mengalir ke mana uang mengalir, dan populasi yang paling punya untuk mendapatkan terus menunggu.

Yang berubah, kata Panetta, adalah masalah rekayasa yang mahal akhirnya sedang diselesaikan dalam skala. Sensor menjadi lebih murah. Baterai lebih ringan. Protokol nirkabel sudah ada di mana-mana. Investasi yang sama yang dulu membangun robot industri untuk lantai pabrik diam-diam membuat robotika konsumen menjadi layak dengan cara yang belum terjadi lima tahun lalu. Jalan dari gudang ke ruang tamu lebih pendek daripada yang terlihat.

Tapi ia punya kekhawatiran bahwa kegembiraan di sekitar transisi itu cenderung terlewat. Robot fisik punya batasan alami. Anda tahu batas gaya. Anda tahu kinematikanya. Anda bisa memperkirakan, mensimulasikan, dan merancang di sekitar bagaimana robot-robot itu akan gagal. Generative AI tidak membawa jaminan-jaminan itu. Ia non-deterministik. Ia melakukan halusinasi. Tidak ada yang benar-benar memetakan apa yang terjadi ketika Anda menempatkannya di dalam sistem yang hadir secara fisik di rumah seseorang dengan demensia, atau seorang anak yang tidak bisa mengenali kapan sesuatu telah berjalan salah.

Ia telah melihat apa yang terjadi ketika sebuah sensor jadi kotor dan sebuah robot kehilangan kesadaran ruangnya. Ia telah memikirkan apa artinya membangun sesuatu yang mempelajari detail-detail intim tentang hidup seseorang—rutinnya, keadaan kognitifnya, momen-momen kebingungannya—lalu bertindak secara otonom berdasarkan informasi itu. Penangkal kegagalan, katanya, belum menyusul.

“Saya tidak khawatir tentang robotnya,” katanya. “Saya khawatir tentang AI-nya.”

📬 Daftar untuk Daily Brief

Buletin gratis kami yang cepat dan seru tentang ekonomi global, dikirim setiap pagi di hari kerja.

Daftarkan saya