Jangan usik dompet saya: Penelitian Apple menunjukkan bahwa pengguna tidak menyukai AI yang sok pintar

IT之家 13 Februari, mengabarkan bahwa tim riset pembelajaran mesin Apple merilis makalah berjudul “Memetakan Ruang Desain Pengalaman Pengguna untuk Agen Pengoperasian Komputer” pada 7 Februari, yang berfokus mengungkap harapan nyata dan preferensi interaksi pengguna terhadap agen AI.

Para peneliti menunjukkan bahwa meskipun pasar sedang berinvestasi besar dalam pengembangan agen AI, eksplorasi mengenai bentuk antarmuka dan logika interaksi masih kurang memadai. Oleh karena itu, tim melakukan analisis terhadap produk yang ada dan melakukan pengujian pengguna di lapangan untuk mencoba merumuskan standar desain di bidang yang baru ini.

Pada tahap pertama penelitian, IT之家 mengutip pengenalan dari sebuah blog, di mana tim secara mendalam menganalisis sembilan agen AI utama baik untuk desktop maupun perangkat mobile, termasuk Claude Computer Use, OpenAI Operator, dan AutoGLM.

Penelitian ini melibatkan konsultasi dengan delapan profesional berpengalaman, dan membangun sebuah sistem klasifikasi yang mencakup empat dimensi utama: “Instruksi Pengguna”, “Keterjelasan Aktivitas”, “Kontrol Pengguna”, dan “Model Mental”. Sistem ini mencakup seluruh proses mulai dari pengguna memberikan perintah, hingga AI menampilkan rencana operasinya, melaporkan kesalahan, dan menyerahkan kendali.

Pada tahap kedua, penelitian menggunakan metode klasik “Wizard of Oz” (Penyihir dari Oz). Tim merekrut 20 pengguna berpengalaman AI, yang diminta menyelesaikan tugas penyewaan liburan atau belanja online melalui antarmuka obrolan.

Untuk menghindari gangguan dari kerusakan teknis, dan secara akurat menangkap reaksi psikologis serta pola perilaku pengguna saat menghadapi keputusan AI, Apple menggunakan simulasi manusia terhadap operasi AI (termasuk kesalahan sengaja atau terjebak dalam loop tak berujung). Pengguna tidak mengetahui bahwa “AI” di layar sebenarnya adalah peneliti yang berada di ruangan sebelah.

Hasil eksperimen menunjukkan bahwa pengguna memiliki kebutuhan halus terhadap “transparansi”: mereka ingin memahami arah AI, tetapi menolak pengelolaan mikro setiap langkah, karena hal ini akan menghilangkan makna penggunaan agen cerdas.

Kebutuhan ini bervariasi tergantung pada situasi: dalam tugas eksploratif atau yang tidak dikenal, pengguna menginginkan lebih banyak langkah perantara dan penjelasan; sedangkan dalam situasi berisiko tinggi (seperti pembayaran atau pengubahan data akun), pengguna menuntut hak konfirmasi mutlak.

Penelitian terakhir menegaskan bahwa kepercayaan adalah fondasi interaksi manusia dan mesin, tetapi sangat rapuh. Ketika agen AI menghadapi pilihan yang ambigu tanpa menanyakan terlebih dahulu (asumsi diam), atau menyimpang dari rencana awal tanpa pemberitahuan, kepercayaan pengguna akan cepat runtuh.

Setelah menghadapi ketidakpastian, pengguna tidak ingin AI memilih secara acak demi mengejar “otomatisasi”, melainkan lebih memilih AI untuk berhenti dan meminta klarifikasi, terutama jika pilihan tersebut berpotensi menyebabkan kesalahan pembelian atau kerugian nyata lainnya.

IT之家 melampirkan alamat referensi

Apple Official Website: Mapping the Design Space of User Experience for Computer Use Agents
Arxiv: Mapping the Design Space of User Experience for Computer Use Agents