Keberhasilan atau kegagalan AI perusahaan, kuncinya bukan pada model melainkan pada 'konteks'…… 7 syarat era agen cerdas

Perkenalan kecerdasan buatan tingkat perusahaan (AI) sedang melampaui tahap “eksperimen”, beralih ke penerapan bisnis nyata, tetapi di lapangan, hasilnya seringkali belum memenuhi harapan. Industri menunjukkan bahwa penyebabnya bukan karena kurangnya model yang lebih unggul, melainkan kurangnya “konteks”. Terlepas dari seberapa hebat agen AI yang digunakan, jika tidak mampu memperoleh pengetahuan internal perusahaan dan konteks bisnis secara tepat, maka akan terhenti di tahap pengambilan keputusan.

Ketua Dewan Direksi Appen Ltd. Vanessa Liu baru-baru ini menyatakan di acara bersama theCUBE dan New York Stock Exchange (NYSE): “Data sangat penting bagi perusahaan dalam memanfaatkan AI. Sama seperti karyawan terbaik pun membutuhkan pelatihan adaptasi organisasi setelah bergabung, agen AI juga harus menyediakan konteks bisnis agar dapat berjalan dengan normal.” Hadir pula eksekutif dari bidang infrastruktur data, keuangan, modernisasi perusahaan, dan AI sumber terbuka, termasuk CEO Thomson Reuters Corp. Steve Hasker, yang bersama-sama membahas “bagaimana membuat agen benar-benar terimplementasi dalam bisnis nyata”.

1. Daya saing perusahaan akhirnya bergantung pada “data eksklusif”

Pembicara sepakat bahwa hanya mengandalkan model AI canggih saja tidak cukup untuk membedakan diri. Intinya adalah akumulasi data internal dan pengetahuan bisnis jangka panjang perusahaan. Ketua Liu menyoroti bahwa pengetahuan profesional khas perusahaan seringkali belum tersusun secara sistematis. CEO Hasker berpendapat bahwa agen yang kompetitif di masa depan tidak lagi hanya bergantung pada “apakah mudah digunakan”, melainkan pada “apakah memiliki pertahanan data yang mampu melindungi pasar”.

2. Pengguna tidak akan menunggu, agen juga tidak akan menunggu

Kecepatan kini dianggap sebagai syarat dasar, bukan pilihan. Chief Product Officer Bright Data Ltd. Ariel Schulman menjelaskan bahwa ketika pengguna melihat tulisan “sedang mencari di web” di layar chatbot, timer kesabaran mereka mulai berjalan. Bright Data saat ini menyediakan data pengambilan web sebagai titik awal respons chatbot, dengan waktu transfer halaman dikendalikan di bawah 1 detik, dengan median 500 milidetik. Karena kecepatan pengambilan data yang terlalu lambat, agen mungkin kehilangan pengguna sebelum menyusun jawaban yang lengkap.

3. Agen AI yang menangani uang membutuhkan “rekening” dan sistem identitas

Ada pandangan yang menyatakan bahwa jika agen AI harus melakukan pembayaran atau transfer keuangan, maka diperlukan sistem otentikasi setara dengan dokumen identitas manusia. Sean Neville, Co-Founder dan CEO Catena Labs Inc., mengatakan bahwa bank harus mampu memverifikasi siapa yang mewakili agen tersebut, apa yang bisa dilakukan, dan alasan di balik tindakan tertentu. Konsep ini bertujuan memastikan akuntabilitas dan keterlacakan otomatisasi keuangan melalui sistem yang disebut “Kenali Agen Anda (Know Your Agent)”.

4. Melampaui “terkunci vendor”, kini “terkunci token” justru menjadi masalah

Dalam acara juga ada peringatan: jika seluruh sistem dibangun sepenuhnya di sekitar satu model AI tertentu, di masa depan perusahaan mungkin kehilangan kendali biaya. CEO OutSystems Inc. Woodson Martin menunjukkan bahwa perusahaan yang bergantung pada satu model mutakhir akan menghadapi tekanan profitabilitas seiring akumulasi biaya inferensi. Ia menekankan perlunya platform yang memungkinkan penggantian model yang sedang berjalan tanpa perlu menulis ulang sistem dasar, yang merupakan solusi nyata dalam strategi agen untuk pengelolaan laba-rugi.

5. “Memberikan” alat AI dan benar-benar “menggunakan” adalah dua hal berbeda

Ada jarak besar antara aplikasi nyata di lapangan dan persepsi manajemen. Chief Information Officer WalkMe Ltd. Tye Kim menyatakan bahwa 80% manajemen percaya mereka telah menyediakan alat AI yang hebat untuk karyawan, tetapi yang benar-benar setuju dengan pandangan ini hanya sedikit karyawan. Masalahnya bukan pada jumlah alat, melainkan apakah alat tersebut mampu menampilkan fungsi secara alami pada waktu yang tepat. Tanpa panduan berbasis konteks yang muncul secara alami dalam proses bisnis dan saat dibutuhkan, investasi AI pasti akan mengalami penurunan efektivitas.

6. Harus mulai dari model paling kuat, lalu cari alternatif yang lebih murah

Ada juga pandangan bahwa strategi mengutamakan pengurangan biaya adalah kesalahan strategis. Wu Qingyun dari AG2ai menyatakan bahwa harus dimulai dengan model berkinerja tertinggi untuk memastikan tingkat pencapaian, kemudian membandingkan model sumber terbuka dan alternatif murah lainnya apakah mampu memberikan performa yang sama. Artinya, jika dari awal sudah menetapkan titik awal pada model murah, perusahaan berisiko kehilangan kemampuan yang dibutuhkan. Baru kemudian, di tahap berikutnya, bisa menyeimbangkan antara biaya dan performa.

7. Pilot mudah dilakukan, tetapi tahap operasional nyata paling rawan gagal

Risiko terbesar bukan terletak pada proyek pilot, melainkan saat masuk ke lingkungan produksi. Bar Moses, Co-Founder dan CEO Monte Carlo Data Inc., menjelaskan bahwa banyak agen yang berjalan baik dalam proof of concept (POC) awal, tetapi setelah diterapkan secara nyata sering mengalami masalah seperti data usang, melewati langkah inferensi, konsumsi token berlebihan, atau munculnya “ilusi” yang tidak terdeteksi selama pengujian. Terutama, pengadilan telah memutuskan bahwa tanggung jawab akhir atas tindakan agen tidak berada pada pengguna, melainkan pada perusahaan yang membuat layanan tersebut. Oleh karena itu, membangun sistem kontrol dan pemantauan menjadi semakin penting.

Penilaian akhir menunjukkan bahwa kompetisi AI perusahaan berikutnya tidak lagi bergantung pada performa model itu sendiri, melainkan pada “seberapa akurat konteks yang bisa disediakan dan seberapa stabil operasinya”. Seiring agen AI semakin menggantikan pekerjaan nyata, data dan pengetahuan internal perusahaan, kecepatan, pengendalian biaya, serta struktur tanggung jawab kemungkinan besar akan menjadi faktor kunci keberhasilan atau kegagalan.