Analisis singkat tentang Lilli dari McKinsey: Apa saja pemikiran pengembangan yang ditawarkan untuk pasar AI perusahaan?

Kasus Lilli dari McKinsey memberikan pemikiran penting untuk pengembangan pasar AI perusahaan: Komputasi Edge + peluang pasar kecil model. Asisten AI yang mengintegrasikan 100.000 dokumen internal ini tidak hanya mendapatkan tingkat adopsi 70% dari karyawan, tetapi juga digunakan rata-rata 17 kali per minggu, yang menunjukkan daya tarik produk yang jarang terjadi di alat perusahaan. Berikut, saya akan membahas pemikiran saya:

1. Keamanan data perusahaan adalah titik nyeri: Aset pengetahuan inti yang terakumulasi selama 100 tahun oleh McKinsey dan beberapa data spesifik yang terakumulasi oleh usaha kecil dan menengah memiliki sensitivitas data yang sangat tinggi, dan tidak diolah di cloud publik. Bagaimana menjelajahi kondisi “data tidak keluar dari lokal, kemampuan AI tidak terpengaruh” adalah kebutuhan pasar yang sebenarnya. Komputasi Edge adalah arah eksplorasi;

2）Model kecil yang profesional akan menggantikan model besar yang umum: Pengguna perusahaan tidak memerlukan model umum “seratus miliar parameter, serba bisa”, tetapi asisten profesional yang dapat memberikan jawaban yang akurat untuk masalah di bidang tertentu. Sebaliknya, terdapat konflik alami antara universalitas model besar dan kedalaman profesional, sering kali di lingkungan perusahaan lebih menghargai model kecil;

3）Keseimbangan biaya pembangunan infra AI dan pemanggilan API: Meskipun kombinasi Komputasi Edge dan model kecil memerlukan investasi awal yang besar, biaya operasional jangka panjang dapat berkurang secara signifikan. Bayangkan jika 45000 karyawan sering menggunakan model AI besar yang berasal dari pemanggilan API, ketergantungan yang dihasilkan, peningkatan skala penggunaan dan komentar akan membuat pembangunan infra AI menjadi pilihan rasional bagi perusahaan menengah dan besar;

4. Peluang baru di pasar perangkat keras edge: Pelatihan model besar tidak dapat dipisahkan dari GPU kelas atas, tetapi persyaratan perangkat keras untuk inferensi edge sepenuhnya berbeda. Produsen chip seperti Qualcomm dan MediaTek yang mengoptimalkan prosesor untuk AI edge sedang menghadapi peluang pasar yang baik. Ketika setiap perusahaan ingin menciptakan “Lilli” mereka sendiri, chip AI edge yang dirancang khusus untuk efisiensi tinggi dan konsumsi daya rendah akan menjadi kebutuhan infrastruktur.

5）Pasar AI web3 yang terdesentralisasi juga semakin diperkuat: setelah permintaan perusahaan untuk komputasi, penyesuaian, dan algoritma pada model kecil mulai meningkat, bagaimana menyeimbangkan penjadwalan sumber daya akan menjadi masalah. Penjadwalan sumber daya terpusat yang tradisional akan menjadi tantangan, yang secara langsung akan membawa permintaan pasar yang besar untuk jaringan penyesuaian model kecil web3AI terdesentralisasi, platform layanan komputasi terdesentralisasi, dan sebagainya.

Ketika pasar masih mendiskusikan batas kemampuan umum AGI, lebih menyenangkan melihat banyak pengguna dari sisi perusahaan sudah menggali nilai praktis AI. Jelas, dibandingkan dengan lompatan monopoli sumber daya yang bersaing dalam hal daya komputasi dan algoritma di masa lalu, ketika pasar memfokuskan perhatian pada Komputasi Edge + model kecil, itu akan membawa lebih banyak vitalitas pasar.