Короткий аналіз Lilli від McKinsey: які ідеї розвитку вона запропонувала для ринку AI для підприємств?

Кейс Lilli від McKinsey пропонує ключові ідеї для розвитку ринку AI для підприємств: Передові обчислення + потенційні ринкові можливості малих моделей. Цей AI асистент, який інтегрував 100 000 внутрішніх документів, не тільки здобув 70% прихильності працівників, але й використовувався в середньому 17 разів на тиждень. Така стійкість продукту є справді рідкісною серед підприємницьких інструментів. Далі я поділюся своїми думками:

1. Безпека даних підприємств є болючою проблемою: основні знання, накопичені McKinsey за 100 років, а також специфічні дані деяких малих та середніх підприємств мають високий рівень чутливості до даних і не підлягають обробці в публічному хмарі. Як знайти баланс, при якому “дані не виходять за межі локального, а можливості ШІ не зменшуються”, є реальною потребою на ринку. Передові обчислення є напрямком для дослідження;

2. Професійні маленькі моделі замінять універсальні великі моделі: підприємствам не потрібні “моделі з сотнями мільярдів параметрів, універсального типу”, а спеціалізовані асистенти, які можуть точно відповідати на питання в конкретних областях. На противагу цьому, між універсальністю великих моделей і їхньою професійною глибиною існує природний конфлікт, в корпоративних сценаріях зазвичай більше цінуються маленькі моделі;

3）Баланс витрат на власну інфраструктуру AI та виклики API: незважаючи на те, що комбінація передових обчислень та малих моделей вимагає значних початкових вкладень, довгострокові експлуатаційні витрати помітно знижуються. Уявіть, якщо AI великих моделей, які часто використовуються 45000 співробітниками, походять з викликів API, ця залежність, зростання масштабу використання та кількість коментарів зроблять власну інфраструктуру AI раціональним вибором для середніх і великих підприємств;

4）Нові можливості на ринку периферійного апаратного забезпечення: тренування великих моделей неможливе без потужних GPU, але вимоги до апаратного забезпечення для периферійного висновку зовсім інші. Чипмейкери, такі як Qualcomm і MediaTek, оптимізують процесори для периферійного AI та отримують хороші можливості на ринку. Коли кожна компанія прагне створити свій “Lilli”, спеціально розроблені для низького споживання енергії та високої ефективності периферійні AI чипи стануть обов’язковою частиною інфраструктури;

5. Децентралізований ринок штучного інтелекту web3 також зростає: як тільки попит на обчислювальну потужність, тонке налаштування та алгоритми на малих моделях буде виникнено, як збалансувати планування ресурсів стане проблемою, а традиційне централізоване планування ресурсів стане проблемою, що безпосередньо принесе великий ринковий попит на децентралізовану мережу тонкого налаштування малих моделей web3AI, платформу децентралізованих обчислювальних послуг тощо;

Коли ринок все ще обговорює межі загальних можливостей AGI, приємно бачити, що багато підприємств уже почали розкривати практичну цінність ШІ. Очевидно, що в порівнянні з минулими стрибками монополії на ресурси через обчислювальну потужність і алгоритми, зміщення акценту ринку на Передові обчислення + маленькі моделі принесе більше ринкової активності.