Як зберегти безпеку під час популяризації вирощування раків?

“Останнім часом у офісі половина людей обговорює «вирощування лангустів», а інша половина вчиться, як їх «вирощувати»." 13 березня менеджер продукту однієї інтернет-компанії в Пекіні Лі Яо повідомив журналістам, що «вирощування лангустів», яке активно обговорюють колеги, не має нічого спільного з реальним водним господарством, а стосується персоналізованого навчання та розгортання відкритого AI-інтелектуального фреймворку OpenClaw, що був нещодавно випущений.

Оскільки іконка — це червоний лангуст, OpenClaw називають «лангустом». На відміну від звичайного AI, він може через інтеграцію з комунікаційними програмами та великими мовними моделями самостійно виконувати складні завдання, такі як управління файлами, відправлення та отримання пошти, обробка даних на користувацькому комп’ютері.

Чому цей «лангуст» викликав таку популярність? Які безпекові ризики приховує «вирощування лангустів»? Журналіст «Робітничої газети» провів розслідування та інтерв’ю.

У різних регіонах запроваджують підтримуючі політики щодо «лангустів»

Як перший у цьому році AI-інтелектуальний агент, що привернув увагу всього населення, чим саме «лангуст» відрізняється?

«Звичайний AI базується на діалоговій моделі: після запиту користувача він може лише дати відповідь або інструкцію, а «лангуст» — типовий «діяльний». Користувач лише ставить ціль завдання — і він може безпосередньо керувати різними інструментами для виконання всього процесу», — навів приклад технологічний блогер «Зі слідами Аліанга вивчає AI», який раніше працював у провідних інтернет-компаніях. — «Якщо потрібно, щоб він організував важливу пошту, він автоматично відкриє поштову скриньку, відфільтрує вміст і складе чернетку відповіді, — і весь процес без участі користувача».

Науковий співробітник лабораторії цифрових креативів AI в Університеті Пекіна Юй Цзюньвень зазначила: «На відміну від великих мовних моделей, таких як ChatGPT, OpenClaw — це не просто чат-бот, а «цифровий співробітник», який може отримати доступ до локальної операційної системи, викликати різні інструменти та планувати кроки за природною мовою, автоматично виконуючи складні завдання».

«Раніше великі моделі AI, навіть якщо вони були досконалими, обмежувалися своїми сферами і не могли працювати між різними галузями. «Лангуст» ж має ключову перевагу — він зламав бар’єри між різними моделями у різних сферах і справді активує їх функції та цінність», — пояснила Юй Цзюньвень. — «Тому можна сказати, що OpenClaw — це прорив у AI-індустрії, що має місткову та зв’язуючу роль».

У зв’язку з цим багато регіонів активно підтримують цю технологію. За неповними даними, станом на 12 березня у Шеньчжені, районі Лонган, у високотехнологічних зонах Веньсі, Хефеї, у місті Сучжоу Чансу, у Нанкіні Ціся, у Ханчжоу Сяосіан — запроваджено відповідні підтримуючі політики щодо «лангустів», а деякі місцеві уряди пропонують безкоштовні послуги з розгортання «маленьких лангустів» для громадськості.

«Лангуст» приховує багато безпекових ризиків

Після популяризації «вирощування лангустів» перша хвиля користувачів не завжди залишилася задоволеною досвідом.

«Загалом, це не так чудово, як обіцяли в інтернеті», — зізнався Лі Яо. — «Щоб ефективно використовувати «лангуст», потрібно надати доступ до управління різними додатками на комп’ютері. Через обережність я не відкривав багато дозволів, тому вважаю, що ефект обмежений».

Юй Цзюньвень проаналізувала: «Головна здатність OpenClaw — це управління та контроль різних додатків і інструментів. Щоб це реалізувати, користувачі мають надати йому багато дозволів, включаючи пошту, офісні програми, бекенд платформ тощо». Вона порівняла: «Це як якщо б ви хотіли, щоб хтось прибрав у вашому домі — потрібно віддати йому ключі від усіх кімнат». Відповідно, повний доступ до додатків може спричинити ризик витоку даних для особистих або корпоративних користувачів.

10 березня Національний центр реагування на інтернет-інциденти опублікував «Попередження щодо безпеки застосування OpenClaw» (далі — «Попередження»), у якому чітко зазначено, що для реалізації функції «самостійного виконання завдань» цій програмі надано високі системні дозволи. Однак через дуже слабкі стандартні налаштування безпеки зловмисники, виявивши вразливості, можуть легко отримати повний контроль над системою.

Згідно з «Попередженням», станом на сьогодні у OpenClaw виявлено кілька високоризикових вразливостей. Якщо їх зловмисники використають у злочинних цілях, це може призвести до контролю системи, витоку особистих даних і конфіденційної інформації. «Для приватних користувачів це може означати витік особистих даних (фотографій, документів, чатів), платіжних рахунків тощо; для компаній — витік ключових бізнес-даних і комерційної таємниці, що спричинить значні збитки», — пояснила Юй Цзюньвень.

Адвокат Юй Цзюньвень із юридичної фірми «Ханьдінь Юнайтед» зазначив: «Щоб виконати команду користувача, «лангуст» без контролю може збирати великі обсяги даних у мережі, і кількість, рівень доступу та чутливість цих даних часто виходять за межі контролю користувача. Це може кваліфікуватися як незаконне отримання даних із комп’ютерної системи або порушення приватності».

«Крім того, багато користувачів, щоб заощадити час, платять третім особам за розгортання «лангустів», але ці сторонні організації часто не мають належних засобів безпеки, що може призвести до витоку даних або віддаленого контролю пристроїв через зловмисний код, — додав він. — Це створює додаткові ризики для безпеки».

У часи популярності — зберігати безпеку

Урядовий звіт цього року наголошує на поглибленні та розширенні «штучного інтелекту+», прискоренні впровадження нових інтелектуальних пристроїв і агентів, а також на масштабній комерціалізації AI у ключових галузях, створенні нових бізнес-моделей.

«З’явлення «лангустів» відкриває нові шляхи для застосування AI-агентів. За умови правильного регулювання їх використання, можна ефективно застосовувати вже існуючі AI-інтелекти, значно підвищуючи ефективність роботи людей і компаній», — зазначила Юй Цзюньвень. — «Щоб сприяти здоровому розвитку «лангустів», важливо балансувати між зручністю та безпекою».

«Нові технологічні особливості AI-агентів, таких як «лангуст», ускладнюють існуючі правові питання щодо AI», — навів приклад Юй Цзюньвень. — «Наприклад, найважливіша проблема — невизначеність у визначенні відповідальності. Якщо «лангуст» або інший AI-агент виконує дії за інструкцією користувача і спричиняє правопорушення або інші правопорушення, то потрібно чітко визначити, хто несе відповідальність — розробник, розгортальник або користувач, і це має бути закріплено в законодавстві».

Для розробників і сервісних провайдерів Юй Цзюньвень рекомендує: по-перше, дотримуватися вимог закону про захист персональних даних, зокрема, вести журнали обробки даних, що відповідають вимогам збереження та відтворюваності. По-друге, під час роботи слід підвищувати правову обізнаність, зокрема, посилювати управління дозволами AI, перевіряти промпти тощо, щоб зменшити безпекові ризики.

««Попередження» від Центру реагування на інтернет-інциденти також містить конкретні рекомендації: при розгортанні та використанні OpenClaw потрібно строго ізолювати робоче середовище, застосовувати технології контейнеризації для обмеження високих дозволів OpenClaw, суворо контролювати джерела плагінів, регулярно оновлювати патчі та слідкувати за безпековими центрами», — додав він.

«Перед розгортанням «лангустів» користувачам потрібно ретельно оцінити їхню цінність і ризики, визначити, чи справді вони потрібні для вирішення конкретних задач, і лише потім приймати рішення про розгортання», — наголосила Юй Цзюньвень. — «Під час використання обов’язково дотримуватися правил безпеки даних і конфіденційності, не слід сліпо слідувати моді і ризикувати своїми особистими даними та приватністю».