Працівники використовують ШІ шкідливими способами — і компанії можуть бути в темряві

Штучний інтелект вдарив по робочій силі, наче землетрус, і все більше компаній стикаються з наслідками.

Однією з зростаючих проблем є так званий «тіньовий ШІ», коли працівники використовують ШІ у способах, яких не слід, чи то ненавмисно, чи навмисно.

За недавнім дослідженням Мельбурнського університету та KPMG, 47% опитаних професіоналів з кар’єрою використовували ШІ на роботі неправомірно, а 63% бачили, як інші співробітники використовують ШІ неправомірно. Випадки різняться — від використання ШІ для спілкування під час внутрішніх тестів оцінки продуктивності компанії до введення чутливих даних компанії у сторонні інструменти ШІ.

Такі дії несуть величезний ризик для компаній, зазначили у дослідженні.

«Це невидиме або тіньове використання ШІ не лише посилює ризики — воно також серйозно заважає організаціям виявляти, керувати та зменшувати ці ризики», — йдеться у звіті.

Компанії стикаються з ілюзією компетентності, яку створює ШІ

Експерти з робочого середовища кажуть, що справжня зміна з ШІ полягає не в тому, що працівники раптом стали нечесними. Зміна у тому, що ШІ швидко, легко та непомітно робить короткі шляхи.

«До появи ШІ приховати погану роботу було важче», — сказала Захра Тімса, керівник з управління ШІ та генеральний директор i-GENTIC AI, платформи для відповідності ШІ. «Зараз працівник може за кілька хвилин створити відшліфований звіт, і менеджери вважають його компетентним. Це створює ілюзію продуктивності.»

Наприклад, Тімса наводить приклад працівника, який використовує ШІ для аналізу та впевнено його презентує, але не може його захистити, коли його запитують. «Компанія приймає рішення на основі роботи, яку ніхто справді не розуміє», — додала вона. «Найбільша загроза — не шахрайство на тестах. Це те, що компанії тихо втрачають внутрішню інформацію, вважаючи, що їхні команди мислять незалежно.»

Інші високопоставлені керівники кажуть, що дані свідчать про те, що компанії лише зараз бачать верхівку айсберга у використанні тіньового ШІ. Ось більш повна картина з дослідження Мельбурна:

— 44% працівників у США використовують інструменти ШІ без належного дозволу,

— 46% завантажили чутливу інформацію компанії та інтелектуальну власність на публічні платформи ШІ, а 64% зізнаються, що докладають менше зусиль до роботи, оскільки можуть покладатися на ШІ.

— Більше половини, 57%, роблять помилки через неконтрольоване використання ШІ, і 53% повністю приховують його, представляючи згенерований ШІ контент як свій власний.

«Це не просто те, що люди видають ШІ за свою роботу; вони також отруюють корпоративне джерело, покладаючись на халтуру ШІ», — сказав Нік Міснер, операційний директор Cybrary, платформи для професійного розвитку у сфері кібербезпеки з Атланти. «Хоча ШІ прискорює процес кодування, він також вводить у борг і створює вразливості безпеки в організації.»

Міснер зазначає, що це не ізольована тенденція; це системна неспроможність організаційної готовності.

«Ми бачимо, що впровадження ШІ значно випереджає управління», — сказав він. «Звіт Gallup про стан глобального робочого місця каже, що 79% світової робочої сили перебуває десь між “виконанням мінімуму” та “активною відчуженістю”.»

Отже, коли ви даєте відчуженим працівникам потужний інструмент без суттєвих вказівок, вони не стануть більш продуктивними. «Вони будуть використовувати його для виконання тієї ж роботи з меншими зусиллями або, що гірше, для обходу правил, створюючи реальні організаційні ризики», — зазначив він.

Загроза полягає не лише у шахрайстві на тестах, хоча у випадку з австралійським KPMG, що був оприлюднений цього тижня, 28 працівників були спіймані на використанні ШІ для списування на внутрішніх іспитах, включно з партнером, який був оштрафований на 10 000 доларів за шахрайство на етичному іспиті з ШІ.

«Цей приклад ідеально ілюструє іронію», — сказав Міснер. «Більша загроза полягає в тому, що організації працюють “наосліп”. Якщо майже половина вашої робочої сили неправомірно використовує ШІ і ви навіть не знаєте про це, ваш ризик — величезний, від витоку даних до порушення відповідності та зниження навичок, які дійсно потрібні вашим співробітникам.»

Виведення злочинного використання ШІ з тіні

Керівництво компаній має запропонувати політики, правила та санкції, щоб забезпечити етичне використання ШІ у своїх компаніях. Ці стратегії мають бути у пріоритеті.

Вчіться з минулого

Є підстави вважати, що цифри Мельбурна/KPMG не унікальні для ШІ.

«Ми бачили подібні тенденції, коли інтернет і пошукові системи вперше з’явилися у робочому середовищі», — сказав Джо Шеппі, співзасновник Solsten, компанії з залучення користувачів на основі ШІ у Міннеаполісі. «Коли з’являється новий потужний інструмент, зловживання неминучі; це людська природа.»

Зі зростанням впровадження ШІ, за словами Шеппі, керівництво, ймовірно, побачить більше експериментів і поведінки у сірих зонах, але, як і з усіма технологіями, управління та обмеження розвиваються. «Компанії, такі як Anthropic, вже застосовують більш корпоративний підхід, створюючи правила та обмеження для зменшення ризиків у міру розвитку технології», — зазначив він. «Якщо ви — компанія і бачите неправомірну поведінку у будь-якому інструменті, слід зосередитися на культурі та тому, як ви впроваджуєте політики і процедури.»

Залучайте людський контроль

Щоб утримати використання ШІ у робочому середовищі під контролем, керівництву потрібно створити команду з аналізу ШІ, яка перевірятиме доступ до даних та дозволи на будь-який тип даних, що мають важливе значення для майбутнього бізнесу.

«Далі, синтетичні набори даних — це вже не новина і чудовий спосіб моделювати результати, використовуючи свої дані», — сказав він. «Крім того, я завжди залучаю людину до процесу перед запуском будь-якої системи. Багато компаній все ще знаходять помилки у звітах ШІ. Важливо, щоб людина контролювала, чи відповідає повідомлення бренду і чи є воно доречним.»

Чітко визначте правила використання ШІ

Компанії також мають надати схвалені внутрішні інструменти ШІ і встановити одне чітке правило. Ніколи не вводьте конфіденційну або регульовану інформацію у публічні системи ШІ.

«Вони також мають контролювати, куди потрапляє чутлива інформація, особливо при копіюванні та вставці у інструменти ШІ, що зараз є великим сліпим плямою, яку більшість компаній ігнорує», — сказала Тімса. «Найголовніше, компанії мають змінити підхід до оцінки працівників.»

Тімса також закликає керівників уникати нагородження лише за відшліфований результат. «Вимагаєте від працівників пояснювати свої міркування і демонструвати розуміння», — сказала вона. «ШІ може генерувати відповіді, але не може замінити відповідальність або власність.»

Перша політика, яку впровадила команда Тімси у i-GENTIC, була простою і зрозумілою: працівники могли використовувати схвалені інструменти ШІ, але не могли вводити конфіденційну, клієнтську, фінансову або власницьку інформацію у публічні системи ШІ.

«Ми зосередилися на ясності, а не на обмеженнях», — зазначила вона. «Це створило довіру, бо працівник знав, що використання ШІ дозволено, але з чіткими межами. Це також сприяло відповідальності, оскільки всі розуміли, що безпечно, а що ні.»

Внутрішнє навчання у компанії має зосереджуватися на практичних прикладах, а не на розмитих політиках, які ніхто не читає. Працівники мають чітко розуміти, що безпечно, а що ні.

«Використання ШІ для переписування стандартного електронного листа — це нормально», — сказала Тімса. «Завантаження контрактів клієнтів, фінансових даних або власницької інформації у публічний інструмент ШІ — ні. Використання ШІ для мозкового штурму ідей — це нормально. Представляти згенерований ШІ аналіз, який ви не розумієте, як свою роботу — ні.»

Коли залучати зовнішню допомогу у правовому контролі

Зловживання ШІ працівниками стає юридичною проблемою, коли є намір і шкода.

«Це може включати витік конфіденційних даних, крадіжку інтелектуальної власності, маніпуляцію фінансовою інформацією або шахрайство за допомогою ШІ», — зазначила Тімса. «У такому разі компанії можуть залучати слідчих, регуляторів або правоохоронні органи.»

Керівники компаній також мають знати, що більшість зловживань починається з зручності, а не з злого наміру, але коли воно спричиняє реальну шкоду, фінансові втрати або обман, це переходить у юридичну площину. «Ключова різниця — чи призвело зловживання до витоку, втрати або навмисного приховування», — додала Тімса.

Насамкінець, навчання

Експерти кажуть, що важливо ставитися до використання ШІ як до будь-якої високоризикової поведінки і навчати працівників безпечним методам.

Крім того, при навчанні працівників використанню ШІ керівництво має наголошувати, що використання ШІ не звільняє їх від відповідальності.

«Працівники все ще відповідають за точність інформації, яку вони завантажують у платформи ШІ, і за дотримання законів», — сказала Келсі Сзамет, партнер у Kingsley Szamet Employment Lawyers. «Працівники також мають бути обізнані, що завантаження конфіденційної та власницької інформації у ШІ може призвести до її постійної публікації на платформі.»

З точки зору працевлаштування, послідовність є ключовою. Якщо одного звільняють за зловживання ШІ, а іншого — ні, це створює проблеми дискримінації та відповідальності за репресії. «Чим сильніша політика і навчання, тим менше ризик судових позовів», — сказала Сзамет.

Головна проблема не у тому, що працівники будуть використовувати ШІ. Вони будуть. «Проблема у тому, що компанії мають реагувати на це заздалегідь, щоб уникнути проблем», — додала вона.

📬 Підписуйтеся на щоденний дайджест

Наш безкоштовний, швидкий і цікавий огляд світової економіки, що виходить щоранку.

Підписати мене