Працівники використовують ШІ шкідливими способами — і компанії можуть бути в темряві

Штучний інтелект вдарив по робочій силі, наче землетрус, і все більше компаній стикаються з наслідками.

Однією з зростаючих проблем є так званий «тіньовий ШІ», коли працівники використовують ШІ у способах, яких не слід, чи то ненавмисно, чи навмисно.

За недавнім дослідженням Мельбурнського університету та KPMG, 47% опитаних професіоналів з кар’єрою використовували ШІ на роботі неправомірно, а 63% зазначили, що бачили, як інші співробітники використовують ШІ неправомірно. Випадки варіюються від використання ШІ для спілкування під час внутрішніх тестів оцінки продуктивності компанії до введення чутливих даних компанії у сторонні інструменти ШІ.

Таке використання несе величезний ризик для компаній, зазначили у дослідженні.

«Це невидиме або тіньове використання ШІ не лише посилює ризики — воно також серйозно заважає організаціям виявляти, керувати та зменшувати ці ризики», — йдеться у звіті.

Компанії стикаються з ілюзією компетентності, яку створює ШІ

Експерти з робочого середовища кажуть, що справжній зсув з ШІ полягає не в тому, що працівники раптом стали нечесними. Зміна полягає в тому, що ШІ швидко, легко та непомітно робить короткі шляхи.

«До появи ШІ приховати погану роботу було важче», — каже Захра Тімса, керівник з управління ШІ та генеральний директор i-GENTIC AI, платформи для відповідності ШІ. «Зараз працівник може за кілька хвилин створити відшліфований звіт, і менеджери вважають його компетентним. Це створює ілюзію продуктивності.»

Наприклад, Тімса наводить приклад працівника, який використовує ШІ для аналізу та впевнено його презентує, але не може його захистити, коли його запитують. «Компанія приймає рішення на основі роботи, яку ніхто справді не розуміє», — додала вона. «Найбільша загроза — це не шахрайство на тестах. Це те, що компанії тихо втрачають внутрішню інформацію, вважаючи, що їхні команди думають незалежно.»

Інші високопоставлені керівники кажуть, що дані свідчать про те, що компанії лише зараз бачать верхівку айсберга щодо використання тіньового ШІ. Ось більш повна картина з дослідження Мельбурна:

— 44% працівників у США використовують інструменти ШІ без належного дозволу,

— 46% завантажили чутливу інформацію компанії та інтелектуальну власність на публічні платформи ШІ, а 64% зізнаються, що менше зусиль вкладають у свою роботу, оскільки можуть покладатися на ШІ.

— Більше половини, 57%, роблять помилки через неконтрольоване використання ШІ, і 53% повністю приховують його, представляючи згенерований ШІ контент як свій власний.

«Це не просто те, що люди видають ШІ за свою роботу; вони також отруюють корпоративне джерело, покладаючись на халтурний ШІ», — сказав Нік Міснер, операційний директор Cybrary, платформи для професійного розвитку у сфері кібербезпеки з Атланти. «Хоча ШІ прискорює процес кодування, він також вводить у організацію більше боргів і вразливостей у безпеці.»

Міснер зазначає, що це не ізольована тенденція; це системна неспроможність організаційної готовності.

«Ми бачимо, що впровадження ШІ значно випереджає управління», — сказав він. «Звіт Gallup «Стан глобального робочого місця» повідомляє, що 79% світової робочої сили перебуває десь між «виконанням мінімуму» та «активним відстороненням».»

Отже, коли ви даєте відстороненим працівникам потужний інструмент без суттєвих вказівок, вони не стануть більш продуктивними. «Вони будуть використовувати його, щоб робити ту саму роботу з меншими зусиллями або, що гірше, щоб обходити правила, створюючи реальні організаційні ризики», — зазначив він.

Загроза полягає не лише у шахрайстві на тестах, хоча у випадку з австралійським KPMG, що був оприлюднений цього тижня, 28 працівників були спіймані на використанні ШІ для списування на внутрішніх іспитах, включаючи партнера, який був оштрафований на 10 000 доларів за шахрайство на етичному іспиті з ШІ.

«Цей приклад ідеально ілюструє іронію», — сказав Міснер. «Більша загроза полягає в тому, що організації працюють сліпо. Якщо майже половина вашої робочої сили неправомірно використовує ШІ, і ви навіть не знаєте про це, ваш ризик дуже великий — від витоку даних до порушень відповідності та зниження навичок, які дійсно потрібні вашим співробітникам.»

Виведення злочинного використання ШІ з тіні

Керівництво компаній має запропонувати політики, правила та санкції, щоб забезпечити етичне використання ШІ у своїх компаніях. Ці стратегії мають бути у пріоритеті.

Вчіться з минулого

Є підстави вважати, що цифри Мельбурна/KPMG не унікальні для ШІ.

«Ми бачили подібні тенденції, коли інтернет і пошукові системи вперше з’явилися на робочому місці», — каже Джо Шеппі, співзасновник Solsten, компанії, що займається залученням користувачів на основі ШІ у Міннеаполісі. «Коли з’являється новий потужний інструмент, зловживання неминучі; це людська природа.»

Зі зростанням впровадження ШІ, за словами Шеппі, керівництво, ймовірно, побачить більше експериментів і поведінки у сірих зонах, але, як і з усіма технологіями, управління та обмеження розвиваються. «Компанії, такі як Anthropic, вже застосовують більш корпоративний підхід, створюючи правила та обмеження для зменшення ризиків у міру розвитку технології», — зазначив він. «Якщо ви компанія і бачите неправомірну поведінку на будь-якому інструменті, слід зосередитися на культурі та тому, як ви впроваджуєте політики й процедури.»

Залучайте людський контроль

Щоб контролювати використання ШІ на робочому місці, керівництво має доручити команді аналізу ШІ перевіряти доступ до даних та дозволи на будь-які типи даних, що мають важливе значення для майбутнього бізнесу.

«Далі, синтетичні набори даних — це вже не новина і чудовий спосіб моделювати результати, використовуючи свої дані», — сказав він. «Крім того, я завжди залучаю людину до процесу перед запуском будь-чого. Багато компаній все ще знаходять помилки у звітах ШІ. Чи то для забезпечення відповідності повідомлень, чи то для їхньої доречності, важливо тримати людину у процесі.»

Чітко визначте правила використання ШІ

Компанії також мають надати схвалені внутрішні інструменти ШІ і встановити одне чітке правило. Ніколи не вводьте конфіденційну або регульовану інформацію у публічні системи ШІ.

«Вони також мають контролювати, куди потрапляє чутлива інформація, особливо при копіюванні та вставці у інструменти ШІ, що зараз є великим сліпим плямою для більшості компаній», — сказала Тімса. «Найголовніше, компанії мають змінити підхід до оцінки працівників.»

Тімса також закликає керівників уникати нагородження лише за відшліфований результат. «Вимагаєте від працівників пояснювати свої міркування та демонструвати розуміння», — сказала вона. «ШІ може генерувати відповіді, але не може замінити відповідальність або власність.»

Перша політика, яку впровадила команда Тімси у i-GENTIC, була простою і зрозумілою: працівники могли використовувати схвалені інструменти ШІ, але не могли вводити конфіденційну, клієнтську, фінансову або власницьку інформацію у публічні системи ШІ.

«Ми зосередилися на ясності, а не на обмеженнях», — зазначила вона. «Це створило довіру, бо працівник знав, що використання ШІ дозволено, але з чіткими межами. Це також сприяло відповідальності, оскільки всі розуміли, що безпечно, а що ні.»

Внутрішнє навчання у компанії має зосереджуватися на практичних прикладах, а не на розмитих політиках, які ніхто не читає. Працівники мають чітко розуміти, що безпечно, а що ні.

«Використання ШІ для переписування стандартного електронного листа — це нормально», — сказала Тімса. «Завантаження контрактів клієнтів, фінансових даних або власницької інформації у публічний інструмент ШІ — ні. Генерування ідей за допомогою ШІ — це нормально. Представляти згенерований ШІ аналіз як свій власний — ні.»

Коли залучати зовнішніх фахівців

Зловживання ШІ працівниками стає юридичною проблемою, коли є намір і шкода.

«Це включає витік конфіденційних даних, крадіжку інтелектуальної власності, маніпуляцію фінансовою інформацією або шахрайство за допомогою ШІ», — зазначила Тімса. «У такому разі компанії можуть залучати слідчих, регуляторів або правоохоронні органи.»

Керівники компаній також мають знати, що більшість зловживань починається з зручності, а не з злого наміру, але коли це спричиняє реальну шкоду, фінансові втрати або обман, це переходить у юридичну площину. «Ключова різниця — чи призвело зловживання до витоку, втрати або навмисного приховування», — додала Тімса.

Насамкінець, навчання

Експерти кажуть, що важливо ставитися до використання ШІ як до будь-якої іншої високоризикової поведінки і навчати працівників безпечним методам.

Крім того, при навчанні працівників щодо використання ШІ керівництво має наголошувати, що використання ШІ не звільняє їх від відповідальності.

«Працівники все ще відповідають за точність інформації, яку вони завантажують у платформи ШІ, і за дотримання законів», — сказала Келсі Сзамет, партнер у Kingsley Szamet Employment Lawyers. «Працівники також мають бути обізнані, що завантаження конфіденційної та власницької інформації у ШІ може призвести до її постійної публікації на платформі.»

З точки зору працевлаштування, послідовність є ключовою. Якщо одного звільняють за зловживання ШІ, а іншого — ні, це створює проблеми дискримінації та відповідальності за репресії. «Чим сильніша політика та навчання, тим менше ризик судових позовів», — сказала Сзамет.

Головна проблема не в тому, що працівники будуть використовувати ШІ. Вони будуть. «Проблема у тому, що компанії мають попередити це, щоб уникнути проблем у майбутньому», — додала вона.