Щойно я почув, що мене турбує щодо того, як підприємства керують ризиками ШІ, і здається, Premetric нарешті береться за це прямо.

Отже, ось прогалина, про яку ніхто не говорить: більшість рамкових підходів до управління ШІ фактично наздоганяють час. Організації створюють свої моделі, впроваджують їх у виробництво, а потім раптом починають турбуватися про відповідність і ризики. До цього моменту найважливіші рішення вже прийняті. Premetric повністю змінює цю схему, зосереджуючись на прийнятті рішень перед розгортанням — фактично запитуючи, чи має існувати система ШІ, перш ніж буде написано хоча б один рядок коду.

Сам платформа працює як механізм контролю. Замість аудиту після факту вона проводить структуровані оцінки ризиків, узгоджені з рамками, такими як Європейський акт про ШІ та Рамкова структура управління ризиками ШІ від NIST. Ви отримуєте багатоступеневі робочі процеси оцінки, які класифікують випадки використання за рівнями ризику, позначають потенційні шкоди та створюють аудитуємі записи рішень. Вона розроблена для інтеграції у існуючі робочі процеси з продуктами та відповідністю, що важливо, оскільки ніхто не хоче ще одного ізольованого інструменту.

Що цікаво, так це те, де це знаходить відгук. Ранні користувачі у фінансових послугах і охороні здоров’я, очевидно, отримують реальну цінність — це галузі, що тонуть у регуляторних вимогах. Один колишній керівник з управління ШІ у великому європейському банку зазначив, що хоча у них були міцні процеси валідації моделей, нічого фактично не допомагало їм вирішити, чи слід рухатися далі з конкретним випадком використання. Premetric заповнює цей саме прогалину.

Тимчасово це має сенс. Регулятори по всьому світу просуваються до формальних рамок управління ШІ, але деталі впровадження лежать на самих організаціях. Існує зростаюча згода, що управління перед розгортанням тепер є окремою категорією — відокремленою від систем моніторингу та аудиту, які вже працюють. Постачальники, здатні впроваджувати ці рішення про «зробити/не робити» у структурованому, аудитуємому вигляді, стануть необхідною інфраструктурою для впровадження ШІ в підприємствах.

Вартує стежити за розвитком ландшафту управління ШІ. Premetric явно ставить на те, що організації все більше потрібно буде доводити не лише відповідність своїх систем ШІ, а й те, що вони були відповідально задумані з самого початку.