Только что услышал о чем-то, что меня давно беспокоило относительно того, как предприятия управляют рисками ИИ, и похоже, Premetric наконец-то берется за это напрямую.

Итак, есть пробел, о котором никто не говорит: большинство рамок управления ИИ по сути догоняют. Организации создают свои модели, внедряют их в производство, а затем внезапно начинают беспокоиться о соответствии и рисках. К тому моменту самые важные решения уже приняты. Premetric полностью меняет эту схему, сосредотачиваясь на принятии решений до развертывания — по сути, спрашивая, должна ли существовать система ИИ, прежде чем будет написана хотя бы одна строка кода.

Самая платформа функционирует как механизм фильтрации. Вместо аудита постфактум она проводит структурированные оценки рисков, соответствующие таким рамкам, как Европейский закон об ИИ и Рамки управления рисками ИИ NIST. Вы получаете многоэтапные рабочие процессы оценки, которые классифицируют случаи использования по уровням риска, отмечают потенциальные вреды и создают проверяемые записи решений. Она разработана для интеграции в существующие процессы разработки продукта и соблюдения нормативных требований, что важно, потому что никто не хочет еще одного разрозненного инструмента.

Интересно, где это находит отклик. Ранние пользователи в финансовых услугах и здравоохранении, по всей видимости, находят реальную ценность — эти отрасли тонут в регуляторных требованиях. Один бывший руководитель по управлению ИИ в крупном европейском банке отметил, что у них есть надежные процессы валидации моделей, но ничто на самом деле не помогало им решить, стоит ли изначально двигаться дальше с конкретным случаем использования. Premetric заполняет именно этот пробел.

Время тоже кажется подходящим. Регуляторы по всему миру продвигают создание формальных рамок управления ИИ, но детали реализации ложатся на организации. Возникает общее согласие, что управление до развертывания — это отдельная категория, уже отличная от систем мониторинга и аудита, которые уже работают. Поставщики, способные структурировано и проверяемо реализовать эти решения о продолжении или отказе, станут необходимой инфраструктурой для внедрения ИИ в предприятиях.

Стоит следить за развитием ландшафта управления ИИ. Premetric явно делает ставку на то, что организациям все больше придется доказывать не только соответствие своих систем ИИ, но и то, что они были ответственным образом задуманы с самого начала.