ИИ в Европе: что может означать Закон об ИИ

Фото Maico Amorim на Unsplash

Закон об ИИ (AI Act) пока остаётся лишь проектом, но инвесторы и владельцы бизнеса в Европейском союзе уже нервничают из‑за возможных последствий.

Поможет ли он ЕС не стать ценным конкурентом на глобальной арене?

По словам регуляторов, дело обстоит иначе. Но давайте посмотрим, что происходит.

Закон об ИИ и оценка рисков

Закон об ИИ разделяет риски, которые несёт искусственный интеллект, на разные категории, но прежде чем сделать это, он сужает определение искусственного интеллекта: туда включаются только те системы, которые основаны на машинном обучении и логике.

Это нужно не только для того, чтобы отличать системы ИИ от более простого программного обеспечения, но и чтобы понять, почему ЕС хочет категоризировать риски.

Разные сценарии применения ИИ относятся к недопустимому риску, к высокому риску и
к низкому или минимальному риску. Практики, подпадающие под категорию недопустимого риска, считаются запрещёнными.

К таким практикам относятся:

*   Практики, которые используют техники, работающие за пределами сознания человека,
*   Практики, которые хотят использовать уязвимые части населения,
*   AI‑системы, внедрённые для классификации людей по личным характеристикам или поведению,
*   AI‑системы, использующие биометрическую идентификацию в общественных пространствах. 

Есть некоторые сценарии использования, которые следует считать схожими с некоторыми практиками, включёнными в запрещённые действия, но они подпадают под категорию практик с “высоким риском”.

К ним относятся системы, используемые для найма работников или для оценки и анализа кредитоспособности людей (и это может быть опасно для финтеха). В этих случаях все компании, которые создают или используют такой тип систем, должны выпускать подробные отчёты, чтобы объяснить, как работает система, и какие меры приняты, чтобы избегать рисков для людей, насколько это возможно, обеспечивая максимальную прозрачность.

Всё выглядит понятным и корректным, но есть проблемы, с которыми регуляторам следует разобраться.

Закон слишком общий

Одним из аспектов, который сильнее всего тревожит владельцев бизнеса и инвесторов, является недостаточное внимание к конкретным секторам ИИ.

Например, компании, которые производят и используют AI‑системы общего назначения, могут считаться теми, кто применяет искусственный интеллект в сценариях с высоким риском.

Это означает, что им придётся выпускать подробные отчёты, на которые уходит время и деньги. Поскольку для МСП исключений нет, а они составляют наибольшую часть экономик в Европе, со временем они могут стать менее конкурентоспособными.

И именно различие между американскими и европейскими компаниями в сфере ИИ вызывает серьёзные опасения: дело в том, что в Европе нет крупных компаний по ИИ, как в США, потому что ИИ‑среда в Европе в основном создаётся МСП и стартапами.

По данным опроса, проведённого appliedAI, подавляющее большинство инвесторов будут избегать инвестиций в стартапы, которым присвоен ярлык “высокий риск” — именно из‑за сложности, связанной с этой классификацией.

ChatGPT изменил планы ЕС

Европейским регуляторам следовало закрыть документ 19 апреля, но обсуждение, связанное с разными определениями AI‑систем и сценариями их использования, задержало выпуск финального проекта.

Кроме того, технологические компании показали, что не все из них согласны с текущей версией документа.

Точка, которая больше всего вызвала задержки, — это разграничение между foundation models и general purpose AI.

Примером AI foundation models является ChatGPT от OpenAI: эти системы обучаются на больших объёмах данных и могут генерировать любой вид выходных данных.

General purpose AI включает системы, которые можно адаптировать под разные сценарии использования и разные отрасли.

Европейские регуляторы хотят жёстко регулировать foundation models, поскольку они могут нести больше рисков и негативно влиять на жизнь людей.

Как США и Китай регулируют ИИ

Если взглянуть на то, как европейские регуляторы относятся к ИИ, бросается в глаза одно: похоже, регуляторы менее склонны к сотрудничеству.

В США, например, администрация Байдена искала публичные комментарии по безопасности систем вроде ChatGPT, прежде чем разрабатывать возможную нормативную рамку.

В Китае правительство регулирует ИИ и сбор данных уже несколько лет, и его главный приоритет — социальная стабильность.

Пока что страна, которая, по‑видимому, лучше всего позиционирована в регулировании ИИ, — это Великобритания: там предпочли “лёгкий” подход, но не секрет, что Великобритания хочет стать лидером в области внедрения ИИ и финтеха.

Финтех и Закон об ИИ

Когда речь заходит о компаниях и стартапах, которые предоставляют финансовые услуги, ситуация становится ещё более сложной.

На самом деле, если закон останется в текущем виде, финтеху придётся быть привязанным не только к действующим финансовым нормативам, но и к этой новой регуляторной рамке.

То, что оценка кредитоспособности может быть маркирована как сценарий с высоким риском, — лишь пример нагрузки, которую финтех‑компании должны будут нести. Это будет мешать им быть столь же гибкими, как раньше, для привлечения инвестиций и сохранения конкурентоспособности.

Вывод

Как отметил Питер Сарлин, CEO Silo AI, проблема не в регулировании, а в плохом регулировании.

Слишком общие формулировки могут навредить инновациям и всем компаниям, вовлечённым в производство, распространение и использование AI‑продуктов и услуг.

Если инвесторы в ЕС будут обеспокоены потенциальными рисками из‑за ярлыка, который говорит, что стартап или компания относится к категории “высокий риск”, то среда ИИ в Европейском союзе может быть негативно затронута, в то время как США ищут публичные комментарии, чтобы улучшить свою технологию, а в Китае уже есть чёткое мнение о том, как регулировать искусственный интеллект.

По словам Робин Рём, сооснователя Apheris, одним из возможных сценариев является то, что стартапы переедут в США — страну, которая, возможно, многое может потерять в сфере блокчейна и криптовалют, но при этом может выиграть гонку за ИИ.

Если вы хотите узнать больше о финтехе и открыть для себя финтех‑новости, события и мнения, подпишитесь на рассылку FTW Newsletter!