IA en Europe : ce que pourrait signifier l’AI Act

Photo par Maico Amorim sur Unsplash

L’AI Act n’est encore qu’un projet, mais les investisseurs et les dirigeants d’entreprises au sein de l’Union européenne sont déjà nerveux face aux résultats possibles.

Est-ce qu’il empêchera l’Union européenne d’être un concurrent de valeur sur la scène mondiale ?

D’après les régulateurs, ce n’est pas le cas. Mais voyons ce qu’il se passe.

L’AI Act et l’évaluation des risques

L’AI Act classe les risques posés par l’intelligence artificielle en différentes catégories de risque, mais avant de le faire, il réduit la définition de l’intelligence artificielle pour n’inclure que les systèmes fondés sur l’apprentissage automatique et la logique.

Cela ne sert pas uniquement à distinguer les systèmes d’IA de logiciels plus simples, mais aussi à nous aider à comprendre pourquoi l’UE veut catégoriser le risque.

Les différents usages de l’IA sont répartis entre risque inacceptable, risque élevé, et
risque faible ou minimal. Les pratiques relevant de la catégorie de risque inacceptable sont considérées comme interdites.

Ce type de pratiques inclut :

*   Des pratiques qui impliquent des techniques fonctionnant au-delà de la conscience d’une personne, 
*   Des pratiques qui cherchent à exploiter des parties vulnérables de la population, 
*   Des systèmes d’IA mis en place pour classer les personnes selon des caractéristiques ou des comportements personnels,
*   Des systèmes d’IA utilisant l’identification biométrique dans des espaces publics. 

Il existe certains cas d’usage qui devraient être considérés comme similaires à certaines des pratiques incluses dans les activités interdites, et qui relèvent de la catégorie des pratiques « à haut risque ».

Il s’agit notamment des systèmes utilisés pour recruter des travailleurs ou pour évaluer et analyser la solvabilité des personnes (et cela pourrait être dangereux pour la fintech). Dans ces cas, toutes les entreprises qui créent ou utilisent ce type de système doivent produire des rapports détaillés pour expliquer comment le système fonctionne et les mesures prises pour éviter les risques pour les personnes et être aussi transparentes que possible.

Tout semble clair et correct, mais il y a quelques problèmes que les régulateurs devraient résoudre.

L’Act est trop générique

Un des aspects qui inquiète le plus les dirigeants d’entreprises et les investisseurs est le manque d’attention portée à des secteurs spécifiques de l’IA.

Par exemple, les entreprises qui produisent et utilisent des systèmes d’IA à usage général pourraient être considérées comme celles qui utilisent l’intelligence artificielle pour des cas d’usage à haut risque.

Cela signifie qu’elles devraient produire des rapports détaillés, qui coûtent du temps et de l’argent. Comme les PME ne font pas exception, et puisqu’elles constituent la plus grande partie des économies européennes, elles pourraient devenir moins compétitives au fil du temps.

Et c’est précisément la différence entre les entreprises d’IA américaines et européennes qui suscite de grandes inquiétudes : en fait, l’Europe n’a pas de grandes entreprises d’IA comme les États-Unis, car l’écosystème IA en Europe est principalement créé par des PME et des startups.

D’après une enquête menée par appliedAI, une large majorité d’investisseurs éviteraient d’investir dans des startups labellisées « à haut risque », précisément en raison des complexités liées à cette classification.

ChatGPT a modifié les plans de l’UE

Les régulateurs de l’UE auraient dû clôturer le document le 19 avril, mais la discussion liée aux différentes définitions des systèmes d’IA et à leurs cas d’usage a retardé la publication du projet final.

De plus, les entreprises tech ont montré que tout le monde ne s’accordait pas sur la version actuelle du document.

Le point qui a le plus causé des retards est la différenciation entre les modèles de fondation et l’IA à usage général.

Un exemple de modèles de fondation d’IA est ChatGPT de OpenAI : ces systèmes sont entraînés à l’aide de grandes quantités de données et peuvent générer n’importe quel type de sortie.

L’IA à usage général inclut les systèmes qui peuvent être adaptés à différents cas d’usage et secteurs.

Les régulateurs de l’UE veulent réglementer strictement les modèles de fondation, car ils pourraient poser davantage de risques et affecter négativement la vie des gens.

Comment les États-Unis et la Chine régulent l’IA

Si l’on examine la façon dont les régulateurs européens traitent l’IA, il y a un point qui ressort : il semble que les régulateurs soient moins enclins à coopérer.

Aux États-Unis, par exemple, l’administration Biden a sollicité des commentaires du public sur la sécurité de systèmes comme ChatGPT, avant de concevoir un éventuel cadre réglementaire.

En Chine, le gouvernement régule l’IA et la collecte de données depuis des années, et sa préoccupation principale reste la stabilité sociale.

À ce jour, le pays qui semble le mieux placé pour la régulation de l’IA est le Royaume-Uni, qui a privilégié une approche « légère » — mais il n’est un secret pour personne que le Royaume-Uni veut devenir un leader en matière d’adoption de l’IA et de la fintech.

Fintech et l’AI Act

En ce qui concerne les entreprises et les startups qui fournissent des services financiers, la situation est encore plus compliquée.

En effet, si l’Act reste sous sa forme actuelle, les fintechs devront non seulement respecter les réglementations financières en vigueur, mais aussi ce nouveau cadre réglementaire.

Le fait que l’évaluation de la solvabilité puisse être classée comme un cas d’usage à haut risque n’est qu’un exemple du fardeau que les entreprises de fintech devraient porter, ce qui les empêcherait d’être aussi flexibles qu’elles l’ont été jusqu’ici, pour attirer des investissements et rester compétitives.

Conclusion

Comme l’a souligné Peter Sarlin, PDG de Silo AI, le problème ne vient pas de la réglementation, mais d’une mauvaise réglementation.

Être trop générique pourrait nuire à l’innovation et à toutes les entreprises impliquées dans la production, la distribution et l’utilisation de produits et services basés sur l’IA.

Si les investisseurs de l’UE s’inquiètent des risques potentiels liés à un label indiquant qu’une startup ou une entreprise relève de la catégorie « à haut risque », l’écosystème IA au sein de l’Union européenne pourrait être affecté négativement, tandis que les États-Unis cherchent des commentaires du public pour améliorer leur technologie et que la Chine a déjà un avis clair sur la façon de réglementer l’intelligence artificielle.

D’après Robin Röhm, cofondateur d’Apheris, un des scénarios possibles est que les startups déménagent vers les États-Unis — un pays qui a peut-être beaucoup à perdre en matière de blockchain et de cryptomonnaies, mais qui pourrait remporter la course à l’IA.

Si vous voulez en savoir plus sur la fintech et découvrir l’actualité, les événements et les opinions en matière de fintech, abonnez-vous à la newsletter FTW !