Éthique de l'IA : pourquoi est-il important, maintenant, de travailler sur une IA éthique

Découvrez les meilleures actualités et événements fintech !

Abonnez-vous à la newsletter de FinTech Weekly

Lue par des dirigeants de JP Morgan, Coinbase, Blackrock, Klarna et plus encore

L’éthique de l’IA est l’une des principales préoccupations des investisseurs et des analystes, surtout depuis l’introduction de ChatGPT par OpenAI, qui est devenue l’application à la croissance la plus rapide.

L’éthique est nécessaire si nous voulons que l’intelligence artificielle ne devienne pas dangereuse et qu’elle soit utilisée correctement – également pour ce qui concerne l’industrie fintech, car il pourrait être particulièrement dangereux d’utiliser une IA non correctement entraînée dans la finance.

Pourquoi l’éthique de l’IA fait la une

L’éthique en intelligence artificielle fait la une pour des raisons à la fois positives et négatives.

Alors que Microsoft a récemment réduit son département IA & Société – ne laissant que 7 personnes lors d’une des vagues de licenciements impliquant l’entreprise, nombreux sont les analystes et organisations qui tentent de réfléchir au sujet et de faire des réflexions sur l’importance de l’éthique.

Cela inclut également des organisations internationales et la politique, quelque chose qui peut peut-être aider les utilisateurs quotidiens – encore peut-être trop peu conscients des progrès de l’intelligence artificielle – à être assurés que l’IA n’est pas seulement un sujet commercial.

Le 23 novembre 2021, l’UNESCO a publié un texte, « Recommandation sur l’éthique de l’intelligence artificielle », qui a ensuite été adopté par les 193 États membres.

Les recommandations commencent par « En tenant pleinement compte du fait que le développement rapide des technologies d’IA remet en question leur mise en œuvre éthique et leur gouvernance, ainsi que le respect et la protection de la diversité culturelle, et a le potentiel de perturber les normes et valeurs éthiques locales et régionales ».

La référence au multiculturalisme est importante dans le cas de l’IA.

Comme nous le verrons dans un instant, il est important de considérer que tout le monde n’est pas capable de gérer et d’utiliser l’IA, et si elle reste une prérogative des professionnels de la technologie et des entreprises, il pourrait être difficile pour certaines cultures et segments de la population d’accéder à cette technologie importante.

Avons-nous une IA sensible ?

Nous n’en avons pas – du moins, pas encore – une IA sensible.

Jusqu’à présent, les outils basés sur l’IA sont** entraînés par des personnes et des données**. Si, sous un certain angle, cela signifie que l’IA ne peut pas encore être considérée comme trop dangereuse, cela implique aussi que si les gens fournissent des données biaisées, alors les réponses de l’IA seront biaisées.

La même chose s’applique si les données et l’entraînement sont fournis uniquement par certains professionnels et dans certains pays.

Comme le rapporte le MIT, l’écart entre les sexes dans les STEM (sciences, technologie, ingénierie et mathématiques) est encore extrêmement important, et les femmes occupant un emploi correspondant à leurs études dans l’un de ces domaines ne représentent que 28 %.

Un rapport publié par l’IDC (International Data Corporation), le Guide mondial des dépenses en intelligence artificielle, indique que les investissements dans l’IA devraient atteindre $154 milliard en 2023. Mais où ces investissements sont-ils concentrés ?

Selon InvestGlass, les pays où les investissements sont concentrés sont les États-Unis et la Chine. Le Japon, le Canada et la Corée du Sud augmentent également leurs investissements et stratégies impliquant l’IA. L’Union européenne n’est pas la région la plus avancée en matière d’intelligence artificielle – même si certains pays comme l’Allemagne et la France développent un environnement intéressant pour l’IA.

Toutes ces données montrent que tout le monde n’est pas impliqué dans cette révolution, et cela – bien sûr – peut être préjudiciable à un développement de l’IA précieux et éthique.

Si l’IA reste trop concentrée dans certains domaines et pays, les données qu’elle produira seront nécessairement biaisées.

Si le multiculturalisme n’est peut-être pas encore bien abordé, les investisseurs recherchent déjà une technologie socialement responsable et éthique.

Que pensent les investisseurs de l’IA ?

Au cours des dernières années, une conscience accrue de la responsabilité sociale a également conduit les investisseurs à privilégier les entreprises qui ne nuisent pas à la société.

Dans le cas de l’intelligence artificielle, il est difficile non seulement de créer des cadres mondiaux visant à réguler la technologie, mais aussi pour les investisseurs de comprendre pleinement ce qui est réellement éthique en termes d’IA.

L’IA est relativement nouvelle, et lui donner un contexte correct est encore plus difficile du fait qu’elle change constamment.

C’est pourquoi les investisseurs utilisent différentes méthodes pour évaluer les développements futurs possibles d’une entreprise d’IA, ainsi que son éthique au fil du temps et des changements.

Comme le rapporte TechCrunch, il semble que les investisseurs pourraient trouver plus utile d’évaluer les caractéristiques et qualités du propriétaire du projet, pour mieux comprendre comment il ou elle pourrait réagir face à de nouveaux cadres et comment ils souhaitent gérer un projet d’IA malgré les changements constants.

Ainsi, même si nous parlons d’IA, ce sont toujours les humains qui ont le dernier mot – et plus les personnes qui utilisent l’IA sont éthiques, plus l’IA le sera à l’avenir.

Réflexions finales

L’éthique de l’IA n’est pas un sujet facile, et il n’est pas simple d’évaluer comment l’IA peut être éthique.

L’IA n’est pas sensible, elle n’a pas d’âme – indépendamment de la façon dont une âme peut être définie.

Malgré cela, il est crucial de travailler dès maintenant sur l’éthique de l’IA, pour éviter autant que possible les dangers futurs.

Si vous souhaitez en savoir plus sur les actualités, événements et insights fintech, abonnez-vous à la newsletter FinTech Weekly !