Éthique de l'IA : pourquoi est-il important, maintenant, de travailler sur une IA éthique

Découvrez les meilleures actualités et événements fintech !

Abonnez-vous à la newsletter de FinTech Weekly

Lue par des dirigeants de JP Morgan, Coinbase, Blackrock, Klarna et plus encore

L’éthique de l’IA est l’une des principales préoccupations des investisseurs et des analystes, surtout depuis l’introduction de ChatGPT d’OpenAI, qui est devenu l’application à la croissance la plus rapide.

L’éthique est nécessaire si nous voulons que l’intelligence artificielle ne devienne pas dangereuse et soit utilisée correctement - également en ce qui concerne l’industrie fintech, car il pourrait être particulièrement dangereux d’utiliser une IA mal formée dans la finance.

Pourquoi l’éthique de l’IA fait-elle la une des journaux

L’éthique dans l’intelligence artificielle fait la une pour des raisons à la fois positives et négatives.

Alors que Microsoft a récemment réduit son département IA & Société – ne laissant que 7 personnes lors de l’une des vagues de licenciements qui ont touché l’entreprise, de nombreux analystes et organisations tentent de réfléchir au sujet et de se questionner sur l’importance de l’éthique.

Cela inclut également des organisations internationales et des politiques, ce qui peut peut-être aider les utilisateurs quotidiens – encore trop inconscients des progrès de l’intelligence artificielle – à être assurés que l’IA n’est pas seulement un sujet commercial.

Le 23 novembre 2021, l’UNESCO a publié un texte, “Recommandation sur l’éthique de l’intelligence artificielle”, qui a ensuite été adopté par les 193 États membres.

Les recommandations commencent par “Prenant pleinement en compte que le développement rapide des technologies de l’IA remet en question leur mise en œuvre et leur gouvernance éthiques, ainsi que le respect et la protection de la diversité culturelle, et a le potentiel de perturber les normes éthiques et les valeurs locales et régionales”.

La référence au multiculturalisme est importante dans le cas de l’IA.

Comme nous le verrons dans un instant, il est important de considérer que tout le monde n’est pas capable de gérer et d’utiliser l’IA, et si cela reste une prérogative des professionnels de la technologie et des entreprises, il pourrait être difficile pour certaines cultures et segments de la population d’accéder à cette technologie importante.

Avons-nous une IA sentiente ?

Nous n’avons pas – du moins, pas encore – d’IA sentiente.

Jusqu’à présent, les outils basés sur l’IA sont formés par des personnes et des données. Si sous un certain angle cela signifie que l’IA ne peut pas encore être considérée comme trop dangereuse, cela signifie également que si les gens fournissent des données biaisées, alors les réponses fournies par l’IA sont biaisées.

Il en va de même si les données et la formation sont fournies uniquement par certains professionnels et dans certains pays.

Comme l’a rapporté le MIT, l’écart entre les sexes dans les STEM (science, technologie, ingénierie et mathématiques) est encore extrêmement significatif, et les femmes occupant un emploi correspondant à leurs études dans l’un de ces domaines ne représentent que 28%.

Un rapport publié par l’IDC (International Data Corporation), le Worldwide Artificial Intelligence Spending Guide, nous dit que les investissements dans l’IA devraient atteindre 154 milliards de dollars en 2023. Mais où sont concentrés ces investissements ?

Comme l’a rapporté InvestGlass, les pays où les investissements sont concentrés sont les États-Unis et la Chine. Le Japon, le Canada et la Corée du Sud augmentent également leurs investissements et stratégies impliquant l’IA. L’Union européenne n’est pas la région la plus avancée en ce qui concerne l’intelligence artificielle – même si certains pays comme l’Allemagne et la France développent un environnement intéressant pour l’intelligence artificielle.

Toutes ces données montrent que tout le monde n’est pas impliqué dans cette révolution, et cela – bien sûr – peut être préjudiciable à un développement précieux et éthique de l’IA.

Si l’IA reste trop concentrée dans certains domaines et pays, les données qu’elle produira seront nécessairement biaisées.

Si le multiculturalisme n’est peut-être pas encore correctement abordé, les investisseurs recherchent déjà une technologie qui peut être socialement responsable et éthique.

Que pensent les investisseurs de l’IA ?

Ces dernières années, une prise de conscience générale liée à la responsabilité sociale a également amené les investisseurs à préférer des entreprises qui ne nuisent pas aux sociétés.

Dans le cas de l’intelligence artificielle, il est difficile non seulement de créer des cadres globaux visant à réguler la technologie, mais il est aussi difficile pour les investisseurs de comprendre pleinement ce qui est réellement éthique en matière d’intelligence artificielle.

L’IA est relativement nouvelle, et lui donner un contexte correct est d’autant plus difficile qu’elle change constamment.

C’est pourquoi les investisseurs utilisent différentes méthodes pour évaluer les développements futurs possibles d’une entreprise d’IA, ainsi que son éthique au fil du temps et des changements apportés.

Comme l’a rapporté TechCrunch, il semble que les investisseurs trouvent plus utile d’évaluer les caractéristiques et les qualités du propriétaire du projet, pour mieux comprendre comment il ou elle pourrait réagir aux nouveaux cadres et comment ils souhaitent gérer un projet d’IA malgré les changements constants.

Ainsi, même si nous parlons d’IA, les humains ont toujours le dernier mot – et plus les personnes qui utilisent l’IA sont éthiques, plus l’IA le sera à l’avenir.

Pensées finales

L’éthique de l’IA n’est pas un sujet facile, et il n’est pas simple d’évaluer comment l’IA peut être éthique.

L’IA n’est pas sentiente, elle n’a pas d’âme – indépendamment de la façon dont une âme peut être définie.

Malgré cela, il est essentiel de travailler sur l’éthique de l’IA dès maintenant, pour éviter autant de dangers que possible à l’avenir.

Si vous voulez en savoir plus sur les actualités fintech, les événements et les insights, abonnez-vous à la newsletter de FinTech Weekly !