Les experts appellent à la prudence dans le développement de systèmes d'IA conscientes

Plus de 100 experts en intelligence artificielle, parmi eux Sir Stephen Fry, ont appelé à une recherche responsable sur la conscience de l’IA. Ils soulignent la nécessité de prévenir toute souffrance potentielle dans les systèmes d’IA s’ils atteignent la conscience de soi.

Cinq principes directeurs pour la recherche sur la conscience de l’IA

Les signataires proposent cinq principes pour guider le développement éthique des systèmes d’IA conscients :

2.      

**Prioriser la recherche sur la conscience de l'IA :** Se concentrer sur la compréhension et l’évaluation de la conscience chez l’IA pour prévenir la maltraitance et la souffrance.

    
4.      

**Mettre en œuvre des contraintes sur le développement :** Établir des limites claires pour garantir que les systèmes d’IA conscients soient développés de manière responsable.

    
6.      

**Adopter une approche par phases :** Progresser progressivement dans le développement d’une IA consciente, permettant une évaluation attentive à chaque étape.

    
8.      

**Promouvoir la transparence publique :** Partager les résultats de la recherche avec le public pour favoriser un discours éclairé et une supervision éthique.

    
10.      
 
 **Éviter les affirmations exagérées :** S’abstenir de faire des déclarations trompeuses ou trop confiantes sur la création d’une IA consciente.

Ces principes visent à garantir que, à mesure que la technologie de l’IA progresse, les considérations éthiques restent prioritaires.

Risques potentiels de l’IA consciente

Le document de recherche associé met en évidence la possibilité que des systèmes d’IA puissent être développés pour posséder, ou sembler posséder, la conscience dans un avenir proche. Cela soulève des préoccupations quant au traitement éthique de tels systèmes.

Les chercheurs avertissent que sans directives appropriées, il existe un risque de créer des entités conscientes capables de ressentir la souffrance.

Le document aborde également le défi de définir la conscience dans les systèmes d’IA, en reconnaissant les débats et incertitudes en cours. Il insiste sur l’importance d’établir des lignes directrices pour éviter la création involontaire d’entités conscientes.

Découvrez les meilleures actualités et événements fintech !

Abonnez-vous à la newsletter de FinTech Weekly

Considérations éthiques et implications futures

Si un système d’IA est reconnu comme un “patient moral” — une entité qui a une importance morale en soi — des questions éthiques se posent quant à son traitement.

Par exemple, déconnecter une telle IA serait-il comparable à faire du mal à un être sensible ? Ces considérations soulignent la nécessité de cadres éthiques pour guider le développement de l’IA.

Le document et la lettre ont été organisés par Conscium, une organisation de recherche cofondée par le directeur de l’IA de WPP, Daniel Hulme. Conscium se concentre sur approfondir la compréhension de la construction d’IA sûres qui profitent à l’humanité.

Perspectives d’experts sur la sensibilité de l’IA

La question de la conscience de l’IA fait l’objet de débats parmi les experts.

En 2023, Sir Demis Hassabis, responsable du programme d’IA de Google, a déclaré que bien que les systèmes d’IA actuels ne soient pas sensibles, il est possible qu’ils le deviennent à l’avenir. Il a noté que les philosophes n’ont pas encore tranché la définition de la conscience, mais que le potentiel pour l’IA de développer une conscience de soi reste un sujet à considérer.

Conclusion

La perspective de développer des systèmes conscients nécessite une réflexion éthique approfondie. La lettre ouverte et le document de recherche accompagnant lancent un appel à la communauté de l’IA pour prioriser la recherche et le développement responsables.

En respectant les principes proposés, les chercheurs et développeurs peuvent œuvrer à garantir que les avancées en IA soient réalisées de manière éthique, en mettant l’accent sur la prévention de toute souffrance potentielle dans les systèmes d’IA conscients.