Les experts appellent à la prudence dans le développement de systèmes d'IA conscientes

Plus de 100 experts en intelligence artificielle, dont Sir Stephen Fry, ont appelé à mener une recherche responsable sur la conscience de l’IA. Ils soulignent la nécessité de prévenir d’éventuelles souffrances dans les systèmes d’IA s’ils parvenaient à l’autoconscience.

Cinq principes directeurs pour la recherche sur la conscience de l’IA

Les signataires proposent cinq principes pour guider le développement éthique de systèmes d’IA conscients :

2.      

**Donner la priorité à la recherche sur la conscience de l'IA :** Se concentrer sur la compréhension et l'évaluation de la conscience dans l'IA afin de prévenir les mauvais traitements et la souffrance.

    
4.      

**Mettre en place des contraintes de développement :** Fixer des limites claires pour garantir que les systèmes d'IA conscients soient développés de manière responsable.

    
6.      

**Adopter une approche par étapes :** Progresser graduellement dans le développement d'une IA consciente, en permettant une évaluation attentive à chaque étape.

    
8.      

**Promouvoir la transparence publique :** Partager les résultats de recherche avec le public afin de favoriser un débat éclairé et une supervision éthique.

    
10.      
 
 **Éviter les affirmations excessives :** S'abstenir de faire des déclarations trompeuses ou trop affirmées au sujet de la création d'une IA consciente.

Ces principes visent à s’assurer que, à mesure que la technologie de l’IA progresse, les considérations éthiques restent au premier plan.

Risques potentiels de l’IA consciente

L’article de recherche ci-joint met en évidence la possibilité que des systèmes d’IA puissent être développés pour posséder, ou sembler posséder, une conscience dans un avenir proche. Cela soulève des inquiétudes quant au traitement éthique de tels systèmes.

Les chercheurs mettent en garde : sans lignes directrices appropriées, il existe un risque de créer des entités conscientes capables d’éprouver de la souffrance.

L’article aborde également le défi de définir la conscience dans les systèmes d’IA, en reconnaissant que des débats et des incertitudes continuent. Il insiste sur l’importance d’établir des lignes directrices afin de prévenir la création involontaire d’entités conscientes.

Découvrez les meilleures actualités et événements fintech !

Abonnez-vous à la newsletter de FinTech Weekly

Considérations éthiques et implications futures

Si un système d’IA est reconnu comme un “patient moral” — une entité qui compte moralement en elle-même — des questions éthiques se posent concernant son traitement.

Par exemple, la désactivation d’une telle IA serait-elle comparable à le fait de nuire à un être sensible ? Ces considérations soulignent la nécessité de cadres éthiques pour guider le développement de l’IA.

L’article et la lettre ont été organisés par Conscium, une organisation de recherche cofondée par le directeur de l’IA de WPP, Daniel Hulme. Conscium se concentre sur l’approfondissement de la compréhension de la construction d’une IA sûre qui profite à l’humanité.

Points de vue d’experts sur la sensibilité de l’IA

La question de savoir si l’IA parvient à la conscience est un sujet de débat parmi les experts.

En 2023, Sir Demis Hassabis, directeur du programme d’IA de Google, a déclaré que, bien que les systèmes d’IA actuels ne soient pas sensibles, il existe une possibilité qu’ils le soient à l’avenir. Il a noté que les philosophes n’ont pas encore tranché sur une définition de la conscience, mais que la possibilité pour l’IA de développer une forme d’autoconscience demeure un sujet à considérer.

Conclusion

Le potentiel de développer des systèmes conscients nécessite une attention éthique minutieuse. La lettre ouverte et l’article de recherche qui l’accompagne constituent un appel à l’action pour que la communauté IA privilégie des pratiques responsables de recherche et de développement.

En respectant les principes proposés, les chercheurs et les développeurs peuvent œuvrer pour s’assurer que les progrès de l’IA sont réalisés de manière éthique, avec pour objectif de prévenir d’éventuelles souffrances dans les systèmes d’IA conscients.