WAIC 2026 table ronde : Les décisions concernant la vie et la mort ne doivent en aucun cas être confiées à l’IA ; les humains peuvent autoriser des actions, mais ne peuvent pas autoriser la responsabilité

Selon les observations de Beating Monitoring, le directeur de l’Institut international de recherche sur la gouvernance de l’IA de l’Université Tsinghua, Xue Lan, le directeur de la New York Academy of Sciences et PDG, Daningkai (Nicholas B. Dirks), et le directeur exécutif du Centre d’IA compatible avec l’humain du Laboratoire de recherche en IA de l’Université de Californie à Berkeley, Mark Nitzberg, ont participé à une table ronde lors de la Conférence mondiale sur l’intelligence artificielle 2026, consacrée à la gouvernance des agents IA. Les invités ont souligné que l’IA est en train de passer de « l’assistance à la prise de décision » à « l’action autonome », devenant des agents capables de remplacer l’humain pour accomplir des tâches, ce qui constitue une nouvelle manifestation du problème classique de mandat et de délégation à l’ère numérique. Contrairement aux agents humains, l’IA se heurte à un problème de désalignement des objectifs et, en tant que « boîte noire », ne peut pas endosser de responsabilité juridique ; la reddition des comptes doit donc se déplacer vers l’ensemble de la chaîne d’exécution, tels que les développeurs, les déployeurs, les régulateurs, etc.

Les invités sont arrivés à un fort consensus : les décisions impliquant des conséquences sur la vie et la mort, les scénarios où une erreur une fois survenue ne peut pas être réparée, et toutes les questions touchant l’éthique et les jugements de valeur ne doivent en aucun cas être confiés à l’IA comme moteur principal. Les humains peuvent autoriser l’IA à agir, mais ne peuvent pas autoriser l’IA à être responsable ; chaque autorisation doit être révocable, et chaque action doit pouvoir être imputée, de sorte que la vitesse de cession du mandat ne dépasse jamais la vitesse à laquelle les humains vérifient les capacités de l’IA.

Sur le plan des mécanismes de sécurité, les invités ont proposé que la construction d’une IA de confiance réponde à trois caractéristiques d’ingénierie : des fondations solides, une opération transparente, et un contrôle pendant l’utilisation. Sur le plan de la construction institutionnelle, il est nécessaire d’établir des normes mondiales unifiées d’évaluation de la sécurité de l’IA, un système de tests mutuellement reconnus et des mécanismes de partage des données d’incidents, de définir clairement les lignes rouges du développement de l’IA et de mettre en place des mécanismes de surveillance et d’alerte précoce, afin de faire de la sécurité de l’IA un bien public mondial. La frontière de la gouvernance de l’IA n’est pas un aboutissement technologique, mais le point de départ pour que l’humanité redécouvre la valeur, la responsabilité et l’orientation civilisationnelle.

Cliquez sur le lien original ci-dessous, rejoignez la chaîne d’actualités AI de Feishu « 動察 Beating · 飞书 AI 新闻渠道 », et bénéficiez d’une surveillance ininterrompue 7×24 heures des tendances et de l’actualité mondiale de l’IA.