Le débat sur les deepfakes s'intensifie. Public Citizen, un organisme de défense des consommateurs, appelle OpenAI à retirer son générateur vidéo IA Sora du marché, invoquant de graves préoccupations quant au potentiel de cette technologie à être mal utilisée.

Leur argument ? La capacité de Sora à créer des vidéos truquées hyper-réalistes pourrait être utilisée comme arme de désinformation à une échelle jamais vue auparavant. Pensez à des ingérences électorales, à la fraude d'identité ou à des campagnes de désinformation coordonnées qui brouillent la frontière entre réalité et fabrication.

Ce qui différencie cette controverse des précédentes concernant l'IA, c'est le contexte temporel. Nous entrons dans une ère où les outils de médias synthétiques deviennent accessibles à tous, pas seulement aux élites technologiques ou aux acteurs étatiques. La barrière à la création de contenus faux convaincants s'effondre rapidement.

OpenAI n'a pas encore décidé de retirer Sora, mais la pression monte. Certains voix dans l'industrie soutiennent que l'innovation ne devrait pas être freinée par des risques hypothétiques, tandis que d'autres soulignent l'absence de mesures de sécurité robustes intégrées à ces outils avant leur lancement.

Voici la vision d'ensemble : alors que l'IA générative progresse à toute vitesse, les cadres réglementaires prennent du retard. Qu'il s'agisse de synthèse vidéo, de clonage vocal ou de génération de texte, la question ne se limite pas à ce que ces outils peuvent faire — il s'agit aussi de savoir si la société est prête à gérer les conséquences lorsqu'ils sont déployés à grande échelle.

La controverse autour de Sora pourrait être un aperçu des batailles à venir. Comment équilibrer progrès technologique et sécurité publique ? Et qui décide quand un outil devient trop dangereux pour être publié ?