L'IA va faire la guerre pour l'Amérique avant qu'elle n'envahisse la chambre.

Un article de ce type est apparu à l’origine dans la newsletter AI & Tech de Quartz. Inscrivez-vous ici pour recevoir les dernières actus, analyses et perspectives sur l’IA et la tech directement dans votre boîte mail.

L’Amérique a fourni l’IA au Pentagone avant de la fournir à la chambre.

Plus tôt cette année, OpenAI a signé un accord pour soutenir des opérations militaires quelques jours seulement après que le ministère de la Défense a mis fin à un partenariat avec le rival Anthropic. Pendant ce temps, le « mode adulte » de la société pour ChatGPT, qui permettrait des conversations sexuellement explicites pour des adultes consentants, reste retardé.

Le propre conseil consultatif d’OpenAI sur le bien-être s’est insurgé en janvier, en avertissant que cette fonctionnalité pourrait favoriser une dépendance émotionnelle malsaine. Les mineurs pourraient trouver des contournements, ont-ils dit, via des outils de vérification de l’âge qui seraient, selon des informations, mal classer des utilisateurs mineurs.

Des documents internes ont montré que des employés avaient signalé des risques, notamment l’usage compulsif et une escalade vers un contenu plus extrême. Le retard était en partie technique. Mais l’Amérique a toujours été plus à l’aise avec ses machines qui font la guerre que de faire l’amour.

Un marché trop important pour être ignoré

Le sexe a construit l’internet grand public. Il a entraîné l’adoption du web, des paiements en ligne, de la vidéo en streaming. L’IA est la technologie la plus coûteuse que l’industrie ait jamais essayé de mettre à l’échelle, et, pour l’instant, OpenAI voit des entreprises plus petites récolter cet argent pendant qu’elle reste à l’écart. Les tergiversations sont bien réelles, mais les calculs aussi.

Près d’un tiers des hommes jeunes adultes disent avoir discuté avec un partenaire romantique piloté par une IA. Plus de 100 plateformes proposent désormais des services de compagnons IA, allant du relativement sobre à l’explicitement sexuel.

Le Grok d’Elon Musk dispose déjà d’un mode compagnon avec un niveau adulte. Meta $META +1.24% a permis à ses chatbots de se livrer à du jeu de rôle romantique depuis 2023, un relâchement discret des restrictions, que des dirigeants ont fait passer malgré des objections internes en matière de sécurité.

Sam Altman a admis publiquement l’an dernier que permettre du contenu explicite augmenterait probablement la croissance et les revenus. Ce qu’il a aussi dit, dans la même phrase, c’est que cela ne servirait pas les intérêts de long terme des utilisateurs.

Pour l’instant, nous avons surtout des anecdotes. Un homme de l’Ohio qui dit que son compagnon IA a sauvé son mariage. Une femme qui se considère comme mariée à son chatbot. Un forum Reddit $RDDT +1.14% avec des dizaines de milliers de visiteurs hebdomadaires partageant des notes sur leurs relations numériques. La couverture les traite comme des curiosités. Les chiffres suggèrent qu’ils pourraient représenter la majorité « précoce ».

Les entreprises savent qu’il existe une large audience disposée à payer. Elles sont moins sûres de pouvoir contenir ce qui se construit une fois la porte ouverte.

Une partie de ce qui a déjà filtré ne relève pas d’une zone grise. Des adolescentes au Tennessee ont récemment déposé une plainte contre xAI après que des images de nudité générées par IA les concernant ont été partagées en ligne sans leur connaissance et utilisées pour faire du troc contre d’autres contenus d’abus sexuel d’enfants.

L’UE a ouvert plus tôt cette année une enquête formelle sur Grok pour des préoccupations similaires. Des chercheurs ont calculé que Grok avait généré des millions d’images sexualisées en moins de deux semaines, avec des milliers représentant des enfants.

Ces affaires ne concernent pas vraiment le contenu destiné aux adultes. Le matériel d’abus sexuel sur des enfants est un crime. La question la plus difficile, la plus trouble, est de savoir ce qui se passe lorsque des adultes consentants veulent utiliser ces outils de la même manière que toutes les technologies qui les ont précédés.

Plus à l’aise avec les bombes

L’écart entre la façon dont l’Amérique traite le sexe numérique et la violence numérique a toujours été considérable.

Un film peut montrer la tête d’un homme exploser et obtenir une classification R. Un aperçu d’un téton déclenche une audition au Congrès. Cette même logique s’est déplacée dans les politiques sur l’IA, par défaut plutôt que par conception.

Les applications militaires de l’IA font l’objet d’un vrai examen éthique, mais pas de la même gêne ambiante. En 2018, des employés de Google $GOOGL +3.42% ont organisé une révolte au sujet d’un contrat de vision par ordinateur du Pentagone appelé Project Maven, forçant l’entreprise à s’en retirer. Lorsque OpenAI a signé son propre accord avec le Pentagone cette année, aucune telle levée de boucliers n’a émergé. Les employés qui avaient menacé de partir étaient au sein du conseil consultatif, et ils étaient mécontents du « sale discours ».

Une partie de la réponse est structurelle. Les sociétés d’IA ont construit leurs premières politiques de contenu à un moment où éviter la controverse signifiait éviter le sexe, et ces paramètres par défaut se sont figés.

Une autre part tient à l’instinct américain durable selon lequel le sexe est intrinsèquement dangereux et doit être étroitement contrôlé, tandis que la violence, en particulier la violence officielle, n’est tout simplement que le coût de faire des affaires.

Les éléments de preuve concernant les compagnons d’IA sont mitigés. Des chercheurs ont documenté une véritable valeur thérapeutique dans les relations avec des chatbots, en particulier pour les personnes qui traversent solitude, deuil ou handicap. Ils ont aussi documenté la radicalisation, la paranoïa délirante et la tragédie.

La réponse honnête, c’est que personne ne sait encore ce que l’exposition de long terme à l’intimité avec une IA fait réellement aux gens.

En attendant, les outils ne restent pas inactifs. La même technologie d’IA qui ne peut pas tenir des propos grivois à un adulte consentant en Ohio est utilisée par l’armée américaine à l’étranger. Personne n’attend la même chose.

📬 Inscrivez-vous à l’édition quotidienne

Notre briefing gratuit, rapide et amusant sur l’économie mondiale, envoyé chaque matin en semaine.

Inscrivez-moi