Alerte de co-création d'Anthropic : il y a 50 % de chances que le point de singularité logiciel arrive, impactant peut-être les cols blancs et les cols bleus ?

Les hauts responsables d'Anthropic en visite à Taïwan, soulignant qu'il n'y aurait pas de développement valorisé à près d'un billion de dollars sans Taïwan. Le co-fondateur a également lancé un avertissement, indiquant qu'il y a 50 % de chances que le point de singularité logiciel soit atteint à l'avenir, ce qui pourrait entraîner un chômage massif pour les travailleurs du savoir.

Pendant la période de Computex, la société américaine d'IA Anthropic, dont la valorisation approche déjà un billion de dollars, poursuit son chemin vers une introduction en bourse, approfondissant ses relations de coopération avec Taïwan.

Suite à l'annonce de l'invitation de Trend Micro à rejoindre le projet de cybersécurité « Glasswing », le co-fondateur d'Anthropic, Ben Mann, a déclaré lors d'un événement le 5 juin : « Sans Taïwan, il n'y aurait pas d'Anthropic », et a prononcé un discours d'ouverture complet en chinois, montrant ainsi sa proximité.

Lors du Developer Day organisé par l'École d'intelligence artificielle de Taïwan (AIA), Mann a exprimé en chinois que sa mission dans la recherche en IA est de garantir que l'intelligence artificielle puisse avoir un impact positif sur l'avenir de l'humanité. Il croit fermement que les démocraties doivent prendre la tête dans le développement de l'IA et espère renforcer la coopération avec Taïwan.

Avant de fonder Anthropic en 2021 avec Dario Amodei, Mann a travaillé six ans chez Google. Après avoir lu le livre « Superintelligence », il s'est tourné vers la recherche sur la sécurité de l'IA.

Mann a été un membre clé de l'architecture centrale de GPT-3 chez OpenAI, et un acteur important du protocole MCP (Model Context Protocol). Il dirige actuellement le département « Anthropic Labs », qui se concentre sur des expérimentations d'applications, et qui a incubé Claude Code et Claude Design.

L'IA vers le point de singularité logiciel, chômage massif inévitable ?

En évoquant la capacité des modèles de niveau Mythos, Mann a souligné que la progression rapide des capacités de programmation des modèles permettrait à davantage de personnes de créer en toute sécurité leurs propres applications logicielles. « Que deviennent les ingénieurs logiciels qui faisaient ces travaux auparavant ? Je pense que c'est un problème plus vaste. »

Plutôt que de se demander si l'IA peut penser comme un humain, Mann s'intéresse davantage à l'impact réel de l'IA sur l'économie et la société. Il a proposé le concept de « Test de Turing économique » comme outil d'évaluation de la production économique : si l'on peut externaliser un travail à un agent IA sans que l'employeur puisse faire la différence entre le résultat d'une machine ou d'un humain, alors cette tâche passe le test de Turing économique.

Source : Digital Times, photographie de Hou Junwei, co-fondateur d'Anthropic et responsable de Anthropic Labs, Ben Mann, en visite à Taïwan

Mann est très confiant : il y a 50 % de chances que la singularité dans le domaine logiciel se produise dans les années à venir. À ce moment-là, la question du contrôle des robots pourra également être résolue. Par conséquent, d'abord les travailleurs du savoir, puis les travailleurs manuels, seront confrontés à des impacts sur le marché de l'emploi.

Mann indique que les indicateurs économiques actuels ne suggèrent pas une vague de chômage massif imminente, « mais cela correspond à nos prévisions ». Il explique que pour provoquer un chômage massif, l'IA doit pouvoir faire tout ce que peut faire un humain, ce qui n'est pas encore le cas.

Cependant, les progrès dans la formation des modèles ne montrent aucun signe de ralentissement. Mann donne l'exemple que, comme la plupart des gens n'ont pas pu prévoir la crise financière de 2008 en observant simplement certains indicateurs, « je pense que nous allons vivre une période tumultueuse. »

Ce point de vue n'est pas partagé par toute l'industrie. Jensen Huang, PDG de Nvidia, a toujours une attitude plutôt positive sur l'impact de l'IA, estimant qu'elle pourrait créer davantage d'emplois. Récemment, Amodei, PDG d'Anthropic qui avait déclaré en 2025 qu'il y aurait un « massacre de la classe moyenne », a quelque peu modéré sa position, évoquant une transformation plutôt qu'une disparition des emplois.

Mann pense que le problème du chômage massif sera difficile à résoudre sans intervention gouvernementale. Anthropic collabore également avec des gouvernements et en discute, espérant que Taïwan pourra « agir plus rapidement que certains gouvernements dans le monde. »

Visite conjointe d'une délégation de la politique de sécurité technologique du gouvernement Biden pour assurer la suprématie démocratique dans la course à l'IA

Avec Mann, la délégation comprenait également Tarun Chhabra, responsable de la politique de sécurité nationale chez Anthropic. Ancien acteur clé de la politique de sécurité technologique du gouvernement Biden, Chhabra a joué un rôle stratégique dans le contrôle des exportations vers la Chine, les investissements entrants/sortants, et les restrictions sur les technologies de communication.

Pendant son passage à la Maison Blanche, la construction d'une alliance démocratique pour la technologie était une priorité pour Chhabra. Il a mené des efforts diplomatiques technologiques avec l'alliance Five Eyes, le Japon, la Corée, l'Inde et l'Union européenne, visant à intégrer ces partenaires dans la ligne de défense des standards technologiques américains.

Source : Digital Times, photographie de Hou Junwei, entretien avec Tarun Chhabra, responsable de la politique de sécurité nationale chez Anthropic, avec la vice-ministre du Développement numérique Yang Jialing et le professeur Xu Yongzhen, bureau du projet AICoE de Taïwan.

Ce contexte confère à la visite stratégique des hauts responsables d'Anthropic à Taïwan une signification bien plus grande que l’échange entre développeurs, illustrant clairement la coopération technologique et la chaîne d’approvisionnement entre Taïwan et les États-Unis.

Mann a déclaré lors de l’entretien que l’alliance démocratique doit empêcher la Chine de remporter la course à l’IA. Même si le camp démocratique parvient à atteindre la suprématie dans l’IA, il ne doit pas relâcher ses efforts, car la recherche dans d’autres pays continuera. Il a précisé : « Anthropic essaie toujours d’utiliser notre position de leader pour établir un précédent solide en matière de sécurité. »

Il a donné l’exemple que, avant de lancer un nouveau modèle, Anthropic a testé si ses capacités pouvaient accélérer la recherche sur les armes biologiques. Lorsqu’un échantillon a montré une amélioration significative, l’entreprise a retardé le lancement du modèle, renforçant ses mesures de sécurité avant de le publier.

Une politique similaire est appliquée au dernier modèle Mythos. Capable de découvrir des vulnérabilités de sécurité logicielle bien au-delà de la plupart des humains, Anthropic a lancé « Project Glasswing », ne diffusant la version de prévisualisation qu’à un nombre restreint de partenaires vérifiés, afin de renforcer la sécurité en amont.

Mann a indiqué que l’entreprise comprend que retarder la sortie de modèles de pointe peut réduire le risque d’abus malveillants, mais aussi retarder la mise en œuvre des bénéfices qu’ils peuvent apporter, comme renforcer la sécurité des défenseurs, accélérer la recherche pharmaceutique pour sauver des patients gravement malades. « Nous ressentons vraiment le coût de ces retards. » Mais la sécurité reste la priorité.

« Chez Anthropic, nous réfléchissons profondément à ces risques », a déclaré Mann. « Avec la puissance croissante de la technologie, comment pouvons-nous garantir que les pays qui ne partagent pas nos valeurs, comme Taïwan ou les États-Unis, l’utilisent de manière responsable ? »

Si la super-intelligence est si dangereuse, pourquoi continuer à la développer ? Chhabra a donné une réponse lors de l’entretien : « Si Anthropic ne développe pas ce modèle, nos concurrents le feront. » Pour éviter que la super-intelligence ne tombe entre de mauvaises mains, Anthropic doit établir en avance des normes de sécurité strictes, « nous sommes en course contre le temps. »

En écho aux propos de Mann, Chhabra a réaffirmé lors de l’entretien que sans la chaîne d’approvisionnement taïwanaise, il n’y aurait pas d’Anthropic. La victoire dans la course à l’IA pour les démocraties dépend de la sécurité et de la solidité de cette chaîne, qui est absolument essentielle.

Chhabra a également souligné que Taïwan est souvent la première région à faire face à des cyberattaques avancées, ce qui constitue une information précieuse pour ses alliés. Il espère qu’en partenariat, Taïwan et les États-Unis pourront démontrer leur résilience face à ces menaces et renforcer leur chaîne d’approvisionnement.

• Cet article est reproduit avec autorisation de : « Digital Times »
• Titre original : « Le co-fondateur d’Anthropic en visite à Taïwan met en garde : « La singularité logicielle » a 50 % de chances d’arriver, les travailleurs du savoir en première ligne »
• Auteur original : Fu Wanqi