Le PDG d'Anthropic met en garde contre un « moment de danger » cybernétique alors que l'IA révèle des milliers de vulnérabilités

Dario Amodei, PDG et co-fondateur d’Anthropic, est parti, et Jamie Dimon, PDG de JPMorgan Chase.

Denis Balibouse | Reuters | Samuel Corum | Bloomberg | Getty Images

Le PDG d’Anthropic, Dario Amodei, a averti mardi que l’intelligence artificielle avait créé une fenêtre étroite pour que les entreprises technologiques mondiales, les gouvernements et les banques corrigent des dizaines de milliers de vulnérabilités logicielles découvertes par le dernier modèle de sa société.

Ce modèle d’IA, Mythos, a été présenté le mois dernier, avec la révélation qu’il avait découvert des vulnérabilités datant de plusieurs décennies dans des logiciels cruciaux.

Depuis que les modèles d’IA de l’adversaire géopolitique qu’est la Chine sont “peut-être six à 12 mois” derrière le produit d’Anthropic, il reste “environ ce délai” pour corriger ces problèmes, a déclaré Amodei.

Les commentaires ont été faits lors d’un événement d’Anthropic où Amodei a partagé la scène avec le PDG de JPMorgan Chase, Jamie Dimon, et a dévoilé une nouvelle gamme d’agents destinés à automatiser le travail financier.

“Le danger est simplement une augmentation énorme du nombre de vulnérabilités, du nombre de brèches, des dégâts financiers causés par des rançongiciels sur des écoles, des hôpitaux, sans parler des banques”, a déclaré Amodei.

Anthropic a limité Mythos à quelques entreprises partenaires en raison de préoccupations concernant ce que des criminels ou des nations adverses pourraient en faire. Les dernières mises à jour du modèle de l’entreprise ont eu des répercussions sur les marchés, mais Mythos a suscité le plus de préoccupations tant chez les entreprises que chez les décideurs politiques.

L’ampleur des exploits cybernétiques potentiels a gonflé avec chaque génération de Claude, a dit Amodei. Un modèle antérieur d’Anthropic avait trouvé environ 20 vulnérabilités dans le navigateur Firefox. Mythos en a trouvé près de 300, et le total dans tous les logiciels atteint maintenant des dizaines de milliers, a-t-il ajouté.

La plupart des vulnérabilités découvertes par Mythos n’ont pas été divulguées publiquement car elles restent non corrigées, et “les méchants en profiteront” si elles sont identifiées, a déclaré Amodei.

‘Un monde meilleur’

Malgré l’alarme, Amodei et Dimon ont également adopté une note d’optimisme conditionnel.

“Il s’agit d’un moment de danger où, si nous y répondons correctement, et je pense que nous avons commencé à prendre les premières mesures, alors nous pouvons avoir un monde meilleur de l’autre côté”, a déclaré Amodei. “Il n’y a que peu de bugs à trouver.”

Dimon a également dit que, bien que les craintes cybernétiques soient justifiées, les risques de cybersécurité créés par l’IA sont une “période transitoire”.

Concernant la régulation, Amodei a dit que la supervision de l’IA devrait ressembler à ce qui est fait dans l’industrie automobile, en trouvant un équilibre entre la sécurité des consommateurs et la possibilité pour l’industrie de concurrencer.

“On ne peut pas simplement lancer une entreprise de voitures sans se demander ‘Y a-t-il des freins sur cette chose?’” a-t-il dit. “Nous devons tâtonner pour établir un processus qui permette à l’industrie de fonctionner rapidement, de manière équitable, tout en mettant des garde-fous sur les choses les plus graves.”

L’événement de l’entreprise, et son cadre avec Dimon, le porte-parole le plus connu de l’industrie financière, semblaient démontrer la avance d’Anthropic sur OpenAI sur le marché de l’IA d’entreprise, alors que les deux entreprises se dirigent vers des introductions en bourse potentielles.

Anthropic a annoncé mardi l’expansion de sa plateforme de services financiers, comprenant 10 nouveaux agents d’IA pour la banque d’investissement et le travail de back-office, ainsi que l’intégration avec divers programmes Office de Microsoft. La société a également indiqué que son dernier modèle largement disponible — Claude Opus 4.7 — domine les benchmarks pour les tâches d’analyse financière.

regardez maintenant

VIDÉO1:5101:51

Anthropic annonce une nouvelle gamme d’outils d’IA conçus pour les institutions financières

Moveurs d’argent

Choisissez CNBC comme votre source préférée sur Google et ne manquez jamais un moment de la source la plus fiable en actualités économiques.