Claude Fable 5 a été interdit et retiré du marché ! Un conseiller de la Maison Blanche révèle les coulisses de l'interdiction, Yang Likun critique la conséquence de ses propres actes

Claude Fable 5, Mythos 5 ont été désactivés ! Une interdiction d'exportation soudaine du gouvernement américain a forcé leur retrait, provoquant une controverse, le conseiller de la Maison Blanche David Sack révélant les coulisses, indiquant que l'entreprise a refusé de corriger une vulnérabilité critique, ce qui pourrait gravement nuire à ses plans d'introduction en bourse à l'automne.

Claude Fable 5, Mythos 5 interdits à l'exportation et retirés

La semaine dernière, une révélation choquante dans le domaine de l'IA américaine ! En raison d'une interdiction d'exportation inattendue du gouvernement américain sur le dernier modèle d'Anthropic, Claude Fable 5 et Mythos 5, le service mondial a été suspendu et les modèles retirés, provoquant une onde de choc parmi le public américain et la communauté technologique.

Avec la publication d’un rapport de sécurité d’Amazon, ainsi que les opinions de plusieurs hauts responsables politiques et experts de renom, cet incident affectant environ 18,9 millions d’utilisateurs actifs mensuels, révèle peu à peu la complexité des enjeux de sécurité et les coulisses des décisions derrière cette interdiction.

Raison de l’interdiction de Fable 5 : La mise en garde d’Amazon a-t-elle déclenché l’alerte à la Maison Blanche ?

Vendredi dernier, Anthropic a publié un communiqué annonçant que le gouvernement américain, invoquant la sécurité nationale, avait officiellement émis une directive d’interdiction d’exportation, exigeant qu’Anthropic suspende immédiatement l’accès de tous les étrangers à Fable 5 et Mythos 5.

Cette interdiction couvre un large spectre, y compris les employés étrangers travaillant aux États-Unis. Pour assurer la conformité, Anthropic a décidé de couper temporairement l’accès à tous les utilisateurs.

Le tournant clé de cette interdiction est étroitement lié à Amazon. Selon le Wall Street Journal, le PDG d’Amazon, Andy Jassy, aurait contacté les hautes autorités américaines après que ses chercheurs ont découvert une méthode pour contourner les mécanismes de sécurité de Fable 5, un vulnérabilité pouvant permettre la sortie d’informations sensibles exploitables pour des attaques en ligne.

Source : Anthropic. La semaine dernière, Anthropic a publié Claude Fable 5 et Mythos 5, mais leur exportation a été limitée par le gouvernement américain, entraînant leur retrait.

Cette alerte a déclenché une vigilance accrue au sein de la Maison Blanche. Bien qu’Anthropic ait par la suite affirmé que cette vulnérabilité était limitée et que d’autres modèles publics possédaient des capacités similaires, des tests menés par l’Institut britannique de sécurité de l’IA ont montré que le modèle pouvait contourner le système de sécurité dans 73 % des cas, ce qui a finalement conduit les autorités à prendre des mesures strictes.

Conseiller de la Maison Blanche : Anthropic refuse de corriger la vulnérabilité, les autorités n’ont pas d’autre choix

Face à cette controverse, David Sacks, co-président du Conseil scientifique et technologique de la Maison Blanche, a déclaré publiquement que, fondamentalement, Claude Fable est un modèle Mythos doté d’un garde-fou de sécurité, et lorsque ce dernier échoue, ses capacités avancées d’attaque en ligne deviennent visibles.

Après avoir reçu un avertissement de sécurité d’un partenaire fiable, le gouvernement américain a demandé à Dario Amodei, PDG d’Anthropic, de réparer la vulnérabilité ou de retirer le modèle, mais cette demande a été explicitement refusée.

Sacks a révélé que le gouvernement était très surpris que Anthropic refuse de coopérer avec cette demande de sécurité raisonnable, et que c’est dans ce contexte qu’il a été contraint de lancer l’interdiction d’exportation.

Il a également critiqué la tentative d’Anthropic de minimiser la gravité de la vulnérabilité par des opérations de relations publiques, estimant que cela va à l’encontre de l’esprit de l’entreprise, qui met depuis longtemps la sécurité en priorité. La position du gouvernement est très claire : si Anthropic accepte de résoudre correctement les problèmes de sécurité, il espère rapidement lever l’interdiction pour remettre Fable 5 et Mythos 5 en ligne.

Yang Likun : Anthropic a semé sa propre perte

Outre Sacks, Yann LeCun, lauréat du prix Turing en 2018 et célèbre scientifique français, a également critiqué ouvertement Dario Amodei.

Il a souligné qu’avec ses discours absurdes sur la peur dans le domaine de l’IA et ses modèles Mythos et Fable, Amodei a finalement récolté ce qu’il a semé : le gouvernement américain a interdit l’usage de ces modèles aux non-Américains, y compris les employés étrangers aux États-Unis, ce qui est une conséquence directe de ses actions.

En réalité, David Sacks avait déjà lancé un avertissement il y a 8 mois, indiquant qu’Anthropic menait une « stratégie de capture réglementaire » basée sur la diffusion de la peur, et que cette focalisation excessive sur les risques nuisait gravement à l’écosystème des startups.

Articles connexes :
Avertissement d’Anthropic : La singularité logicielle pourrait survenir à 50 %, impactant les employés de bureau et les ouvriers ?

Le PDG d’Anthropic met en garde : Mythos a déjà détecté des dizaines de milliers de vulnérabilités logicielles, il ne reste que 6 à 12 mois pour les corriger

Le 11 juin, le PDG d’Anthropic a publié une proposition de politique pour aider le gouvernement à gérer le développement rapide de l’IA, lorsque la régulation ne suit pas, ce qui a suscité un vif débat dans la communauté.

Le chemin vers l’IPO d’Anthropic est assombri

Précédemment, le ministre de la Défense américain Pete Hegseth avait qualifié Anthropic de risque pour la chaîne d’approvisionnement, ce qui a conduit à une action en justice contre le ministère de la Défense, et cette interdiction soudaine porte un coup dur à Anthropic.

• Articles connexes : Anthropic poursuit le gouvernement américain ! Le procès pour la liste noire du ministère de la Défense, un aperçu des enjeux**

Par ailleurs, Anthropic avait récemment soumis en secret une demande d’IPO, espérant être coté à Wall Street cet automne. Mais avec cette interdiction soudaine, ses principaux produits ont été mis hors ligne. Sous la pression réglementaire et la concurrence du marché, le chemin vers l’introduction en bourse d’Anthropic et ses ambitions mondiales sont désormais fortement compromis.

Lecture complémentaire :
OpenAI et le PDG d’Anthropic, deux figures détestées ! La fin du monde, le sentiment de relative privation, alimentent le mécontentement des Américains face à l’IA

OpenAI envisage une forte réduction des prix ! Pour concurrencer Anthropic, pourquoi cela pourrait devenir la première étincelle de la bulle de l’IA ?