Expert en sécurité informatique : Les modèles d'IA aussi dangereux que Claude Mythos sont impossibles à arrêter, ils seront partout en 24 mois

Le gouvernement de Trump a la semaine dernière, sous prétexte de sécurité nationale, forcé Anthropic à retirer deux de ses modèles les plus puissants, Claude Fable 5 et Mythos 5, en affirmant qu'ils « pouvaient être jailbreakés ». Cependant, des experts en cybersécurité ont tempéré, affirmant que cette régulation n'est qu'une mesure contre une seule entreprise, un seul lot de modèles ; dans 6 à 24 mois, des capacités équivalentes seront largement disponibles à partir de multiples sources.
(Précédent : dépenser des fortunes pour croître ! Des documents divulgués par OpenAI révèlent une « perte opérationnelle de 20,9 milliards de dollars », avec un bénéfice attendu seulement en 2030)
(Contexte supplémentaire : CZ loue Hyperliquid comme une invention exceptionnelle ! Mais plaisante en disant que l'absence de KYC est trop risquée : « J'ai vécu ça, ils devraient avoir des avocats ultra compétents »)

Le week-end dernier, le gouvernement de Trump, invoquant un risque pour la sécurité nationale, a forcé le retrait de deux modèles récents d'Anthropic : Claude Fable 5 et Mythos 5. La logique de la Maison Blanche est : Fable 5 est accessible au public, mais ses barrières (en termes simples, le mécanisme de sécurité empêchant le modèle de répondre à des questions nuisibles) peuvent être désactivées, ce qui est considéré comme un risque pour la sécurité nationale.

Anthropic continue de négocier avec la Maison Blanche pour définir les conditions de réactivation, mais il n'est pas encore clair quand ils seront remis en ligne.

Cette épée à double tranchant, Anthropic en est conscient

Mythos 5 n'est pas un modèle de langage ordinaire. Depuis sa première publication en avril sous le nom de « Mythos Preview », la société a simultanément averti des risques. En résumé, pour les chercheurs en cybersécurité, c'est un outil de défense entre leurs mains, mais pour des acteurs malveillants, cela pourrait devenir une arme d'attaque.

C'est pourquoi Mythos 5 a initialement été distribué en privé uniquement à une alliance sélectionnée du groupe de travail Project Glasswing ; tandis que Fable 5, bien qu'accessible au grand public, comporte des restrictions spécifiques sur des questions biologiques et de cybersécurité.

6 mois contre 24 mois

Malgré l'interdiction ordonnée par le gouvernement de Trump, l'ancien responsable de l'équipe rouge d'Anthropic, Logan Graham, avait déjà expliqué dès avril lors de la sortie de Mythos Preview à WIRED :

« La véritable information, c'est que ce n'est pas une question de ce modèle ou d'Anthropic. Nous devons nous préparer dès maintenant à un monde où, dans 6, 12, 24 mois, ces capacités seront largement accessibles. »

Le directeur de la cybersécurité de TPO Group, Tarah Wheeler, a été encore plus direct :

« Penser qu'aucun autre concurrent ne développera des capacités similaires à Mythos, ou même croire qu'ils ne l'ont pas encore fait, est extrêmement court-termiste. D'autres entreprises suivent de près Anthropic, il est très probable qu'elles possèdent déjà ces capacités, mais attendent et observent comment Anthropic sera traité dans le contexte réglementaire actuel. »

Bruce Schneier, chercheur à Harvard, a également indiqué à WIRED : « C'est une tendance technologique globale. Des modèles plus petits, moins chers, open source, parfois seuls, parfois en collaboration, peuvent, avec des prompts plus sophistiqués, atteindre des performances comparables à Mythos. Nous devons nous attendre à ce que d'autres modèles puissent, en quelques mois, égaler la créativité et la résilience de Mythos/Fable, et que les modèles open source prennent un peu plus de temps. »