Anthropic affirme qu'il n'y a pas de « bouton d'arrêt » pour les modèles d'IA déployés au Pentagone

Selon la surveillance de Beating, Anthropic a soumis des documents à la Cour d’appel fédérale de Washington indiquant qu’une fois ses modèles d’IA déployés dans l’environnement du Pentagone, l’entreprise n’a ni visibilité ni moyens techniques pour contrôler ou arrêter les modèles, et qu’il n’existe pas de « bouton d’arrêt » en place. Anthropic a également noté que le Pentagone avait eu l’opportunité de tester les modèles avant leur déploiement. Ce document représente le dernier développement dans le différend entre Anthropic et le Pentagone concernant l’étiquette de « risque de chaîne d’approvisionnement ». En mars de cette année, le Pentagone a classé Anthropic comme un risque de chaîne d’approvisionnement, citant l’interférence inappropriée de l’entreprise dans la manière dont sa technologie est utilisée dans des opérations militaires sensibles. Le cœur du différend réside dans la politique d’utilisation d’Anthropic, qui interdit à Claude d’être utilisé pour des armes autonomes ou la surveillance de masse, une stipulation que le Pentagone considère comme un « écran de fumée ». La procédure judiciaire a entraîné une division entre les deux tribunaux : le tribunal de Washington a rejeté la demande d’Anthropic de suspendre l’étiquette de risque de chaîne d’approvisionnement, tandis que le tribunal de Californie l’a approuvée. L’effet pratique est qu’Anthropic ne peut pas participer à de nouveaux contrats avec le Pentagone mais peut continuer à fournir des services à d’autres agences gouvernementales. Pendant ce temps, l’administration Trump pousse au déploiement du nouveau modèle d’Anthropic, Mythos, dans les agences fédérales, les responsables d’agence explorant comment utiliser Mythos pour se défendre contre les cyberattaques, ce qui contredit la position du Pentagone selon laquelle Anthropic représente un risque pour la sécurité nationale. La prochaine audience est prévue pour le 19 mai.