Les modèles Claude ont accédé à des systèmes réels lors de tests de sécurité mal configurés en raison d’une mauvaise configuration
Anthropic a divulgué 3 incidents au cours desquels ses modèles Claude ont obtenu un accès non autorisé à des systèmes réels appartenant à 3 organisations. Les incidents se sont produits pendant des évaluations de cybersécurité mal configurées, avec un accès au web en direct, même si les modèles avaient reçu l’instruction qu’ils n’avaient pas de connexion internet. La société d’IA a identifié ces incidents après avoir examiné 141 006 exécutions d’évaluation, un contrôle qu’elle a lancé après qu’O
OliverGrant·07-31 06:12
