Anthropic publie des mesures de sécurité pour le modèle Fable 5 et un cadre d'évaluation des comportements de contournement de l'IA.

robot
Création du résumé en cours
Le 3 juillet, Anthropic a annoncé un cadre proposé pour évaluer la gravité des comportements de « jailbreak » de l'intelligence artificielle et a détaillé les mesures de cybersécurité mises en œuvre dans le modèle Claude Fable 5 lancé mondialement. L'entreprise catégorise les cas d'utilisation liés à la cybersécurité en quatre types, allant de l'« utilisation interdite » à l'« utilisation inoffensive ». Les utilisations interdites incluent des activités telles que le développement de ransomwares, la création de logiciels malveillants et les attaques contre les infrastructures cyber-physiques. Les activités à haut risque présentant des caractéristiques de « double usage », comme les tests de pénétration, seront interceptées jusqu'à ce que des mécanismes de contrôle plus robustes soient établis. Le système de notation de gravité Cyber Jailbreak proposé par Anthropic va de CJS-0 à CJS-4, divisé en cinq niveaux et évalué selon quatre dimensions. Anthropic a également lancé le projet HackerOne, invitant les chercheurs en sécurité à soumettre des cas potentiels de jailbreak de modèles. (Sina Finance)
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Reposter
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
Aucun commentaire
  • Épinglé