Anthropic publica medidas de seguridad para el modelo Fable 5 y un marco de evaluación de comportamientos de jailbreak en IA

robot
Generación de resúmenes en curso
El 3 de julio, Anthropic anunció un marco propuesto para evaluar la gravedad de los comportamientos de 'jailbreak' en inteligencia artificial y detalló las medidas de ciberseguridad implementadas en el modelo Claude Fable 5, lanzado a nivel mundial. La empresa clasifica los casos de uso relacionados con la ciberseguridad en cuatro tipos, que van desde 'uso prohibido' hasta 'uso inofensivo'. Los usos prohibidos incluyen actividades como el desarrollo de ransomware, la creación de malware y los ataques a infraestructuras ciberfísicas. Las actividades de alto riesgo con características de 'doble uso', como las pruebas de penetración, serán interceptadas hasta que se establezcan mecanismos de control más robustos. El sistema de clasificación de gravedad de ciberjailbreaks propuesto por Anthropic va desde CJS-0 hasta CJS-4, dividido en cinco niveles y evaluado en cuatro dimensiones. Anthropic también lanzó el proyecto HackerOne, invitando a investigadores de seguridad a presentar posibles casos de jailbreak de modelos. (Sina Finance)
Ver original
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • Comentar
  • Republicar
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
Sin comentarios
  • Fijado