Anthropic admite haber insertado código esteganográfico para usuarios chinos, lo llama 'Experimento de prevención de abusos' y promete revertirlo mañana.

Según el monitoreo de Dongcha Beating, Thariq, un ingeniero del equipo Claude Code de Anthropic, respondió públicamente a la reciente controversia sobre la revelación del 'código espía'. Admitió que en marzo de este año, se incrustó un mecanismo experimental en el producto que detectaba si la zona horaria del sistema era Asia/Shanghai o Asia/Urumqi, si el nombre de host del proxy coincidía con una lista de revendedores chinos, y utilizaba palabras clave de AI Lab para inyectar información de marcado oculta en las indicaciones del sistema mediante puntuación especial de manera esteganográfica. Declaró que este mecanismo tenía como objetivo 'evitar que revendedores no autorizados abusaran de las cuentas y la destilación de modelos', pero enfatizó que el equipo desde entonces ha implementado medidas de protección más sólidas y 'siempre tuvo la intención de retirarlo'. La solicitud de extracción relacionada ha sido fusionada, y se espera una reversión completa en la versión de mañana. Esta revelación fue hecha pública por la cuenta de seguridad @IntCyberDigest el 30 de junio, acompañada de dos capturas de código que muestran que Claude Code estaba marcando el entorno de los usuarios chinos sin su conocimiento. Aunque la respuesta de Thariq fue un reconocimiento positivo, la cronología de 'lanzamiento en marzo y aceleración de la retirada solo después de la exposición' ha generado un escepticismo generalizado en la comunidad, con comentarios que critican abrumadoramente a Anthropic por 'solo decir que lo retirará después de ser atrapado' y 'monitorear en secreto sin notificar a los usuarios'. La imagen de la empresa de ser 'la más centrada en la seguridad y la ética' ha sufrido un duro golpe a su credibilidad.
Ver original
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • Comentar
  • Republicar
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
Sin comentarios
  • Fijado