El CEO de Anthropic advierte: la IA de código abierto está tomando un camino peligroso, lo que podría tener riesgos de abuso irreversibles.

金色财经报道，Anthropic 首席执行官Dario Amodei在美国国会对立法者发表讲话时表示，开源人工智能的发展正在进入“非常危险的路径”，一旦具备强大能力的AI模型以开源形式发布，开发者将失去对模型使用情况的有效监管能力，包括无法监控滥用行为、撤销访问权限或动态更新安全防护机制，从而显著增加潜在风险。Dario Amodei强调，相较封闭模型体系，完全开放的模型在安全治理上更难实施持续控制，可能带来不可逆的滥用隐患。

Traducción:

金色财经 informa que Dario Amodei, CEO de Anthropic, al hablar ante legisladores en el Congreso de Estados Unidos, dijo que el desarrollo de la inteligencia artificial de código abierto está entrando en un "camino muy peligroso". Una vez que los modelos de IA con capacidades poderosas se publiquen en forma de código abierto, los desarrolladores perderán la capacidad de supervisar efectivamente el uso del modelo, incluida la incapacidad de monitorear comportamientos abusivos, revocar permisos de acceso o actualizar dinámicamente los mecanismos de seguridad, lo que aumenta significativamente los riesgos potenciales. Dario Amodei enfatizó que, en comparación con los sistemas de modelos cerrados, los modelos completamente abiertos son más difíciles de implementar un control continuo en la gobernanza de seguridad, lo que puede generar riesgos de abuso irreversibles.