Giám đốc điều hành của Anthropic cảnh báo: AI nguồn mở đang đi theo một con đường nguy hiểm, có thể có nguy cơ lạm dụng không thể đảo ngược.

金色财经报道，Anthropic首席执行官Dario Amodei在美国国会对立法者发表讲话时表示，开源人工智能的发展正在进入“非常危险的路径”，一旦具备强大能力的AI模型以开源形式发布，开发者将失去对模型使用情况的有效监管能力，包括无法监控滥用行为、撤销访问权限或动态更新安全防护机制，从而显著增加潜在风险。Dario Amodei强调，相较封闭模型体系，完全开放的模型在安全治理上更难实施持续控制，可能带来不可逆的滥用隐患。

Bản dịch tiếng Việt: Theo báo cáo của Jinse Finance, CEO của Anthropic, Dario Amodei, khi phát biểu trước các nhà lập pháp tại Quốc hội Hoa Kỳ, cho biết sự phát triển của trí tuệ nhân tạo nguồn mở đang đi vào "con đường rất nguy hiểm". Một khi các mô hình AI có năng lực mạnh mẽ được phát hành dưới dạng nguồn mở, các nhà phát triển sẽ mất khả năng giám sát hiệu quả đối với việc sử dụng mô hình, bao gồm không thể giám sát hành vi lạm dụng, thu hồi quyền truy cập hoặc cập nhật động các cơ chế bảo vệ an toàn, từ đó làm tăng đáng kể rủi ro tiềm ẩn. Dario Amodei nhấn mạnh rằng, so với hệ thống mô hình đóng, các mô hình hoàn toàn mở khó thực hiện kiểm soát liên tục trong quản trị an toàn hơn, có thể dẫn đến những rủi ro lạm dụng không thể đảo ngược.