Mỹ bắt đầu chú ý đến an toàn AI! OpenAI, Google, Meta và các ông lớn khác đối mặt với sự giám sát chặt chẽ hơn?

Trí tuệ nhân tạo mang đến cho các công ty công nghệ những cơ hội phát triển to lớn, đồng thời cũng đặt ra các vấn đề mới về quản trị an toàn.
Đảng Dân chủ Mỹ gần đây đề xuất định hướng chính sách tăng cường quản lý AI, dự kiến thúc đẩy các quy định liên quan đến kiểm định độc lập, trách nhiệm doanh nghiệp và chi phí năng lượng của trung tâm dữ liệu.
Trước đó, lãnh đạo ủy ban Đảng Dân chủ tại Hạ viện Mỹ cũng gửi thư cho Anthropic, Google, Meta, OpenAI và các công ty khác, yêu cầu cung cấp thông tin về các sự cố an toàn liên quan đến mô hình AI tiên tiến, đồng thời đề xuất nghĩa vụ báo cáo liên tục.
Một số yêu cầu trong đó đề nghị báo cáo với Quốc hội trong vòng 48 giờ sau khi phát hiện sự cố an toàn liên quan.
Điều này cho thấy các nghị sĩ Mỹ đã bắt đầu quan tâm đến những hành vi ngoài dự kiến của mô hình AI trong quá trình kiểm định, cũng như cơ chế giám sát an toàn và báo cáo hiện tại của doanh nghiệp.
Với người dùng phổ thông, những cuộc thảo luận về quản lý này cũng có ý nghĩa thực tế. Thông tin do AI tạo ra có đáng tin cậy không? Mô hình có thể tạo ra hành vi nguy hiểm không? Doanh nghiệp nên chịu trách nhiệm đến đâu?
Những vấn đề này không còn chỉ là chủ đề thảo luận của giới kỹ thuật.
Tuy nhiên, thư yêu cầu cung cấp thông tin và kế hoạch chính sách không đồng nghĩa với việc doanh nghiệp đã bị xác định là vi phạm pháp luật. Các yêu cầu cụ thể trong tương lai vẫn cần được xác định thông qua quy trình chính thức.
AI càng mạnh mẽ, việc quản trị an toàn càng không thể là điều chỉ được cân nhắc sau cùng.$MU

‌#美股AI板块遭遇重挫