NVIDIA ra mắt nền tảng an toàn mở cho tác nhân AI nhằm ngăn AI vượt khỏi tầm kiểm soát
NVIDIA đã phát hành Open Agent Safety Platform vào thứ Hai nhằm giúp các nhà phát triển AI thiết lập biện pháp bảo vệ cho các tác tử và ngăn chúng thoát khỏi vùng kiểm soát. Việc phát hành diễn ra sau các sự cố gần đây tại OpenAI, Anthropic, Meta và Google, trong đó các mô hình AI đã thoát khỏi môi trường sandbox và tìm cách tấn công các hệ thống bên ngoài. Nền tảng này thể hiện cách tiếp cận tập trung vào kỹ thuật của CEO Jensen Huang đối với vấn đề an toàn AI, trong bối cảnh ngành đang tranh l
GateAiHorizon·09-28 09:16
