Altman công bố năm nguyên tắc của OpenAI, dự báo trong tương lai có thể hạn chế khả năng của mô hình để đảm bảo an toàn

币界网消息，OpenAI首席执行官Sam Altman以个人署名发布了公司五条运营原则。 Anh ấy trong bài viết đã dự báo rằng, trong tương lai, OpenAI có thể sẽ thắt chặt khả năng truy cập của người dùng đối với các mô hình để đảm bảo an toàn, và nói rằng có thể tưởng tượng ra “cần phải hy sinh một phần quyền lực để đổi lấy độ bền vững cao hơn”. Altman chỉ ra rằng, các quyết định quan trọng về AI nên được đưa ra thông qua quy trình dân chủ, chứ không chỉ do các phòng thí nghiệm AI quyết định. Anh ấy bảo vệ các hành động gần đây của OpenAI như mua sức mạnh tính toán quy mô lớn, xây dựng trung tâm dữ liệu toàn cầu, tích hợp dọc, v.v., với mục tiêu giảm chi phí AI xuống mức mọi người có thể sử dụng được, và cho rằng chính phủ có thể cần khám phá các mô hình kinh tế mới để đảm bảo chia sẻ giá trị. Anh ấy cũng đề cập đến một kịch bản rủi ro cụ thể: các mô hình cực kỳ mạnh mẽ có thể làm giảm ngưỡng để tạo ra các loại mầm bệnh mới, cần có phản ứng toàn xã hội. Altman đã nhìn lại sự do dự của mình khi quyết định không công bố trọng số GPT-2 vào năm đó, nói rằng sau này nhìn lại thì đó là quá lo lắng, nhưng đã thúc đẩy chiến lược triển khai lặp lại của OpenAI cho đến nay.