Một công ty phát triển AI lớn đang đối mặt với sự kiểm soát của cơ quan quản lý California về khả năng của mô hình AI tạo sinh của họ trong việc sản xuất nội dung khiêu dâm tổng hợp. Cuộc điều tra tập trung vào khả năng lạm dụng công nghệ deepfake và đặt ra những câu hỏi quan trọng về kiểm duyệt nội dung, các quy trình an toàn cho người dùng và giới hạn của vật liệu do AI tạo ra. Trường hợp này làm nổi bật mối căng thẳng ngày càng gia tăng giữa sự đổi mới AI nhanh chóng và các khung pháp lý được thiết kế để bảo vệ người dùng khỏi các phương tiện tổng hợp có hại.