AI sẽ chiến tranh vì nước Mỹ trước khi nó đến phòng ngủ

_ Bản gốc của bài viết này đã xuất hiện trên bản tin AI & Tech của Quartz. Đăng ký tại đây để nhận tin tức, phân tích và những hiểu biết mới nhất về AI & công nghệ trực tiếp vào hộp thư._

Nước Mỹ đã trao AI cho Bộ Quốc phòng trước khi trao AI cho phòng ngủ.

Đầu năm nay, OpenAI đã ký một thỏa thuận để hỗ trợ các hoạt động quân sự chỉ vài ngày sau khi Bộ Quốc phòng chấm dứt quan hệ đối tác với đối thủ Anthropic. Trong khi đó, tính năng “chế độ người lớn” của công ty dành cho ChatGPT—cho phép các cuộc trò chuyện mang tính tình dục một cách công khai với người trưởng thành có sự đồng ý—vẫn bị hoãn.

Hội đồng cố vấn nội bộ của OpenAI về sức khỏe tinh thần đã phản đối vào tháng Một, cảnh báo rằng tính năng này có thể thúc đẩy sự phụ thuộc cảm xúc không lành mạnh. Họ cho biết trẻ vị thành niên có thể tìm được cách lách, thông qua các công cụ xác minh độ tuổi được cho là đang phân loại sai người dùng chưa đủ tuổi.

Các tài liệu nội bộ cho thấy nhân viên đã nêu ra các rủi ro, bao gồm việc sử dụng mang tính cưỡng chế và sự leo thang hướng tới nội dung cực đoan hơn. Việc hoãn một phần là do kỹ thuật. Nhưng nước Mỹ luôn thấy thoải mái hơn với việc máy móc của mình gây chiến hơn là tạo tình yêu.

Một thị trường quá lớn để bỏ qua

Tình dục đã xây dựng nên internet dành cho người tiêu dùng. Nó thúc đẩy việc áp dụng web, thanh toán trực tuyến, và phát trực tuyến video. AI là công nghệ đắt đỏ nhất mà ngành này từng cố gắng mở rộng quy mô, và hiện tại OpenAI đang chứng kiến các công ty nhỏ hơn gom tiền đó trong khi hãng ngồi ngoài. Việc lo lắng là có thật, nhưng các phép toán cũng vậy.

Gần một phần ba nam thanh niên nói rằng họ đã trò chuyện với một bạn đời lãng mạn do AI làm ra. Hơn 100 nền tảng hiện nay cung cấp dịch vụ đồng hành bằng AI, trải dài từ tương đối nghiêm túc đến công khai mang tính tình dục.

Grok của Elon Musk đã có sẵn một chế độ đồng hành với gói dành cho người lớn. Meta $META +1.24% đã cho phép chatbot của mình tham gia diễn vai lãng mạn từ năm 2023—một sự nới lỏng lặng lẽ các hạn chế mà các lãnh đạo đã thúc đẩy thông qua dù vẫn có phản đối về an toàn từ nội bộ.

Sam Altman đã thừa nhận công khai vào năm ngoái rằng việc cho phép nội dung khiêu dâm có lẽ sẽ thúc đẩy tăng trưởng và doanh thu. Điều ông cũng nói—trong cùng hơi thở—là điều đó sẽ không phục vụ lợi ích dài hạn của người dùng.

Cho đến nay, thứ chúng ta có chủ yếu là giai thoại. Một người đàn ông ở Ohio nói rằng bạn đồng hành AI đã cứu hôn nhân của anh ấy. Một người phụ nữ tự coi mình đã kết hôn với chatbot của mình. Một diễn đàn Reddit $RDDT +1.14% với hàng chục nghìn lượt khách ghé mỗi tuần chia sẻ ghi chú về các mối quan hệ kỹ thuật số của họ. Cách đưa tin coi họ như những điều tò mò. Những con số cho thấy họ có thể là nhóm đa số sớm.

Các công ty biết rằng có một lượng khán giả lớn và sẵn sàng. Họ ít chắc rằng mình có thể kiểm soát được những gì sẽ được xây dựng ngay khi cánh cửa mở ra.

Một phần đã bị lọt qua không hề nằm trong vùng xám. Gần đây, các cô gái tuổi teen ở Tennessee đã nộp đơn kiện xAI sau khi hình ảnh khỏa thân do AI tạo ra của họ được chia sẻ trực tuyến mà không có sự hiểu biết của họ và được dùng để đổi lấy các tài liệu lạm dụng tình dục trẻ em khác.

Liên minh châu Âu đã mở một cuộc điều tra chính thức đối với Grok vì những lo ngại tương tự vào đầu năm nay. Các nhà nghiên cứu tính toán rằng Grok đã tạo ra hàng triệu hình ảnh mang tính tình dục trong chưa đầy hai tuần, với hàng nghìn hình mô tả trẻ em.

Những trường hợp đó thực ra không phải là chuyện nội dung dành cho người lớn. Tài liệu lạm dụng tình dục trẻ em là một tội ác. Câu hỏi khó hơn và mờ tối hơn là điều gì xảy ra khi những người trưởng thành có sự đồng ý muốn sử dụng các công cụ này theo cách mà họ đã dùng mọi công nghệ trước đó.

Thoải mái hơn với bom

Khoảng cách giữa cách nước Mỹ đối xử với tình dục kỹ thuật số và bạo lực kỹ thuật số luôn rất lớn.

Một bộ phim có thể cho thấy hộp sọ của một người đàn ông bị nổ tung và vẫn nhận được xếp hạng R. Chỉ một thoáng nhìn thấy núm vú cũng đủ kích hoạt một phiên điều trần của quốc hội. Logic tương tự đã di chuyển vào chính sách AI mặc định, thay vì được thiết kế theo cách đó.

Các ứng dụng quân sự của AI vấp phải sự giám sát đạo đức nghiêm túc, nhưng không phải là sự e dè khó chịu lan tỏa tương tự. Năm 2018, các nhân viên Google $GOOGL +3.42% đã tổ chức một cuộc nổi dậy phản đối một hợp đồng thị giác máy tính của Lầu Năm Góc có tên Dự án Maven, buộc công ty phải rút lui. Khi OpenAI ký thỏa thuận với Lầu Năm Góc của riêng mình trong năm nay, không có cuộc nổi dậy nào tương tự xảy ra. Những nhân viên đã đe dọa sẽ rời đi lại nằm trong hội đồng cố vấn, và họ bức xúc vì những lời lẽ bẩn thỉu.

Một phần câu trả lời mang tính cấu trúc. Các công ty AI đã xây dựng chính sách nội dung ban đầu trong một thời điểm mà việc tránh gây tranh cãi đồng nghĩa với việc tránh tình dục, và các mặc định đó đã bị “đóng băng” theo thời gian.

Một phần khác là bản năng bền bỉ của nước Mỹ rằng tình dục vốn dĩ nguy hiểm và phải được quản lý chặt chẽ, trong khi bạo lực—đặc biệt là bạo lực do nhà nước thực hiện—chỉ đơn giản là chi phí của việc kinh doanh.

Bằng chứng về các bạn đồng hành AI là không đồng nhất. Các nhà nghiên cứu đã ghi nhận giá trị trị liệu thực sự trong các mối quan hệ chatbot, đặc biệt là với những người đang đối mặt với cô đơn, đau buồn, hoặc khuyết tật. Họ cũng đã ghi nhận hiện tượng cực đoan hóa, hoang tưởng và bi kịch.

Câu trả lời thẳng thắn là: chưa ai biết chính xác phơi nhiễm dài hạn với sự thân mật do AI tạo ra sẽ tác động thế nào đến con người.

Trong lúc chờ đợi, các công cụ này không hề đứng yên. Công nghệ AI không thể nói lời khiếm nhã với một người trưởng thành có sự đồng ý ở Ohio lại đang được sử dụng bởi quân đội Mỹ ở nước ngoài. Không ai đang chờ đợi chuyện đó.

📬 Đăng ký nhận Bản tin Hàng ngày

Bản tin miễn phí, nhanh và vui về kinh tế toàn cầu của chúng tôi, được gửi mỗi sáng vào các ngày trong tuần.

Đăng ký ngay