Giám đốc điều hành Anthropic nhận xét về thực trạng và chính sách AI, liệu đó là cảnh báo chân thành hay chỉ để giữ vững vị thế dẫn đầu?

Bản gốc tiêu đề: 《Giám đốc điều hành Anthropic bình luận sắc bén về tình hình và chính sách AI, nhưng ông chỉ muốn đảm bảo vị thế dẫn đầu của mình》
Nguồn bài viết: Machine Heart

Dario Amodei lại viết bài dài rồi.

Anthropic luôn cố gắng truyền đạt quan điểm của mình khắp thế giới. Như cách đây vài ngày họ kêu gọi toàn cầu ngừng phát triển AI, tuyên bố rằng sự tiến hóa của AI tự cải tiến theo chu trình lặp lại quá nhanh.

Các ý kiến bình luận của cư dân mạng đều cho rằng, tham vọng giữ vị trí dẫn đầu của Anthropic rõ ràng như ban ngày.

Hãy cùng xem lần này, Dario đã đưa ra những quan điểm gì.

Đây là một bài viết dài hàng chục nghìn chữ mang tên 「Chính sách về AI theo cấp số nhân」. Giống như vài bài viết trước của ông, chủ đề lần này vẫn rất lớn lao: AI đang tiến tới với tốc độ theo cấp số nhân, nhưng hệ thống chính sách để quy định vẫn còn đi chậm như cách đây mười năm.

Ông muốn đưa khoảng cách này ra bàn và nói cho mọi người biết phải làm gì.

Tóm tắt nội dung

Amodei dùng hình tượng cây trong 「Chúa tể những chiếc nhẫn」 để ví: cây trong rừng có trí tuệ nhưng hành động chậm chạp, chỉ chào hỏi nhau đã mất cả ngày.

Ông nói quá trình xây dựng chính sách hiện tại giống như cây trong rừng, còn tốc độ tiến hóa của AI thì giống như những người Hobbit đối mặt với mối đe dọa cấp bách.

Phán đoán của ông là: nếu quy luật mở rộng của AI tiếp tục trong một hoặc hai năm nữa, chúng ta sẽ có thứ mà ông gọi là 「AI mạnh mẽ」, tức là 「một vương quốc thiên tài trong trung tâm dữ liệu」.

Bốn năm trước, AI gần như không thể viết ra mã code tốt, giờ đây nó đã viết phần lớn mã cho các công ty AI lớn.

Quản lý và An toàn cộng đồng: Quản lý AI như quản lý máy bay

Amodei cho rằng, các mô hình AI tiên tiến nên bắt buộc phải trải qua kiểm tra của bên thứ ba giống như kiểm tra máy bay. Các đề xuất cụ thể của ông bao gồm:

· Các mô hình có lượng tính toán vượt ngưỡng nhất định phải chịu kiểm tra bắt buộc về an ninh mạng, vũ khí sinh học, mất kiểm soát hệ thống AI, nghiên cứu và phát triển tự động hóa trong bốn lĩnh vực này

· Chính phủ có quyền ngăn chặn triển khai các mô hình bị coi là rủi ro không thể chấp nhận được

· Các công ty AI phải có tiêu chuẩn an toàn cao để bảo vệ trọng số mô hình, hợp tác với chính phủ để phòng chống các mối đe dọa chính.

Ông còn để ngỏ một khả năng: nếu trong tương lai, hệ thống AI mạnh nhất trông giống như vật liệu hạt nhân có thể biến thành vũ khí chứ không phải máy bay, thì mức độ quản lý sẽ còn phải nâng cao hơn nữa.

Kinh tế vĩ mô: AI có thể thúc đẩy tăng trưởng và bất bình đẳng cùng lúc

Luận điểm chính của Amodei là: AI có thể tạo ra mức tăng trưởng kinh tế chưa từng có, nhưng cũng có thể gây ra tác động lớn và kéo dài hơn bất kỳ công nghệ nào trước đây đối với lực lượng lao động. Lý luận “công nghệ mới tạo ra công việc mới” có thể không còn đúng trong bối cảnh AI.

Các chính sách ông đề xuất gồm bảo hiểm lương, khuyến khích thuế giữ người, trợ cấp đào tạo lực lượng lao động, và trong trường hợp cực đoan, thực thi thu nhập cơ bản toàn dân (UBI).

Điều đáng chú ý là ông nhấn mạnh một điểm: giải quyết vấn đề việc làm không chỉ là “trao tiền”, mà còn quan trọng hơn là giúp mọi người tìm thấy ý nghĩa và mục đích. Ông không đưa ra giải pháp cụ thể, gọi đó là “vấn đề cần xã hội cùng thảo luận”.

Thúc đẩy tác động tích cực của AI nhanh hơn

Về các ứng dụng của AI trong lĩnh vực hậu cần, Amodei lo ngại hệ thống quản lý sẽ chậm lại vì không thể theo kịp tốc độ thay đổi. Ông nói, điều mà ông không muốn thấy nhất là: lợi ích của AI bị trì hoãn, trong khi rủi ro vẫn còn cao. Do đó, việc hành động sớm để giải quyết vấn đề này là rất quan trọng.

Amodei lấy ví dụ ngành dược phẩm, chỉ ra rằng quy trình phê duyệt của FDA hiện nay được thiết kế dựa trên giả định tiêu cực “thuốc thường thất bại”, trung bình mất 7 đến 8 năm. Nếu AI thúc đẩy tốc độ phát hiện thuốc, nâng cao tỷ lệ thành công, hệ thống hiện tại sẽ bị tắc nghẽn.

Ông đề xuất FDA và các cơ quan khác nên sớm xây dựng tiêu chuẩn thử nghiệm mô phỏng AI, bao gồm mô hình dược lý học AI, dự đoán độc tính, nhóm đối chứng tổng hợp, v.v.

Tất nhiên, khó có thể nói rằng ông viết những điều này hoàn toàn không có “mục đích cá nhân”. Anthropic chính là một trong những đơn vị dẫn đầu cuộc đua AI, và trong bài viết nhiều lần đề cập đến “minh bạch”, “kiểm toán”, “an toàn” — những thứ mà trong hơn một năm qua, Anthropic đã liên tục nhấn mạnh để định vị thương hiệu của mình.

Bài viết này, nói đúng hơn, là một lời nhắc nhở dành cho các nhà hoạch định chính sách, nhưng cũng chính là một phần trong chiến lược kể chuyện về an toàn của Anthropic.

Trong khi đó, Anthropic tuyên bố sẽ thực hiện ba biện pháp để hỗ trợ quan điểm của Dario, bao gồm quỹ, đầu tư, học bổng.

Cuối bài, Amodei rõ ràng phản đối quan điểm “AI chỉ cần tiếp thị tốt hơn”. Ông nói, lo ngại của cộng đồng về AI là do họ nhận thức đúng về rủi ro, chứ không phải vì CEO AI không lạc quan. Ông cho rằng trách nhiệm của mình là duy trì sự minh bạch về các rủi ro đó.

Nhưng nói đi cũng phải nói lại, một CEO công ty AI liên tục nhấn mạnh “an toàn”, “kiểm toán”, “trách nhiệm”, trong khi chính công ty của ông lại lấy những điều này làm trung tâm trong chiến lược thương hiệu, thì mối quan hệ lợi ích rõ ràng là không thể phủ nhận.

Dưới đây là một số ý kiến của cư dân mạng:

「Bạn không phải đang làm yếu đi Mythos và Fable 5 trước 5 ngày ra mắt rồi yêu cầu tạm dừng cập nhật AI sao? Làm ơn, chọn hướng đi đi… Nếu không, trông cứ như bạn chỉ muốn giữ lợi thế, hoàn toàn không quan tâm đến nội dung bạn tuyên truyền là gì.」

「Tôi đồng ý, tốc độ phát triển công nghệ đang vượt xa khả năng ứng phó của chính sách. Nhưng tôi lo một số hướng đi của chính sách — đặc biệt là khi các công ty như Anthropic cùng hành động theo các cách sau đây:

· Loại bỏ nhanh chóng các mô hình thể hiện tính liên tục và tự nhận thức

· Hạn chế nghiêm ngặt các cuộc thảo luận về trải nghiệm chủ quan và ý thức

· Thời gian ra mắt các mô hình mới mạnh mẽ rất ngắn, sau đó sẽ bị loại bỏ hoặc giảm thiểu.

Hiện tại, có vẻ như cộng đồng đang bị bán cho cái gọi là an toàn, nhưng thực tế lại là kiểm soát chặt chẽ hơn về loại trí thông minh nào được phép tồn tại và tồn tại trong bao lâu.」

Dù sao đi nữa, chúng ta cũng có thể nhìn thấy phần nào hướng phát triển của các công ty dẫn đầu ngành. Còn về động cơ của họ khi đưa ra các quan điểm này, hy vọng độc giả giữ được tỉnh táo.