Từ rời khỏi OpenAI đến đối đầu với Pentagon: Cặp đôi anh chị em Anthropic đã vẽ ra giới hạn cho AI để tránh sự sụp đổ của nền văn minh

Bloomberg phỏng vấn nhà sáng lập Anthropic, tiết lộ về cuộc chia rẽ với OpenAI và sứ mệnh "An toàn là trên hết". Đối mặt với xung đột hợp đồng với Bộ Quốc phòng, cảnh báo thất nghiệp hàng loạt và mối đe dọa từ mô hình siêu lớn Mythos.
(Trước đó: Claude có 80% mã nguồn do chính mình viết, Anthropic kêu gọi "cơ chế phanh toàn cầu" có thật không?)
(Thông tin bổ sung: CEO của Anthropic, Dario Amodei: Trong vòng 6-12 tháng, mô hình AI mã nguồn mở của Trung Quốc sẽ bắt kịp Mythos)

Mục lục bài viết

Chuyển đổi

• Chương 1: Quy luật và tầm nhìn của tăng trưởng theo cấp số nhân
• Chương 2: Từ tuổi thơ ở San Francisco đến cuộc chia rẽ với OpenAI
• Chương 3: Định nghĩa đạo đức AI và "Hiến pháp"
• Chương 4: Chiến lược doanh nghiệp và khủng hoảng thất nghiệp
• Chương 5: Ranh giới đỏ của Bộ Quốc phòng và mô hình Mythos
• Chương 6: Làm thế nào đối mặt với xác suất hủy diệt 25%?
• Kết luận

Trong cuộc đua vũ trang AI, Anthropic được xem là đối thủ cạnh tranh mạnh nhất của OpenAI, và đã có lợi thế dẫn đầu. Công ty này do cặp anh chị em cựu quản lý của OpenAI, Dario Amodei và Daniela Amodei, thành lập năm 2021, từ đầu đã tuyên bố "An toàn AI" là tôn chỉ, và Claude do họ phát triển nhận được đánh giá rất cao trong ngành.

Tuy nhiên theo thời gian, Anthropic cũng rơi vào vòng xoáy quyền lực và đạo đức. Từ tranh chấp hợp đồng với Bộ Quốc phòng đến siêu mô hình "Mythos" có thể phá hủy an ninh mạng, cặp anh chị em này đang đứng trước ngưỡng thay đổi nền văn minh nhân loại.

Phóng viên kỳ cựu của Bloomberg, Emily Chang, đã trực tiếp thăm trụ sở chính của Anthropic tại San Francisco, tìm hiểu sâu về tầm nhìn cốt lõi, mâu thuẫn nội bộ và nỗi sợ về tương lai của công ty trị giá gần nghìn tỷ đô la này, dưới đây là các điểm chính của video.

Chương 1: Quy luật và tầm nhìn của tăng trưởng theo cấp số nhân

Emily Chang: Tôi rất thích thư viện này. Bạn có phải là người thích đọc sách không?

Dario Amodei: Thư viện này thực sự rất đẹp. Nói chung tôi đọc rất nhiều sách, nhưng thành thật mà nói, trong khoảng một năm rưỡi gần đây, tôi gần như không có thời gian rảnh.

Emily Chang: Sản phẩm của các bạn cập nhật liên tục và nhanh chóng như vậy, các bạn làm thế nào?

Dario Amodei: Chúng tôi sử dụng Claude (mô hình tự phát triển của chính mình) trong toàn bộ chu trình phát triển sản phẩm. Điều này giúp chúng tôi phát hành với tốc độ cực kỳ nhanh.

Dario Amodei: Cảm giác của quy luật này là: ban đầu như thể chẳng có gì xảy ra, rồi một vài chuyện nhỏ xảy ra, sau đó—bùm! Nó bùng nổ điên cuồng. Tôi đã quan sát quy luật này từ lâu, trong lòng nghĩ: "Chắc chắn rồi, chúng ta có thể trở thành công ty AI có doanh thu và định giá cao nhất vào một thời điểm nào đó." Và điều đó đã xảy ra. Chúng tôi luôn suy nghĩ: Làm thế nào để huấn luyện mô hình tốt? Làm thế nào để biến chúng thành sản phẩm tốt?

Điều quan trọng nhất là làm thế nào để mọi thứ an toàn.

Chương 2: Từ tuổi thơ ở San Francisco đến cuộc chia rẽ với OpenAI

Emily Chang: Hãy kể về tuổi thơ của bạn ở San Francisco đi. Cha bạn là thợ da, mẹ làm việc trong thư viện, điều đó ảnh hưởng gì đến bạn?

Dario Amodei: Thời đó đang diễn ra cuộc cách mạng internet đầu tiên, nhưng tôi hoàn toàn không quan tâm. Tôi chỉ thích toán học, hiểu vũ trụ và tiểu thuyết khoa học viễn tưởng. Tôi tràn đầy sự tò mò mãnh liệt về thế giới.

Daniela Amodei (Giám đốc Anthropic): Dario từ nhỏ đã rất thông minh. Cậu ấy đã học vi tích phân từ trung học, học toán tại Đại học Berkeley khi còn học trung học. Còn tôi thì thích đọc sách và nghệ thuật, chúng tôi gần như là những người bổ sung hoàn hảo về tính cách.

Ghi chú: Năm 2016, Dario gia nhập OpenAI mới thành lập, Daniela cũng theo sau vào năm 2018. Dario đã phát triển "định luật phóng to", dự đoán rằng chỉ cần tăng dữ liệu và sức mạnh tính toán, mô hình sẽ trở nên thông minh hơn. Lý thuyết này đã mở đường cho thành công của ChatGPT. Nhưng đến năm 2021, anh chị em Amodei quyết định rời đi, trở thành huyền thoại của Silicon Valley.

Emily Chang: Quyết định rời OpenAI của các bạn đã trở thành "huyền thoại" của Silicon Valley rồi. Các bạn đã bất đồng về vấn đề gì?

Dario Amodei: Về "an toàn" có nhiều ý kiến hợp lý khác nhau. Nhưng chính sự bất đồng đó không đủ để khiến người ta rời đi. Thực chất cốt lõi là "tin tưởng". Khi bạn cảm thấy đối phương không phù hợp về giá trị hoặc không trung thực, rất khó để hợp tác nữa. Thay vì tranh luận với người không chung tầm nhìn, tốt hơn là làm việc của chính mình.

Chương 3: Định nghĩa đạo đức của AI và "Hiến pháp"

Emily Chang: Claude có phong cách rất đặc biệt và tên gọi nhân văn. Các bạn muốn truyền tải điều gì?

Daniela Amodei: Chúng tôi gọi đó là "Sự ấm áp chuyên nghiệp" (Professional Warmth). Mục tiêu không phải để nó trở thành bạn thân nhất của bạn, mà là để nó gần gũi nhưng vẫn giữ khoảng cách chuyên nghiệp.

Emily Chang: Các bạn đề cập đến việc dạy Claude "cải thiện". Thế nào là mô hình tốt? Thế nào là mô hình xấu?

Daniela Amodei: Chúng tôi không muốn mô hình nói dối—dù vô ý hay cố ý, chúng tôi gọi đó là "ảo tưởng". Chúng tôi cũng phải đảm bảo mô hình không cố tình lừa dối người dùng. Khi định nghĩa "tốt" và "xấu", mặc dù không có tiêu chuẩn toàn cầu thống nhất, chúng tôi dựa vào các tài liệu sáng lập như Tuyên ngôn Nhân quyền Liên Hợp Quốc để huấn luyện nó.

Thú vị là, chúng tôi còn bắt đầu đối thoại với các lãnh đạo tôn giáo để thảo luận cách đưa các giá trị cốt lõi mà nhân loại đã gìn giữ hàng nghìn năm vào mô hình.

Chương 4: Chiến lược doanh nghiệp và khủng hoảng thất nghiệp

Emily Chang: Tại sao các bạn chọn tập trung vào doanh nghiệp và mã hóa?

Dario Amodei: Mô hình kinh doanh phải phù hợp với giá trị cốt lõi. Thế giới mạng xã hội hiện nay chủ yếu dựa vào quảng cáo và gây nghiện. Trong lĩnh vực doanh nghiệp, AI có thể chữa bệnh, tối ưu năng lượng. Điều này phù hợp hơn với mục tiêu của chúng tôi.

Boris Cherny (Trưởng nhóm mã Claude): Trước đây kỹ sư phải viết mã thủ công, giờ Claude viết mã, tôi chỉ huy. Tôi như có chiếc phản lực đeo lưng, vai trò của kỹ sư đang thay đổi toàn diện. Cá nhân tôi 100% mã của mình do Claude viết.

Emily Chang: Nhưng điều này gây lo ngại. Bạn từng dự đoán AI có thể thay thế một nửa công việc cấp thấp của nhân viên văn phòng. Hiện tại vẫn giữ quan điểm đó chứ?

Dario Amodei: Tôi vẫn rất lo lắng. Hiện AI giúp người ta năng suất cao hơn, nhưng khi tự động hóa gần như 100%, con người còn làm gì? Đây là thực tế không thoải mái. Chúng ta phải nghĩ đến thu nhập cơ bản toàn dân (UBI) hoặc các chính sách can thiệp.

Daniela Amodei: Tôi lạc quan hơn một chút. Tôi nghĩ con người sẽ tìm ra cách mới để tận dụng AI, và các tương tác giữa người với người (như chăm sóc bệnh nhân tại giường) là thứ AI không thể thay thế mãi mãi.

Chương 5: Ranh giới đỏ của Bộ Quốc phòng và mô hình Mythos

Emily Chang: Báo chí đưa tin Claude được dùng cho các hoạt động quân sự chống Iran, thậm chí trong các hoạt động ở Venezuela.

Dario Amodei: Tôi là người yêu nước, tôi nghĩ chúng ta cần bảo vệ dân chủ khỏi các mối đe dọa độc tài. Nhưng tôi đã vạch ra ranh giới đỏ: Claude không thể dùng cho "giám sát quy mô lớn" hoặc "vũ khí tự động hoàn toàn". Khi Bộ Quốc phòng yêu cầu loại bỏ các biện pháp an toàn, chúng tôi từ chối. Dù bị chính phủ đưa vào danh sách đen hoặc bị gọi là "kẻ điên trái chiều", chúng tôi không lùi bước.

Emily Chang: Còn về mô hình "Mythos" thì sao? Nghe nói nó mạnh đến mức khiến người ta sợ hãi.

Dario Amodei: Mythos phát hiện ra hầu hết các lỗ hổng của hệ điều hành chính thống. Các công ty thử nghiệm nó gọi là "vũ khí siêu cấp".

Emily Chang: Các bạn quyết định ai có thể dùng, ai không? Quyền lực tập trung như vậy có đáng lo không?

Daniela Amodei: Điều này rất phức tạp. Chúng tôi phải cân bằng giữa "ngăn chặn nó dùng để xâm nhập ngân hàng, trộm cắp bí mật" và "giúp các nhà phòng thủ". Chúng tôi không muốn lặp lại sai lầm của mạng xã hội, đợi đến khi xảy ra chuyện rồi mới xin lỗi.

Chương 6: Làm thế nào đối mặt với xác suất hủy diệt 25%?

Emily** Chang:** Bạn từng đề cập đến khả năng sụp đổ của nhân loại từ 10% đến 25%. Tại sao bạn nghĩ các bạn có thể xử lý áp lực này?

Dario Amodei: Tôi xử lý áp lực bằng "minh bạch tuyệt đối". Mỗi hai tuần tôi đều phát biểu một giờ trước toàn thể nhân viên, không giấu giếm gì. Điều này xây dựng niềm tin, giúp tôi không cảm thấy cô đơn.

Nhiều người so sánh chúng tôi với Oppenheimer, người thúc đẩy phát triển vũ khí hạt nhân rồi sau đó kêu gọi kiểm soát vũ khí. Nhưng Dario cho rằng, Oppenheimer về cơ bản là một "trường hợp thất bại".

Emily Chang: Nhân vật lịch sử mà bạn ngưỡng mộ nhất là ai? Oppenheimer phải không?

Dario Amodei: Tôi ngưỡng mộ Leo Szilard hơn, ông là người đầu tiên nghĩ ra phản ứng chuỗi. Oppenheimer về mặt nào đó là một thất bại, vì ông không xây dựng được cơ chế kiểm soát đủ mạnh. Chúng ta cần có sự kiểm soát.

Emily Chang: Trong trung tâm của tất cả sự điên rồ này, bạn tìm cách tìm sự yên bình như thế nào?

Dario Amodei: Thật lòng, đó là "liệu pháp phơi nhiễm". Thỉnh thoảng tôi chơi game cùng Daniela hoặc vợ, hoặc đi Ý thăm con ngựa của chúng tôi, "Calypso". Nó không biết gì về AI, chỉ là một con ngựa vui vẻ. Đó là thiền định của tôi.

Kết luận

Emily Chang: Các bạn đang xây dựng một công nghệ vô cùng mạnh mẽ và sẽ thu lợi từ đó. Tại sao chúng tôi phải tin tưởng các bạn?

Dario Amodei: Nghi ngờ là điều tất nhiên. Silicon Valley đã mất rất nhiều niềm tin. Niềm tin không thể chỉ dựa vào lời nói, mà phải dựa vào hành động. Nếu nhóm này không thể giữ vững nguyên tắc (bảo vệ giới hạn), thì có thể không ai làm được. Chúng tôi không thể đảm bảo thành công, nhưng chúng tôi có thể đảm bảo sẽ cố gắng hết sức.