Ba lần quan trọng của Anthropic: rò rỉ mã, đối đầu chính phủ và vũ khí hóa

Tác giả: Ben Thompson

Biên tập: Deep潮 TechFlow

Deep潮 giới thiệu: Mô hình mới của Anthropic, Fable, chỉ mới ra mắt hai tháng đã bị chính phủ Mỹ khẩn cấp ngưng lại, bề ngoài là "rò rỉ an toàn", thực chất là lộ rõ cuộc chiến hai mặt giữa phòng thí nghiệm AI với chính phủ và ngành phần mềm. Công ty này, với điểm bán hàng là "an toàn", đang biến câu chuyện an toàn thành một hàng rào thương mại, trong khi mục đích thực sự của họ là chiếm đoạt dữ liệu người dùng trong tay Microsoft.

Tôi hiểu lập trường của những người chế nhạo, họ luôn cho rằng tuyên bố công khai của Anthropic — đặc biệt là lời nói khi ra mắt mô hình — là để marketing và gây hoảng loạn. Hai tháng trước, Anthropic tuyên bố ra mắt Mythos Preview, cho rằng mô hình này quá nguy hiểm không thể công khai, đặc biệt là khả năng an ninh mạng mạnh mẽ của nó. Rồi hai tháng sau, công ty công bố Fable, tức là phiên bản Mythos đã được thêm các hàng rào an toàn.

Theo trải nghiệm hạn chế của tôi, Fable thực sự là một mô hình rất xuất sắc. Hiện tại, ngoài khả năng lập trình, đã rất khó để khách quan đánh giá mô hình, nhưng cảm nhận chủ quan vẫn có; tôi nhận thấy trải nghiệm tương tác với Fable cực kỳ xuất sắc; nó khiến các mô hình khác, kể cả GPT 5.5 và Opus 4.8, trở nên nhỏ bé và ngu ngốc hơn. Trước đây tôi chỉ có cảm giác này hai lần, một lần với GPT-4, một lần với Grok 4, cả hai đều đại diện cho thế hệ mới về quy mô và độ phức tạp của mô hình nền tảng; tôi nghĩ Fable xuất phát từ một quá trình huấn luyện trước mới, là thế hệ đầu tiên của một thế hệ mới.

Vì vậy, tôi hoàn toàn chấp nhận rằng Fable/Mythos thực sự mạnh hơn trong việc nhận diện và khai thác các vấn đề an toàn, việc cẩn trọng ra mắt của Anthropic là hợp lý. Nhưng vấn đề khi công khai phát hành mô hình là, hàng rào an toàn có thể bị "bẻ khóa", rõ ràng là sau khi ra mắt không lâu đã xảy ra chuyện này.

Anthropic lại đối đầu với chính phủ Mỹ

Tiếp theo, những gì xảy ra có phần mơ hồ. Anthropic viết trong bài blog:

Chính phủ Mỹ dựa trên quyền lực về an ninh quốc gia, ban hành lệnh kiểm soát xuất khẩu, tạm dừng mọi truy cập của công dân nước ngoài vào Fable 5 và Mythos 5, dù trong hoặc ngoài nước Mỹ, bao gồm cả nhân viên nước ngoài của Anthropic. Lệnh này thực tế có nghĩa là chúng tôi phải đột ngột vô hiệu hóa Fable 5 và Mythos 5 cho tất cả khách hàng để đảm bảo tuân thủ. Các mô hình khác của Anthropic không bị ảnh hưởng.

Chúng tôi nhận được chỉ thị của chính phủ vào lúc 17:21 giờ chiều theo giờ miền Đông Mỹ hôm nay. Trong thư không cung cấp chi tiết cụ thể về các mối lo ngại về an ninh quốc gia. Chúng tôi hiểu rằng chính phủ cho rằng đã phát hiện ra cách vượt qua hoặc "bẻ khóa" Fable 5. Chúng tôi đã xem xét các trình diễn sử dụng kỹ thuật này để nhận diện một số lỗ hổng nhỏ đã biết. Các lỗ hổng này có vẻ khá đơn giản, và chúng tôi nhận thấy các mô hình công khai khác cũng có thể phát hiện ra chúng mà không cần vượt qua.

Anthropic tiếp tục lập luận rằng các phương pháp bẻ khóa không phổ quát là không thể tránh khỏi và phạm vi hạn chế, không có bằng chứng cho thấy tồn tại bẻ khóa phổ quát; còn các bẻ khóa được phát hiện dường như là do Amazon báo cáo, điều đáng chú ý vì Amazon vừa là nhà đầu tư của Anthropic, vừa là nhà cung cấp dịch vụ suy luận chính của công ty. Khi tôi viết bài này, các lãnh đạo của Anthropic đang ở Washington, cố gắng giải quyết vấn đề họ khăng khăng là hiểu lầm, còn các quan chức Nhà Trắng lại ám chỉ rằng đó là sự thờ ơ của ban lãnh đạo công ty đối với các mối lo ngại an ninh quốc gia hợp pháp.

Vì có quá nhiều sự thật còn tranh cãi, tôi không có gì thêm về xung đột hiện tại; nhưng tôi không ngạc nhiên khi xung đột đang diễn ra: tôi đã giải thích trong bài "Anthropic và Sự phù hợp" rằng xung đột giữa chính phủ Mỹ và Anthropic là không thể tránh khỏi. Trong đó, những người nghĩ Mythos chưa đủ mạnh để chính phủ hành động quyết liệt đã bỏ lỡ điểm chính: nếu hiện tại chưa đủ mạnh, thì lần tới hoặc lần sau, đặc biệt khi các mô hình ngày càng hữu ích trong việc tạo ra các thế hệ tiếp theo.

Tuy nhiên, điều này dẫn đến một vấn đề khác — một vấn đề dường như xác nhận quan điểm chế nhạo: nếu Mythos nguy hiểm đến vậy, tại sao ban đầu lại ra mắt Fable, tại sao lại chống đối chính phủ để làm những gì họ tuyên bố muốn? Thực tế, tôi nghĩ hành động của Anthropic hoàn toàn có thể hiểu được; điểm đặc biệt của công ty là cách họ biện hộ cho các hành động này, chính những biện hộ đó vừa cung cấp nhiên liệu cho những người chế nhạo, vừa tạo ra phép thuật cho Anthropic.

Tính tất yếu về kinh tế

Trong những năm đầu của AI, dòng giá trị kinh tế lớn nhất chảy vào năng lực tính toán, nguyên nhân rõ ràng: chúng ta không đủ cung để đáp ứng nhu cầu, dẫn đến giá tăng vọt; những người hưởng lợi lớn nhất là Nvidia, TSMC và các nhà sản xuất bộ nhớ (Hynix, Samsung và Micron). Trong khi đó, Anthropic và OpenAI đã thua lỗ hàng trăm tỷ USD để xây dựng các mô hình tiên tiến, và khi ra mắt, các mô hình này bị các mô hình mã nguồn mở chắt lọc và thương mại hóa, chủ yếu từ Trung Quốc.

Điều này phản ánh thực trạng bi quan của các phòng thí nghiệm — chúng không thể bù đắp chi phí mãi mãi, vì sự khác biệt của chúng chỉ là tạm thời, còn các lựa chọn thay thế miễn phí trở nên "đủ tốt" — tôi cho rằng điều này là hợp lý. Trong một thế giới mô hình có thể hoán đổi cho nhau, mô hình trở thành hàng hóa, và phần lớn giá trị chảy vào các nơi khác. Hiện tại là năng lực tính toán, nhưng theo thời gian, khi có đủ năng lực tính toán, vị trí có giá trị nhất trong chuỗi giá trị sẽ là nơi luôn có giá trị nhất: sở hữu các điểm tiếp xúc với người dùng.

Vì vậy, các phòng thí nghiệm tiên tiến tất yếu phải gần gũi hơn với người dùng, điều này luôn rõ ràng với tôi. Nếu bạn sở hữu điểm tiếp xúc với người dùng, bạn có sự khóa chặt có ý nghĩa, và cách tốt nhất để sở hữu điểm tiếp xúc đó là trở thành nền tảng cho mọi thứ họ cần làm. Điều này dẫn đến xung đột giữa các phòng thí nghiệm tiên tiến và các công ty phần mềm: phần mềm sở hữu điểm tiếp xúc người dùng, còn lợi ích lâu dài của phòng thí nghiệm không đơn thuần là trở thành đầu vào của phần mềm, mà là thay thế phần mềm trực tiếp.

Trong khi đó, các công ty phần mềm đang cố gắng làm điều ngược lại. Satya Nadella trong một bài viết trên X đã trình bày tầm nhìn của ông về cách các công ty nên xây dựng mô hình:

Mỗi công ty phải xây dựng vốn nhân lực và vốn token như tôi đã nói. Vốn nhân lực bao gồm kiến thức, khả năng phán đoán, mối quan hệ, sáng tạo và khả năng nhận diện mẫu của nhân viên họ, còn vốn token là khả năng AI mà công ty xây dựng và sở hữu. Quan trọng là, khi vốn token tăng lên, vốn nhân lực không trở nên kém giá trị hơn. Nó chỉ trở nên có giá trị hơn! Tôi tin rằng chủ động của con người sẽ là động lực thúc đẩy sự tăng trưởng của vốn token. Con người sẽ đặt ra các mục tiêu tham vọng, kết nối các điểm liên ngành, xây dựng các mối quan hệ và nhận diện các mẫu quan trọng nhất. Không có hướng dẫn của con người, năng lực tính toán của bạn chỉ là chạy không.

Điều này có nghĩa là cơ hội thực sự không nằm ở việc chọn mô hình tốt nhất, mà là xây dựng vòng lặp học tập trên mô hình, để vốn nhân lực và vốn token cùng sinh lợi kép. Bạn có thể thuê ngoài một nhiệm vụ, thậm chí một công việc, nhưng không bao giờ thuê ngoài việc học của bạn. Tương lai của các công ty là khả năng để quá trình học này sinh lợi kép giữa con người và AI. Điều này đòi hỏi một phương pháp kiến trúc mới, để mỗi doanh nghiệp có thể xây dựng hệ thống trí tuệ tự cải tiến theo thời gian, đồng thời vẫn giữ quyền sở hữu trí tuệ của mình. Các công ty nên có khả năng thay thế mô hình "đại chúng" mà không mất đi kiến thức chuyên môn "cựu chiến binh" đã tích lũy trong hệ thống học tập của họ. Đây chính là "bài kiểm tra" quan trọng của quyền kiểm soát và chủ quyền trong thời đại tương lai.

Nadella bắt đầu bằng cảnh báo về tầm nhìn này:

Chúng ta không muốn thấy một thế giới mà mọi ngành nghề, mọi công ty đều chuyển giá trị cho một số ít các mô hình tiêu thụ tất cả. Nếu tất cả giá trị chỉ nằm trong tay một số ít mô hình, thì chính trị và kinh tế sẽ không thể chấp nhận điều đó. Đối với một tương lai AI hút sạch toàn bộ ngành, xã hội sẽ không cấp phép.

Hãy nghĩ về giai đoạn đầu của toàn cầu hóa, toàn bộ nền kinh tế công nghiệp bị outsourcing và hút sạch. Bề ngoài, số liệu GDP có vẻ khả quan, nhưng thực tế là bị mất mát, hậu quả vẫn còn cảm nhận đến ngày nay. Đừng để động thái này kéo dài vào thời đại AI, nơi mà một số ít hệ thống AI chiếm đoạt tất cả phần thưởng kinh tế, còn toàn ngành nhận ra rằng kiến thức của họ đang bị thương mại hóa ngay dưới mắt họ.

Vấn đề của phép so sánh này là: toàn cầu hóa thực sự đã xảy ra, các nền kinh tế công nghiệp đã bị hút sạch. Điều này có thể không phải là cảnh báo mà là dự báo; không có gì ngạc nhiên khi Nadella cảnh báo, vì có thể Microsoft là một trong những nạn nhân. Tương tự, tính tất yếu về kinh tế của các nhà sản xuất mô hình chính là để đạt được điều này.

Tính tất yếu về dữ liệu

Các mô hình này — thậm chí cả Mythos — vẫn chưa đạt đến mức đó. Chúng cần, ngoài nhiều năng lực tính toán hơn, còn cần nhiều dữ liệu tốt hơn. Việc cải tiến mô hình ngày càng dựa nhiều vào học tăng cường; một số có thể tổng hợp sinh ra, nhưng lực đẩy mạnh nhất của các phòng thí nghiệm tiên tiến là việc sử dụng trong thế giới thực.

Tôi nghĩ đây là lý do chính khiến OpenAI và Anthropic đều cung cấp các gói đăng ký trợ cấp lớn. SemiAnalysis gần đây ước tính, gói 200 USD có thể mang lại giá trị 8000 token của Claude và 14000 token của Codex. Tất nhiên, cả hai đều cạnh tranh về tâm trí người dùng và nhà phát triển, nhưng họ cũng đang cạnh tranh để có quyền truy cập dữ liệu thực tế để cải tiến mô hình.

Anthropic đã tăng cường mạnh mẽ cho Fable, tuyên bố sẽ giữ tất cả dữ liệu sử dụng trong 30 ngày, kể cả các doanh nghiệp đã cam kết không giữ dữ liệu trước đó. Công ty nói rằng sẽ không dùng dữ liệu này để huấn luyện, nhưng không có biện pháp bảo vệ nào đảm bảo rằng trong tương lai họ sẽ không làm như vậy (ví dụ như lưu trữ dữ liệu ở bên thứ ba). Nếu chính sách này thay đổi (khi Fable được khôi phục) mà không dẫn đến mất khách hàng hàng loạt, tôi nghi ngờ việc họ bắt đầu sử dụng dữ liệu chỉ còn là vấn đề thời gian: quá có giá trị đối với mục tiêu cuối cùng của họ.

Cũng cần chú ý đến vòng lặp tích cực của việc nâng cao điểm tiếp xúc người dùng: càng nhiều công việc, thậm chí là công việc hoàn thành bằng Claude hoặc Codex, thì mỗi công ty có thể phản hồi dữ liệu vào quá trình huấn luyện càng nhiều, làm cho sản phẩm của họ mạnh hơn, hữu ích hơn, mở rộng số lượng quy trình công việc họ có thể phục vụ, và mở rộng quyền truy cập dữ liệu của họ.

Nadella trong bài viết nhấn mạnh tầm quan trọng của dữ liệu này, nhưng tự nhiên cho rằng nó nên độc lập với mô hình:

Các công ty cần chuyển đổi quy trình làm việc, kiến thức lĩnh vực và khả năng đánh giá tích lũy thành hệ thống AI cải tiến theo từng lần sử dụng. Đánh giá nội bộ nên bắt kịp xem mô hình có thực sự cải thiện kết quả quan trọng của doanh nghiệp hay không (không chỉ dựa trên các tiêu chuẩn bên ngoài!). Môi trường học tăng cường nội bộ nên giúp mô hình trở nên mạnh hơn trên các quỹ đạo thực tế của tổ chức. Kho kiến thức của họ cho phép truy vấn trí nhớ tổ chức, sử dụng token hiệu quả hơn.

Vòng lặp này trở thành sở hữu trí tuệ mới của công ty. Tôi xem nó như một cỗ máy leo núi. Khác với các tài sản khác, nó là lãi kép. Mỗi quy trình làm việc cải tiến tạo ra tín hiệu huấn luyện tốt hơn, thúc đẩy quá trình tích lũy kiến thức tiềm ẩn độc quyền của công ty. Những công ty xây dựng được điều này sớm sẽ có lợi thế khó sao chép, bất kể khả năng của các mô hình mới ra sao.

Vòng lặp này trở thành IP mới của công ty. Tôi xem nó như một cỗ máy leo núi. Khác với các tài sản khác, nó có thể sinh lợi kép. Mỗi quy trình làm việc cải tiến sẽ tạo ra tín hiệu huấn luyện tốt hơn, thúc đẩy quá trình tích lũy kiến thức tiềm ẩn độc quyền của công ty. Những công ty xây dựng được khả năng này sớm sẽ có lợi thế khó sao chép, bất kể khả năng của các mô hình trong tương lai ra sao.

Tuy nhiên, nếu các công ty tuân thủ chính sách dữ liệu của Anthropic và hiện tại đã có kết quả tốt hơn thì sao? Hoặc nếu các công ty hiện tại chống đối, để lại cơ hội cho các công ty mới — hoặc chính các nhà sản xuất mô hình — trong việc vượt mặt họ trên thị trường? Anthropic thực sự đang thử thách quyết tâm của Nadella như lời kêu gọi.

Quyền lực và yêu sách

Về chính sách giữ dữ liệu của Fable/Mythos, thậm chí còn chưa phải phần gây tranh cãi nhất trong việc ra mắt. Ngược lại, Anthropic tuyên bố rằng nếu Fable được dùng để phát triển LLM, họ sẽ âm thầm giảm hiệu năng của nó; trong phần hệ thống, viết:

Chúng tôi cũng đã tăng cường các biện pháp phòng ngừa liên quan đến phát triển LLM tiên tiến. Như đã thảo luận trong báo cáo rủi ro tháng 2 năm 2026, chúng tôi lo ngại về các rủi ro thúc đẩy tốc độ phát triển AI tổng thể, mặc dù mức độ nghiêm trọng của các rủi ro này vẫn chưa rõ. Đặc biệt, chúng tôi lo ngại — như đã viết tại thời điểm đó — "tăng tốc các nhà phát triển AI khác xây dựng các hệ thống AI mạnh mẽ có rủi ro tương tự hệ thống của chúng tôi — mà chưa chắc đã có các biện pháp phòng ngừa tương ứng."

Với khả năng các mô hình gần đây có thể tự thúc đẩy quá trình phát triển của chính chúng, chúng tôi đã thực hiện các biện pháp can thiệp mới, hạn chế hiệu quả của Claude trong các yêu cầu phát triển LLM tiên tiến (ví dụ như xây dựng pipeline tiền huấn luyện, hạ tầng đào tạo phân tán hoặc thiết kế bộ tăng tốc ML). Việc sử dụng Claude để phát triển các mô hình cạnh tranh đã vi phạm điều khoản dịch vụ của chúng tôi, nhưng việc thực thi hạn chế này qua các biện pháp phòng ngừa có thể tránh việc thúc đẩy những hành vi vi phạm các điều khoản này mạnh mẽ hơn.

Khác với các biện pháp can thiệp của chúng tôi trong an ninh mạng, hoá sinh và thử nghiệm chưng cất, các biện pháp này không hiển thị cho người dùng. Fable 5 sẽ không quay trở lại một mô hình khác. Thay vào đó, các biện pháp này sẽ hạn chế hiệu quả thông qua các phương pháp như chỉnh sửa prompt, hướng dẫn vector hoặc tinh chỉnh tham số hiệu quả (PEFT). Những biện pháp này sẽ không ảnh hưởng nhiều đến phần lớn công việc lập trình. Chúng tôi ước tính chúng sẽ ảnh hưởng khoảng 0,03% lưu lượng, tập trung vào dưới 0,1% tổ chức. Khi các biện pháp này có hiệu lực, chúng tôi dự kiến ngoài việc hạn chế khả năng phát triển các LLM tiên tiến, chúng sẽ ảnh hưởng rất nhỏ đến hành vi của mô hình. Claude vẫn sẽ phản hồi hữu ích theo yêu cầu của người dùng. Chúng tôi sẽ tiếp tục nâng cao độ chính xác của các phương pháp phát hiện sau khi ra mắt mô hình này.

Anthropic đã rút lại thay đổi này — Fable sẽ chuyển các yêu cầu liên quan đến LLM sang Opus 4.8, và công khai cho người dùng biết về việc chuyển đổi này — nhưng tôi nghĩ chính sách ban đầu rất có ý nghĩa. Một mặt, tôi không trách Anthropic không muốn giúp các đối thủ cạnh tranh; mặt khác, rõ ràng là họ nghĩ rằng ngoài họ ra, không ai nên tạo ra các LLM tiên tiến.

Điều đáng chú ý hơn nữa là chính sách này được ban hành chỉ hai tháng sau khi xảy ra tranh chấp với Bộ Quốc phòng: phía sau muốn dùng Claude cho mọi mục đích hợp pháp, còn phía trước muốn kiểm soát chặt chẽ hơn các hoạt động giám sát và vũ khí tự trị. Các biện pháp hạ cấp này vừa thể hiện khả năng của Anthropic trong việc âm thầm điều chỉnh mô hình để phù hợp với chính sách của họ, vừa thể hiện ý chí của họ. Nói cách khác, Anthropic đã chủ động xác nhận một số chỉ trích về việc họ là rủi ro trong chuỗi cung ứng.

Tuy nhiên, kết luận rộng hơn rút ra từ sự kiện này là, Anthropic cho rằng họ nên có quyền quyết định cuối cùng về cách sử dụng của Anthropic; vì họ nghĩ rằng chỉ có họ mới nên phát triển AI tiên tiến, nên họ thực sự nghĩ rằng chỉ có họ mới nên có quyền quyết định cuối cùng về AI nói chung. Khi kết hợp nhận thức này với tuyên bố của họ về khả năng AI tham gia mọi hoạt động kinh tế, bạn sẽ nhận ra rằng ban lãnh đạo của Anthropic thực sự muốn kiểm soát mọi thứ và mọi người.

Câu chuyện về câu chuyện an toàn

Tất nhiên, Anthropic sẽ không bao giờ trình bày một cách thẳng thừng như vậy; thay vào đó, câu chuyện xoay quanh an toàn:

Tôi dự đoán Anthropic sẽ ngày càng mở rộng các điểm cuối phù hợp với từng quy trình công việc khác nhau để công khai khả năng của mô hình tới người dùng cuối, ngay cả khi họ bắt đầu giới hạn API. Việc thay thế phần mềm và hạn chế truy cập này sẽ diễn ra dưới danh nghĩa an toàn, ngay cả khi Anthropic đang thực hiện các mục tiêu kinh tế gần như là tiếp cận người dùng cuối.

Giải thích của họ về các thay đổi lớn trong chính sách giữ dữ liệu là an toàn. Cụ thể, công ty tuyên bố giữ tất cả dữ liệu người dùng trong 30 ngày là cần thiết để ngăn chặn các hành vi bẻ khóa mà chính phủ Mỹ lo ngại. Tôi hoàn toàn có thể tưởng tượng một tương lai, trong đó các yếu tố an toàn buộc họ phải huấn luyện mô hình trên dữ liệu này để phòng ngừa các hành vi xấu.

Toàn bộ câu chuyện nguồn gốc của Anthropic dựa trên niềm tin của các sáng lập rằng OpenAI không đủ nghiêm túc trong việc đảm bảo an toàn; công ty cho rằng chỉ có họ mới có thể kiểm soát AI, và vì họ đặc biệt quan tâm đến an toàn, nên họ có lý do để cố gắng kiểm soát tất cả mọi người, kể cả chính phủ Mỹ.

Về các lý do an toàn này, vấn đề là: tôi nghĩ chúng có hiệu quả, vì đối với Anthropic, chúng không phải là lý do. Công ty thực sự tin rằng họ là người duy nhất tin vào siêu trí tuệ, và do đó là người duy nhất đủ quan tâm đến nguy hiểm. Điều này tạo điều kiện cho các quyết định, chính sách và các cuộc đối đầu liên tiếp, trong khi với bên ngoài, tất cả có vẻ là sự mơ hồ và ngây thơ kỳ lạ.

So sánh với OpenAI là rất lớn: tôi nghĩ cách hiểu về việc OpenAI mất vị trí dẫn đầu là trong vài năm sau khi ra mắt ChatGPT, công ty này đã trong trạng thái chiến tranh nội bộ, phòng thí nghiệm nghiên cứu cũ đột nhiên bị giao nhiệm vụ trở thành một công ty công nghệ tiêu dùng bất ngờ; trong quá trình giải quyết xung đột này, OpenAI đã mất đi nhiều nhân tài cho các công ty như Anthropic.

Ngược lại, Anthropic có sự nhất quán hoàn hảo giữa nhân tài, sứ mệnh và hoạt động kinh doanh. Công ty có thể bán cho các nhà nghiên cứu tầm nhìn tạo ra "thần trí máy móc", mang theo hào quang của những người quan tâm đến nguy hiểm và đủ thông minh để đại diện cho con người đối mặt với nguy hiểm; và mỗi chính sách thay đổi như vậy lại thuận lợi cho hoạt động kinh doanh, đó là một sự trùng hợp kỳ diệu nhất thế giới.

Tôi tôn trọng sự nhất quán này, nhưng cũng sợ hãi nó. Tôi tôn trọng vì rõ ràng nó rất hiệu quả; ví dụ gần nhất có thể là Apple, luôn giả vờ làm cho người dùng làm đúng, để che đậy các hành động ích kỷ của chính họ — và thường thì đúng như vậy. Anthropic cũng vậy. Tuy nhiên, tôi lo ngại rằng, để những người tự tin rằng họ hiểu rõ nhất về con người xây dựng một chiếc điện thoại thông minh mà tôi có thể chấp nhận hoặc từ chối là chuyện một, còn xây dựng một trí tuệ siêu việt hoặc vượt qua quyền lực quốc gia, hoặc chỉ đơn giản là trí tuệ siêu việt của các tập đoàn lớn thì lại khác nhiều. Lịch sử của những người thông minh tin rằng họ biết rõ con người là rất đen tối, chính vì họ tự thuyết phục rằng ý định của mình là tốt, để rồi tạo ra lý do cho những hành động thực ra không phải như vậy.