Karen Hao: Động cơ lợi nhuận thúc đẩy phát triển AI, các công nghệ hiện tại gây hại cho xã hội, và khai thác lao động diễn ra tràn lan trong ngành | Nhật ký của một CEO

Những ý chính

• Việc phát triển AI được thúc đẩy bởi động cơ lợi nhuận, có thể dẫn đến các nền văn minh vượt trội.
• Các công nghệ AI hiện tại đang gây ra những tác hại đáng kể cho con người và xã hội.
• Các công ty AI khai thác lao động, tạo ra các chu kỳ sa thải và đào tạo lại.
• Lợi ích của AI không được phân phối công bằng ngoài Thung lũng Silicon.
• Hiểu về AI cần xem xét các quan điểm đa dạng trên phạm vi toàn cầu, vượt ra ngoài Thung lũng Silicon.
• Không có sự đồng thuận khoa học về trí tuệ con người, làm phức tạp các mục tiêu của AI.
• Các công ty thao túng cách định nghĩa trí tuệ tổng quát nhân tạo vì lợi ích của họ.
• AI đặt ra rủi ro mang tính hiện sinh, có thể dẫn đến sự hủy diệt.
• Sam Altman đã ảnh hưởng đến các quyết định lãnh đạo của OpenAI do lo ngại về Elon Musk.
• Sam Altman là một nhân vật gây chia rẽ, với cách nhìn nhận khác nhau tùy thuộc vào mức độ phù hợp với tầm nhìn của ông ấy.
• Lời lẽ rằng AI mang lại lợi ích cho tất cả mọi người thường là gây hiểu lầm.
• Tác động của AI lên xã hội đòi hỏi cách hiểu rộng hơn ngoài các trung tâm công nghệ.
• Thuật ngữ “trí tuệ tổng quát nhân tạo” được các công ty sử dụng một cách chiến lược.
• An toàn cho AI là một cuộc thảo luận then chốt do những rủi ro tiềm ẩn của nó.
• Động lực lãnh đạo trong lĩnh vực công nghệ bị chi phối bởi các mối quan tâm cá nhân và chiến lược.

Phần giới thiệu khách mời

Karen Hao là nhà văn đóng góp cho The Atlantic, đồng dẫn podcast của BBC mang tên The Interface, và là tác giả bán chạy nhất của New York Times với cuốn sách Empire of AI. Trước đó, cô từng là phóng viên của The Wall Street Journal, theo dõi các công ty công nghệ của Mỹ và Trung Quốc. Những bài điều tra của cô đã tiết lộ các hiểu biết từ nội bộ OpenAI về cuộc đấu tranh quyền lực trong ngành và các mối quan ngại về mặt đạo đức.

Cuộc đua vì lợi nhuận để giành ưu thế AI

• Các nền văn minh đẩy nhanh nghiên cứu AI của mình có thể trở nên vượt trội, nhưng điều đó được thúc đẩy bởi động cơ lợi nhuận.

  — Karen Hao

• Bối cảnh cạnh tranh của việc phát triển AI chịu ảnh hưởng mạnh mẽ bởi các động lực tài chính.

• Có thể trường hợp là nền văn minh đẩy nhanh nghiên cứu của họ bằng AI sẽ là nền văn minh vượt trội.

  — Karen Hao

• Các công ty công nghệ lớn bị thúc đẩy bởi những khoản lợi nhuận khổng lồ gắn liền với các tiến bộ AI.

• Điểm chung của tất cả họ là họ kiếm lời vô cùng lớn từ “huyền thoại” này.

  — Karen Hao

• Việc hiểu các động cơ này là then chốt để phân tích tương lai của AI.

• Cuộc đua giành ưu thế AI có thể làm trầm trọng thêm bất bình đẳng toàn cầu.

• Động cơ lợi nhuận có thể lấn át các cân nhắc về đạo đức trong quá trình phát triển AI.

Những tác hại xã hội của các công nghệ AI hiện tại

• Việc sản xuất các công nghệ AI hiện nay đang gây ra những tác hại đáng kể cho con người.

  — Karen Hao

• Những hậu quả tiêu cực của các công nghệ AI thường bị bỏ qua.

• Các hàm ý đạo đức của việc phát triển AI cần được quan tâm nhiều hơn.

• Tác động của AI đối với xã hội bao gồm việc bóc lột và gây hại cho các cá nhân.

• Việc sản xuất các công nghệ này ngay bây giờ đang gây ra rất nhiều tổn hại cho con người.

  — Karen Hao

• Việc giải quyết những tác hại này đòi hỏi một góc nhìn mang tính phê phán về tác động xã hội của AI.

• Việc tập trung vào lợi nhuận có thể dẫn đến sự bỏ bê trách nhiệm xã hội.

• Cần có nhận thức cao hơn về những tác hại do AI gây ra đối với xã hội để các cuộc thảo luận được thông tin đầy đủ.

Bóc lột lao động trong ngành AI

• Các công ty AI khai thác lao động và tạo ra một chu kỳ sa thải rồi đào tạo lại gây hại cho người lao động.

  — Karen Hao

• Ngành công nghiệp AI làm gián đoạn các lộ trình nghề nghiệp truyền thống và sự ổn định việc làm.

• Họ khai thác một lượng lao động phi thường, khiến “bậc thang nghề nghiệp” bị gãy.

  — Karen Hao

• Người lao động thường bị sa thải rồi sau đó được đào tạo lại để hỗ trợ các mô hình AI.

• Chu kỳ bóc lột này làm nổi bật các vấn đề mang tính hệ thống trong thị trường lao động của AI.

• Các tác động về mặt kinh tế của quy trình đào tạo AI cần được xem xét kỹ hơn.

• Những tác động bất lợi đối với người lao động là một mối quan ngại lớn.

• Việc hiểu các động lực này là then chốt để giải quyết tình trạng bóc lột lao động trong AI.

Sự chênh lệch giữa lời lẽ về AI và thực tế

• Lời lẽ rằng AI mang lại lợi ích cho tất cả mọi người sẽ sụp đổ khi xem xét tác động của nó ngoài Thung lũng Silicon.

  — Karen Hao

• Những lời hứa của các công ty AI thường không khớp với những thực tế mà các cộng đồng đa dạng phải đối mặt.

• Bạn thực sự bắt đầu thấy những lời lẽ đó sụp đổ khi bạn đến những nơi trông không giống Thung lũng Silicon chút nào.

  — Karen Hao

• Sự chênh lệch này cho thấy nhu cầu cần có một cách hiểu rộng hơn về tác động của AI.

• Những lợi ích mà AI được cho là mang lại không được phân phối đồng đều trên toàn cầu.

• Việc xem xét các quan điểm đa dạng là then chốt để hiểu ảnh hưởng thật sự của AI.

• Những giới hạn trong các lời hứa của AI nhấn mạnh tầm quan trọng của tính bao hàm.

• Một cái nhìn toàn diện về tác động của AI cần phải nhìn vượt ra khỏi các trung tâm công nghệ.

Sự mơ hồ trong việc định nghĩa trí tuệ tổng quát nhân tạo

• Việc thiếu sự đồng thuận khoa học về trí tuệ con người làm phức tạp việc định nghĩa và theo đuổi trí tuệ tổng quát nhân tạo.

  — Karen Hao

• Việc xác định mục tiêu của AI rất khó do sự mơ hồ trong trí tuệ con người.

• Trong lĩnh vực này không có “mốc tiêu chuẩn”, và trong ngành cũng không có “mốc tiêu chuẩn”.

  — Karen Hao

• Các công ty có thể thao túng cách định nghĩa AGI để phù hợp với lợi ích của họ.

• Những công ty này chỉ cần dùng thuật ngữ trí tuệ tổng quát nhân tạo theo cách mà họ muốn.

  — Karen Hao

• Tính linh hoạt chiến lược trong việc định khung các công nghệ sẽ ảnh hưởng đến các cuộc thảo luận về quy định.

• Nhận thức của công chúng và mức độ tin cậy bị ảnh hưởng bởi việc các công ty định nghĩa AGI như thế nào.

• Việc hiểu các thách thức này là then chốt cho các cuộc thảo luận được thông tin đầy đủ về AI.

Những rủi ro hiện sinh tiềm ẩn của AI

• AI có lẽ là cách có khả năng cao nhất để phá hủy mọi thứ.

  — Karen Hao

• Những rủi ro tiềm ẩn của AI làm nổi bật tính cấp bách của các cuộc thảo luận về an toàn.

• Bối cảnh lịch sử rất quan trọng để hiểu các mối đe dọa mang tính hiện sinh của AI.

• Các nhân vật then chốt như Sam Altman và Elon Musk đóng vai trò quan trọng trong các cuộc thảo luận về AI.

• Altman đang viết cho công chúng hoặc nói thay cho công chúng; ông ấy không chỉ lấy công chúng làm đối tượng hướng tới trong suy nghĩ.

  — Karen Hao

• Cuộc trò chuyện về an toàn AI là rất quan trọng để giải quyết các rủi ro tiềm ẩn.

• Sự nhận thức của công chúng về các mối đe dọa mang tính hiện sinh của AI là cần thiết cho việc ra quyết định đúng đắn.

• Không thể nhấn mạnh quá mức mức độ cấp bách của các cuộc thảo luận về an toàn AI.

Động lực lãnh đạo và các mối quan tâm chiến lược tại OpenAI

• Sam Altman đã ảnh hưởng đến quy trình ra quyết định liên quan đến việc lãnh đạo của pháp nhân vì lợi nhuận của OpenAI.

  — Karen Hao

• Những lo ngại về tính khó lường của Elon Musk đã ảnh hưởng đến các quyết định lãnh đạo.

• Sau đó, Altman đã trực tiếp khẩn khoản riêng với Greg Brockman và nói rằng anh không nghĩ nó sẽ hơi nguy hiểm nếu Musk trở thành CEO của công ty này sao.

  — Karen Hao

• Các quy trình ra quyết định nội bộ tại OpenAI cho thấy những mối quan tâm chiến lược.

• Động lực giữa Musk và Altman là đáng kể trong giai đoạn OpenAI được hình thành.

• Các quyết định lãnh đạo bị chi phối bởi những cân nhắc cá nhân và chiến lược.

• Việc hiểu các động lực này cung cấp cái nhìn sâu về vai trò lãnh đạo trong công nghệ.

• Các mối quan tâm chiến lược liên quan đến lãnh đạo là then chốt để hiểu cấu trúc của OpenAI.

Cách nhìn nhận gây chia rẽ về Sam Altman

• Sam Altman là một nhân vật gây chia rẽ, và cách nhìn nhận về ông ấy phụ thuộc vào việc ông ấy có phù hợp với tầm nhìn của mình về tương lai hay không.

  — Karen Hao

• Nhận thức về Altman khác nhau tùy thuộc vào mức độ phù hợp với tầm nhìn của ông ấy.

• Nếu bạn đồng thuận với tầm nhìn của Altman về tương lai thì bạn sẽ nghĩ rằng ông ấy là tài sản tuyệt vời nhất từng có ở bên mình.

  — Karen Hao

• Những người không đồng ý với tầm nhìn của ông ấy có thể cảm thấy bị ông ấy thao túng.

• Nếu bạn không đồng ý với tầm nhìn của ông ấy về tương lai thì bạn bắt đầu cảm thấy như mình đang bị ông ấy thao túng.

  — Karen Hao

• Tính chủ quan trong việc đánh giá lãnh đạo được thể hiện rõ trong trường hợp của Altman.

• Việc hiểu các động lực giữa lãnh đạo và tầm nhìn là then chốt trong lĩnh vực công nghệ.

• Tính hai mặt trong cách nhìn nhận làm nổi bật mức độ phức tạp của vai trò lãnh đạo trong công nghệ.

                  **Tiết lộ:** Bài viết này đã được biên tập bởi Nhóm Biên tập. Để biết thêm thông tin về cách chúng tôi tạo và rà soát nội dung, hãy xem Chính sách Biên tập của chúng tôi.