Karen Hao: Động cơ lợi nhuận thúc đẩy phát triển AI, các công nghệ hiện tại gây hại cho xã hội, và khai thác lao động diễn ra tràn lan trong ngành | Nhật ký của một CEO

Điểm chính cần nắm bắt

• Sự phát triển AI được thúc đẩy bởi động cơ lợi nhuận, có thể dẫn đến những nền văn minh vượt trội.
• Các công nghệ AI hiện tại đang gây ra tác hại đáng kể cho con người và xã hội.
• Các công ty AI khai thác lao động, tạo ra các chu kỳ sa thải và đào tạo lại.
• Lợi ích của AI không được phân phối công bằng bên ngoài Thung lũng Silicon.
• Hiểu về AI đòi hỏi phải xem xét các góc nhìn toàn cầu đa dạng hơn ngoài Thung lũng Silicon.
• Không có sự đồng thuận khoa học về trí tuệ con người, làm phức tạp các mục tiêu của AI.
• Các công ty thao túng định nghĩa về trí tuệ tổng quát nhân tạo để phục vụ lợi ích của họ.
• AI đặt ra rủi ro tồn vong, có thể dẫn đến sự hủy diệt.
• Sam Altman đã ảnh hưởng đến các quyết định về lãnh đạo của OpenAI do những lo ngại về Elon Musk.
• Sam Altman là một nhân vật gây chia rẽ, với cách nhìn nhận thay đổi tùy theo việc người ta có đồng thuận với tầm nhìn của ông hay không.
• Lời lẽ rằng AI mang lại lợi ích cho tất cả mọi người thường là gây hiểu lầm.
• Tác động xã hội của AI cần được hiểu rộng hơn ngoài các trung tâm công nghệ.
• Cụm từ “trí tuệ tổng quát nhân tạo” được các công ty sử dụng một cách chiến lược.
• An toàn AI là một cuộc thảo luận quan trọng do các rủi ro tiềm ẩn của nó.
• Động lực lãnh đạo trong lĩnh vực công nghệ chịu ảnh hưởng bởi các mối quan ngại cá nhân và chiến lược.

Giới thiệu khách mời

Karen Hao là cây bút đóng góp tại The Atlantic, đồng dẫn chương trình podcast của BBC The Interface, và là tác giả bán chạy nhất của New York Times với cuốn Empire of AI. Trước đây, cô từng là phóng viên của The Wall Street Journal, đưa tin về các công ty công nghệ của Mỹ và Trung Quốc. Các bài điều tra của cô đã vạch ra những hiểu biết từ các người trong cuộc của OpenAI về các cuộc đấu tranh giành quyền lực trong ngành và các mối lo ngại về đạo đức.

Cuộc đua vì lợi nhuận giành ngôi vị tối cao trong AI

• Các nền văn minh đẩy nhanh nghiên cứu AI của mình có thể trở nên vượt trội, nhưng điều đó được thúc đẩy bởi động cơ lợi nhuận.

  — Karen Hao

• Bối cảnh cạnh tranh của việc phát triển AI chịu tác động mạnh từ các động lực tài chính.

• Có thể là nền văn minh nào đẩy nhanh nghiên cứu của mình bằng AI thì sẽ là nền văn minh vượt trội.

  — Karen Hao

• Các công ty công nghệ lớn được thúc đẩy bởi những khoản lợi nhuận khổng lồ gắn với các tiến bộ về AI.

• Điểm chung của tất cả họ là họ kiếm được lợi nhuận khổng lồ từ huyền thoại này.

  — Karen Hao

• Việc hiểu các động cơ này là then chốt để phân tích tương lai của AI.

• Cuộc đua giành vị thế tối cao trong AI có thể làm trầm trọng thêm bất bình đẳng toàn cầu.

• Động cơ lợi nhuận có thể lấn át các cân nhắc đạo đức trong phát triển AI.

Tác hại xã hội của các công nghệ AI hiện tại

• Việc sản xuất các công nghệ AI hiện nay đang gây ra tác hại đáng kể cho con người.

  — Karen Hao

• Các hệ quả tiêu cực của công nghệ AI thường bị bỏ qua.

• Các hàm ý đạo đức của phát triển AI cần được chú ý nhiều hơn.

• Tác động của AI lên xã hội bao gồm sự khai thác và gây hại cho các cá nhân.

• Việc sản xuất những công nghệ này ngay lúc này đang gây ra rất nhiều tổn hại cho con người.

  — Karen Hao

• Việc giải quyết các tác hại này đòi hỏi một góc nhìn mang tính phản biện về tác động xã hội của AI.

• Việc tập trung vào lợi nhuận có thể dẫn đến sự bỏ bê trách nhiệm xã hội.

• Cần có nhận thức cao hơn về tác hại xã hội của AI để có các cuộc thảo luận mang tính hiểu biết.

Khai thác lao động trong ngành AI

• Các công ty AI khai thác lao động và tạo ra một chu kỳ sa thải rồi đào tạo lại khiến người lao động bị tổn hại.

  — Karen Hao

• Ngành công nghiệp AI làm gián đoạn các lộ trình nghề nghiệp truyền thống và sự bảo đảm việc làm.

• Họ khai thác một lượng lao động phi thường, khiến “bậc thang sự nghiệp” bị đứt gãy.

  — Karen Hao

• Người lao động thường bị sa thải rồi sau đó được đào tạo lại để hỗ trợ các mô hình AI.

• Chu kỳ khai thác này làm nổi bật các vấn đề mang tính hệ thống trong thị trường lao động của AI.

• Các hệ quả kinh tế của quy trình huấn luyện AI cần được soi xét thêm.

• Những tác động bất lợi đối với người lao động là mối quan ngại lớn.

• Hiểu các động lực này là then chốt để giải quyết tình trạng khai thác lao động trong AI.

Sự chênh lệch giữa lời lẽ về AI và thực tế

• Lời lẽ rằng AI mang lại lợi ích cho tất cả mọi người sẽ sụp đổ khi xem xét tác động của nó bên ngoài Thung lũng Silicon.

  — Karen Hao

• Những lời hứa của các công ty AI thường không khớp với thực tế mà các cộng đồng đa dạng phải đối mặt.

• Thực sự bạn bắt đầu thấy những lời lẽ đó sụp đổ khi bạn đến những nơi không giống gì Thung lũng Silicon.

  — Karen Hao

• Sự chênh lệch này cho thấy nhu cầu phải có một sự hiểu biết rộng hơn về tác động của AI.

• Những lợi ích được cho là của AI không được phân phối công bằng trên toàn cầu.

• Việc xem xét các góc nhìn đa dạng là then chốt để hiểu ảnh hưởng thực sự của AI.

• Những hạn chế trong các lời hứa của AI nhấn mạnh tầm quan trọng của tính bao hàm.

• Một cái nhìn toàn diện về tác động của AI cần nhìn vượt ra khỏi các trung tâm công nghệ.

Sự mơ hồ trong việc định nghĩa trí tuệ tổng quát nhân tạo

• Việc thiếu sự đồng thuận khoa học về trí tuệ con người khiến việc định nghĩa và theo đuổi trí tuệ tổng quát nhân tạo trở nên phức tạp.

  — Karen Hao

• Việc xác định mục tiêu của AI rất khó do sự mơ hồ trong trí tuệ con người.

• Không có các mốc mục tiêu cho lĩnh vực này và cũng không có các mốc mục tiêu cho ngành công nghiệp.

  — Karen Hao

• Các công ty có thể thao túng định nghĩa về AGI để phù hợp với lợi ích của họ.

• Các công ty này chỉ cần dùng cụm từ trí tuệ tổng quát nhân tạo theo bất kỳ cách nào họ muốn.

  — Karen Hao

• Tính linh hoạt mang tính chiến lược trong việc định dạng các công nghệ ảnh hưởng đến các cuộc thảo luận về quản lý.

• Nhận thức và niềm tin của công chúng bị ảnh hưởng bởi cách các công ty định nghĩa AGI.

• Việc hiểu các thách thức này là then chốt để có các cuộc thảo luận mang tính hiểu biết về AI.

Các rủi ro tồn vong tiềm ẩn của AI

• AI có lẽ là cách có khả năng cao nhất để phá hủy mọi thứ.

  — Karen Hao

• Các rủi ro tiềm ẩn của AI cho thấy tính cấp bách của các cuộc thảo luận về an toàn.

• Bối cảnh lịch sử rất quan trọng để hiểu các mối đe dọa mang tính tồn vong của AI.

• Các nhân vật chủ chốt như Sam Altman và Elon Musk đóng vai trò quan trọng trong các cuộc thảo luận về AI.

• Altman đang viết cho công chúng hoặc phát biểu thay cho công chúng; ông ấy không chỉ coi công chúng là đối tượng hướng tới.

  — Karen Hao

• Cuộc trò chuyện về an toàn AI là rất quan trọng để giải quyết các rủi ro tiềm ẩn.

• Nhận thức của công chúng về các mối đe dọa mang tính tồn vong của AI là cần thiết cho việc ra quyết định đúng đắn.

• Không thể đánh giá thấp mức độ cấp bách của các cuộc thảo luận về an toàn AI.

Động lực lãnh đạo và các mối quan ngại chiến lược tại OpenAI

• Sam Altman đã ảnh hưởng đến quy trình ra quyết định liên quan đến việc lãnh đạo bộ phận vì lợi nhuận của OpenAI.

  — Karen Hao

• Những lo ngại về sự khó lường của Elon Musk đã ảnh hưởng đến các quyết định lãnh đạo.

• Sau đó, Altman đã đích thân thuyết phục Greg Brockman và nói rằng, anh không nghĩ là sẽ hơi nguy hiểm nếu Musk trở thành CEO của công ty này sao.

  — Karen Hao

• Các quy trình ra quyết định nội bộ tại OpenAI nêu bật các mối quan ngại chiến lược.

• Động lực giữa Musk và Altman rất đáng kể trong giai đoạn hình thành OpenAI.

• Các quyết định lãnh đạo bị chi phối bởi các cân nhắc cá nhân và chiến lược.

• Việc hiểu các động lực này đem lại cái nhìn sâu hơn về lãnh đạo trong công nghệ.

• Các mối quan ngại chiến lược liên quan đến lãnh đạo là then chốt để hiểu cấu trúc của OpenAI.

Cách nhìn nhận gây chia rẽ về Sam Altman

• Sam Altman là một nhân vật gây chia rẽ, và cách nhìn nhận về ông phụ thuộc vào việc ông có đồng thuận với tầm nhìn của ông về tương lai hay không.

  — Karen Hao

• Cách nhìn nhận về Altman khác nhau tùy theo việc họ đồng thuận với tầm nhìn của ông.

• Nếu bạn đồng thuận với tầm nhìn của Altman về tương lai, bạn sẽ cho rằng ông ấy là tài sản vĩ đại nhất mà bạn có trong phe của mình.

  — Karen Hao

• Những người không đồng ý với tầm nhìn của ông có thể cảm thấy bị ông thao túng.

• Nếu bạn không đồng ý với tầm nhìn của ông về tương lai, bạn bắt đầu cảm thấy như mình đang bị ông thao túng.

  — Karen Hao

• Tính chủ quan của việc đánh giá lãnh đạo thể hiện rõ trong trường hợp của Altman.

• Việc hiểu các động lực của lãnh đạo và tầm nhìn là rất quan trọng trong công nghệ.

• Sự hai mặt trong cách nhìn nhận nhấn mạnh mức độ phức tạp của lãnh đạo trong công nghệ.

                  **Công bố:** Bài viết này đã được biên tập bởi Editorial Team. Để biết thêm thông tin về cách chúng tôi tạo và rà soát nội dung, hãy xem Editorial Policy của chúng tôi.