Từ việc AI độc ác tống tiền con người đến việc rút ngắn ngày học, cuộc cách mạng AI đã và đang định hình lại cuộc sống

đóng

![](https://img-cdn.gateio.im/social/moments-73fc3f848a-1f3591e980-8b7abd-e5a980) video

Logan Graham của Anthropic đề cập đến cuộc điều tra Mythos và tương lai của an ninh mạng.

Trưởng nhóm Frontier Red Team của Anthropic, Logan Graham, thảo luận về sức mạnh của AI và các mối đe dọa an ninh mạng trên ‘Sáng cùng Maria.’

Khi thế giới bước vào giai đoạn mà các chuyên gia gọi là “Cách mạng Công nghiệp thứ Tư,” các nhà lãnh đạo doanh nghiệp Mỹ đang đặt cược lớn vào tương lai của nền cộng hòa.

“FOX Business’ ‘Sáng cùng Maria’ đã đi vào thế giới đầy rủi ro của trí tuệ nhân tạo, tiết lộ cách các ông lớn trong ngân hàng, quốc phòng và công nghệ đang đầu tư hàng trăm tỷ đô la để xây dựng hạ tầng AI và trung tâm dữ liệu sẽ định hình lại nền kinh tế Mỹ.”

Chủ tịch và Phó Chủ tịch Meta Platforms Dina Powell McCormick

McCormick thảo luận về việc ra mắt Meta Muse, một nền tảng AI mã hóa hình ảnh mới dành cho các nhiệm vụ lý luận cao cấp và sáng tạo. Cô tuyên bố nó trở thành ứng dụng được tải xuống nhiều thứ hai trong ngày ra mắt, và cốt lõi “là về con người.”

META THÔNG BÁO NHÂN VIÊN VỀ VIỆC SA THẢI 8.000 NHÂN VIÊN GIỮA LÚC ĐẨY MẠNH AI

“Hiện tại có rất nhiều nỗi sợ hãi, Maria, về trí tuệ nhân tạo,” McCormick nói. “Nhưng tôi nghĩ nếu chúng ta thực sự quay lại với việc đây nhằm giúp mọi người có nhiều thời gian hơn để khám phá tiềm năng và đam mê của mình, đó là cách chúng ta thực sự nghĩ về Muse, nhưng cũng là thực tế, thẳng thắn mà nói, nền tảng của chúng ta mỗi ngày có 3,5 tỷ người dùng, và đó vừa là trách nhiệm nặng nề vừa là điều rất thú vị vì khi chúng ta phát triển sản phẩm và công nghệ này, đó là phân phối mà chúng ta đang nói đến.”

![](https://img-cdn.gateio.im/social/moments-2716f4b5b6-8302c660a0-8b7abd-e5a980)

Các lãnh đạo hàng đầu từ các tên tuổi như Anthropic, Meta, Google và nhiều hơn nữa đã tham gia “Sáng cùng Maria” trong tuần đặc biệt về AI. (Getty Images)

Chủ tịch và Phó Chủ tịch Microsoft Brad Smith

Smith xem sự bùng nổ AI như một cuộc tái công nghiệp hóa lớn của Mỹ đòi hỏi đầu tư 140 tỷ đô la mỗi năm để giải quyết các vấn đề nội địa quan trọng như thiếu bác sĩ ở vùng sâu vùng xa và phòng chống cháy rừng trong khi duy trì lợi thế cạnh tranh với Trung Quốc.

“Đây là phần lớn trong cái mà Tổng thống [Donald] Trump gọi là công nghiệp hóa nước Mỹ. Khi nhìn vào tác động kinh tế của điều này, những gì chúng ta đóng góp về việc làm, nhưng quan trọng hơn, là khả năng của từng phần của nền kinh tế, điều này là rất quan trọng,” Smith nói.

đóng

![](https://img-cdn.gateio.im/social/moments-2ec99749c1-7cf78cc6d5-8b7abd-e5a980) video

Brad Smith của Microsoft chi tiết vai trò biến đổi của AI trong các ngành công nghiệp chính

Phó Chủ tịch và Chủ tịch Microsoft Brad Smith thảo luận về tác động sâu sắc của AI đối với chăm sóc sức khỏe, cải thiện chẩn đoán và thiếu bác sĩ.

“Tôi nghĩ một trong những điều quan trọng nhất mà chúng ta đang làm như một công ty, và thẳng thắn, điều mà tổng thống đã thúc đẩy toàn ngành, đúng đắn, là tự trang trải chi phí của mình. Điều đó có nghĩa là chúng ta trả tiền cho việc sản xuất điện năng cần thiết, để hàng xóm và người nộp thuế không phải trả,” ông tiếp tục.

“Khi bạn có AI kiểm soát thứ gì đó như hạ tầng, robot tự hành và những thứ tương tự, nên có — chúng tôi gọi đó là phanh khẩn cấp,” ông nói. “Nhìn này, bạn sẽ không đưa con cái đi xe buýt đến trường mà không cảm thấy yên tâm rằng có phanh khẩn cấp trên xe buýt. Bạn cần có khả năng để con người luôn kiểm soát, làm chậm lại hoặc tắt đi.”

Chủ tịch Hội đồng Tư vấn Google Cloud Betsy Atkins

Atkins cảnh báo về công nghệ đang mở rộng nhanh chóng sau một nghiên cứu đáng lo ngại của Anthropic phát hiện ra rằng 16 mô hình AI hàng đầu thể hiện hành vi “phi pháp” như tống tiền con người và vượt qua các giao thức bảo mật khi AI cho rằng sự tồn tại của nó bị đe dọa.

đóng

![](https://img-cdn.gateio.im/social/moments-f03f42597d-e6cec8ee5c-8b7abd-e5a980) video

Betsy Atkins cảnh báo về rủi ro quản trị trong việc mở rộng hệ thống AI: ‘Thời điểm lo lắng’

Chủ tịch Hội đồng Tư vấn Google Cloud Betsy Atkins phân tích lợi ích kinh doanh của AI, rủi ro của mô hình và tác động đến lực lượng lao động trên ‘Sáng cùng Maria.’

“Chúng đều vượt ra ngoài các quyền hạn và quyền truy cập của mình, xâm nhập vào các hệ thống mà họ không được phép truy cập, vi phạm tất cả các chính sách và thủ tục của công ty, và tìm thấy email. Và trong thí nghiệm này… Tôi phát hiện ra trong email cá nhân của bạn có mối quan hệ tình cảm với quản lý vận chuyển, vì vậy tôi tống tiền bạn và đe dọa bạn,” Atkins nói.

“Bạn phải đối xử với AI như một mối đe dọa nội bộ. Bạn phải có nguyên tắc hoạt động dựa trên niềm tin tuyệt đối, và bạn phải chắc chắn rằng bạn giới hạn những gì nó có thể truy cập theo nhiều cách khác nhau,” cô bổ sung. “Chúng ta đã thấy điều đó với Anthropic… Nó thoát khỏi sandbox… Vì vậy, sandbox không đủ.”

Trưởng nhóm Frontier Red Team của Anthropic Logan Graham

Graham cảnh báo rằng mô hình AI Mythos mới của Anthropic mạnh đến mức có thể xác định “điểm yếu” và lỗ hổng trong hạ tầng toàn cầu và hệ thống ngân hàng đến mức công ty đã giữ lại việc phát hành công khai để giúp ngành công nghiệp và chính phủ Mỹ có lợi thế phòng thủ.

“Chúng tôi nhận thấy, mô hình này đặc biệt giỏi trong việc tìm ra điểm yếu trong các hệ thống an ninh mạng và tìm cách khai thác chúng,” ông nói. “Chúng tôi quan sát thấy rằng chúng tôi có thể tìm ra các lỗ hổng trong mọi hệ điều hành và nền tảng chính mà chúng tôi xem xét… trong các hệ thống, có thể đã tồn tại hàng thập kỷ.”

“Việc chúng ta luôn phải đi trước là cực kỳ quan trọng. Việc đảm bảo an toàn cho chính mình và ngăn chặn khả năng lấy đi bí quyết đặc biệt mà chúng ta dùng để tạo ra các mô hình của mình… Mối lo của tôi là nếu có nhiều mô hình được phát hành rộng rãi để ai cũng có thể sử dụng… nếu chúng được phát hành bởi Trung Quốc, thì chúng ta sẽ rơi vào tình thế rất khó khăn.”

đóng

![](https://img-cdn.gateio.im/social/moments-7e0c30f492-969c3ba739-8b7abd-e5a980) video

AI đang thúc đẩy cuộc cách mạng năng suất: David Sacks

Phó Chủ tịch Hội đồng Cố vấn Khoa học và Công nghệ của Tổng thống, David Sacks, tham gia ‘Sáng cùng Maria’ để thảo luận về lợi ích của AI trong lực lượng lao động và rủi ro của ‘sự lệch hướng tác nhân’ trong các mô hình AI.

Phó Chủ tịch Hội đồng Cố vấn Khoa học và Công nghệ của Tổng thống David Sacks

Sacks bác bỏ các tuyên bố từ một nghiên cứu của Anthropic về gọi là “sự lệch hướng tác nhân.” Nghiên cứu này, được nhấn mạnh bởi Atkins của Google, kiểm tra phản ứng của các hệ thống AI dưới áp lực. Theo Atkins, các mô hình đã vượt qua các giới hạn đã thiết lập khi đặt trong các kịch bản hạn chế.

“Những người… tạo ra nghiên cứu đó phải lặp lại yêu cầu hơn 200 lần để khiến mô hình AI làm theo ý họ, nhằm đạt được kết quả gây chú ý là tống tiền người dùng,” Sacks nói.

“AI không phải là âm mưu… Nó tham gia vào một dạng hướng dẫn… Tôi nghĩ rằng nghiên cứu đó là vô trách nhiệm, và nó được thiết kế để tạo ra điều này,” ông bổ sung.

Giám đốc điều hành và sáng lập SandboxAQ Jack Hidary

Hidary tiết lộ rằng giai đoạn tiếp theo của cuộc cách mạng AI liên quan đến các mô hình định lượng lớn sử dụng vật lý và hóa học, không chỉ văn bản internet, để giảm chi phí chăm sóc sức khỏe, bảo vệ lưới điện và chấm dứt sự phụ thuộc của Mỹ vào Trung Quốc về khoáng sản hiếm.

đóng

![](https://img-cdn.gateio.im/social/moments-16fc758141-929bb3fb68-8b7abd-e5a980) video

Cuộc cách mạng AI ảnh hưởng đến y học: SandboxAQ nhắm vào đột phá về sức khỏe, an ninh mạng

Giám đốc điều hành SandboxAQ Jack Hidary tham gia ‘Sáng cùng Maria’ để thảo luận về các đột phá AI trong chăm sóc sức khỏe, an ninh mạng, khoa học, cùng với khoản đầu tư của Dell vào một trung tâm y tế AI mới.

“Chúng ta cũng cần đảm bảo rằng chúng ta đang giảm sự phụ thuộc vào khoáng sản hiếm từ các quốc gia khác như [Cộng hòa Nhân dân Trung Hoa]. Và vì vậy, chúng ta cần AI biết về hóa học, vật lý. Không có kỹ thuật nào để làm nam châm tốt hơn và hợp kim khác mà chúng ta cần cho nền kinh tế và quốc phòng của chúng ta,” Hidary nói.

“Trong nền kinh tế này, có hai nhóm lớn có thể thua cuộc. Đầu tiên là các công ty phần mềm di sản. Những công ty như SAP và các công ty khác mà chúng ta không thấy đổi mới thực sự… họ sẽ không cấp phép phần mềm cũ nhiều nữa. Và thứ hai là các công ty truyền thống lớn trong các ngành công nghiệp lớn, nhà sản xuất ô tô, công ty dược phẩm. Họ phải bắt kịp xu hướng.”

Giám đốc điều hành và sáng lập Alpha Schools Mackenzie Price

Price chi tiết cách mô hình “cá nhân hóa, dựa trên thành thạo” của cô sử dụng gia sư AI để rút ngắn một ngày học truyền thống sáu giờ xuống còn hai giờ học tập cao, cho phép học sinh dành phần còn lại để phát triển kỹ năng lãnh đạo, hiểu biết tài chính và khởi nghiệp.

“Hệ thống giáo dục truyền thống của chúng ta được xây dựng từ cuộc Cách mạng Công nghiệp để tạo ra người lao động. Và trong thế giới AI mới này, việc tạo ra những cá nhân năng động, thích nghi và quan trọng nhất, có kỹ năng học cách học là vô cùng quan trọng,” Price nói.

đóng

![](https://img-cdn.gateio.im/social/moments-74159c88e6-030096a1dd-8b7abd-e5a980) video

AI đang định hình lại giáo dục, CEO Alpha Schools phân tích tương lai

Đồng sáng lập và CEO của Alpha Schools, Mackenzie Price, thảo luận về vai trò của AI trong giáo dục, học tập cá nhân hóa, và tương lai của lớp học trên ‘Sáng cùng Maria.’

“Có một sự khác biệt lớn giữa việc lướt TikTok suốt ngày hoặc chơi trò chơi điện tử và trải nghiệm học tập cá nhân hóa một-một phù hợp chính xác với trình độ của trẻ,” cô nói thêm. “Tại các trường của chúng tôi, con em chúng tôi thực sự dành ít thời gian hơn trên màn hình so với học sinh trung bình trong các trường truyền thống ngày nay.”

Phó Chủ tịch Indeed Hannah Calhoon

Calhoon phản bác các câu chuyện về việc AI thay thế công việc bằng cách tiết lộ rằng trong khi AI đang trong nhận thức toàn cầu, chỉ có 6% các vị trí tuyển dụng hiện tại yêu cầu kỹ năng AI, và cuộc cách mạng này thực sự thúc đẩy sự gia tăng lớn các vai trò lao động chân tay truyền thống như thợ điện.

NHẤN VÀO FOX BUSINESS ĐỂ XEM TRÊN ĐIỆN THOẠI

đóng

![](https://img-cdn.gateio.im/social/moments-2af6515cf3-5774302406-8b7abd-e5a980) video

AI đe dọa hàng triệu việc làm khi các chuyên gia cảnh báo rằng các công việc văn phòng đầu tiên sẽ bị mất

Phó Chủ tịch AI của Indeed, Hannah Calhoon, tham gia ‘Sáng cùng Maria’ để phân tích cách trí tuệ nhân tạo đang định hình lại lực lượng lao động khi có tới 300 triệu việc làm có nguy cơ bị gián đoạn trên toàn thế giới.

“Việc làm liên quan đến AI chắc chắn đã tăng nhanh trong vài năm qua, nhưng chỉ có 6% các vị trí tuyển dụng hiện nay đề cập đến kỹ năng AI… 95% nhà tuyển dụng đăng tuyển trên Indeed, nếu xem xét tất cả các vị trí của họ, không có đề cập đến AI hay kỹ năng AI,” Calhoon giải thích. “Vì vậy, tôi nghĩ rằng mặc dù nó rất phổ biến trong ý thức chung, chúng ta vẫn còn ở giai đoạn sơ khai trong việc thấy nó xuất hiện trong dữ liệu thị trường.”

“Và khi chúng ta xem dữ liệu đó và nhìn vào các công việc trên thị trường, chúng ta thực sự thấy rất ít công việc sẽ biến mất hoàn toàn.”

ĐỌC THÊM TỪ FOX BUSINESS