Giám đốc điều hành Anthropic cảnh báo về 'thời điểm nguy hiểm' trong lĩnh vực mạng khi AI tiết lộ hàng nghìn lỗ hổng

Dario Amodei, CEO và đồng sáng lập của Anthropic, đã rời đi, và Jamie Dimon, CEO của JPMorgan Chase.

Denis Balibouse | Reuters | Samuel Corum | Bloomberg | Getty Images

CEO của Anthropic, Dario Amodei, cảnh báo vào thứ Ba rằng trí tuệ nhân tạo đã tạo ra một cửa sổ hẹp cho các công ty công nghệ, chính phủ và ngân hàng trên thế giới để sửa chữa hàng chục nghìn lỗ hổng phần mềm do mô hình mới nhất của công ty ông phát hiện.

Mô hình AI đó, Mythos, đã được giới thiệu trước đó vào tháng trước cùng với tiết lộ rằng nó đã phát hiện ra các lỗ hổng tồn tại hàng thập kỷ trong phần mềm quan trọng.

Vì các mô hình AI từ đối thủ địa chính trị Trung Quốc “có thể chậm hơn khoảng sáu đến 12 tháng” so với sản phẩm của Anthropic, nên có “gần như thời gian đó” để khắc phục các vấn đề này, Amodei nói.

Những bình luận này được đưa ra trong một sự kiện của Anthropic, nơi Amodei chia sẻ sân khấu với CEO của JPMorgan Chase, Jamie Dimon, và giới thiệu một bộ các tác nhân mới nhằm tự động hóa công việc tài chính.

“Nguy hiểm là chỉ một sự gia tăng khổng lồ về số lượng lỗ hổng, về số lượng các vụ vi phạm, về thiệt hại tài chính do ransomware gây ra cho trường học, bệnh viện, chưa kể đến các ngân hàng,” Amodei nói.

Anthropic đã giới hạn Mythos cho một số công ty đối tác vì lo ngại về những gì tội phạm hoặc các quốc gia đối địch có thể làm với nó. Các lần cập nhật mô hình gần đây nhất của công ty đã gây chấn động thị trường, nhưng Mythos gây ra mối lo ngại lớn nhất từ các tập đoàn và nhà hoạch định chính sách.

Quy mô các cuộc khai thác mạng tiềm năng đã phình to theo từng thế hệ của Claude, Amodei nói. Một mô hình của Anthropic trước đó phát hiện khoảng 20 lỗ hổng trong trình duyệt Firefox. Mythos phát hiện gần 300, và tổng số phần mềm hiện nay đã lên tới hàng chục nghìn, ông nói.

Hầu hết các lỗ hổng do Mythos phát hiện chưa được công khai vì chúng vẫn chưa được vá, và “những kẻ xấu sẽ khai thác” chúng nếu bị phát hiện, Amodei nói.

‘Một thế giới tốt đẹp hơn’

Dù cảnh báo, cả Amodei và Dimon đều đưa ra một dấu hiệu lạc quan có điều kiện.

“Đây là một khoảnh khắc nguy hiểm, nếu chúng ta phản ứng đúng, và tôi nghĩ chúng ta đã bắt đầu thực hiện những bước đi đầu tiên, thì chúng ta có thể có một thế giới tốt đẹp hơn ở phía bên kia,” Amodei nói. “Chỉ còn một số lỗi để tìm.”

Dimon cũng nói rằng trong khi những lo ngại về an ninh mạng là chính đáng, thì rủi ro an ninh mạng do AI tạo ra là một “thời kỳ tạm thời.”

Về vấn đề quy định, Amodei nói rằng việc giám sát AI nên giống như những gì đang được thực hiện trong ngành công nghiệp ô tô, cân bằng giữa an toàn cho người tiêu dùng và cho phép ngành công nghiệp cạnh tranh.

“Bạn không thể chỉ bắt đầu một công ty ô tô mà không hỏi ‘Có phanh trên chiếc này không?’” ông nói. “Chúng ta cần dò dẫm để tìm ra một quy trình cho phép ngành hoạt động nhanh chóng, công bằng, nhưng vẫn đặt ra các giới hạn cho những điều nghiêm trọng nhất.”

Sự kiện của công ty, cùng với sự xuất hiện của Dimon, người phát ngôn nổi tiếng nhất của ngành tài chính, dường như thể hiện vị thế dẫn đầu của Anthropic so với OpenAI trong thị trường AI doanh nghiệp khi cả hai công ty hướng tới các đợt phát hành cổ phiếu lần đầu ra công chúng (IPO) tiềm năng.

Anthropic đã công bố vào thứ Ba việc mở rộng nền tảng dịch vụ tài chính của mình, bao gồm 10 tác nhân AI mới cho ngân hàng đầu tư và công việc hậu trường cũng như tích hợp trên các chương trình Office của Microsoft. Công ty cũng cho biết mô hình mới nhất của mình — Claude Opus 4.7 — dẫn đầu các tiêu chuẩn về phân tích tài chính.