Claude vượt qua ChatGPT khi cuộc tranh luận về độ tin cậy của AI ngày càng gay gắt

FinTech đang diễn ra nhanh chóng. Tin tức ở khắp nơi, nhưng sự rõ ràng thì không.

FinTech Weekly cung cấp những câu chuyện và sự kiện quan trọng nhất ở một nơi.

Bấm vào đây để đăng ký bản tin của FinTech Weekly

Được đọc bởi các lãnh đạo tại JP Morgan, Coinbase, BlackRock, Klarna và hơn thế nữa.

Claude vượt lên ChatGPT khi tranh luận về niềm tin vào AI ngày càng gay gắt

Cuộc đua giữa các ứng dụng trí tuệ nhân tạo đã rẽ sang một hướng bất ngờ. Chatbot Claude của Anthropic đã vươn lên vị trí số 1 trên App Store Mỹ của Apple, vượt qua ChatGPT vào thời điểm tranh luận công khai về đạo đức AI và quan hệ hợp tác với chính phủ đang ngày càng được chú ý.

Bảng xếp hạng biến động mỗi ngày. Dù vậy, thời điểm vẫn quan trọng. Sự vươn lên của Claude trùng khớp với việc các công ty AI hàng đầu bị soi xét lại về cách họ làm việc với các cơ quan quốc phòng và cách họ bảo vệ dữ liệu người dùng. Làn sóng tăng trưởng này cho thấy người dùng cân nhắc không chỉ hiệu năng và tính năng, mà còn cả sự tin cậy.

Đối với các công ty fintech, ngân hàng và các nền tảng số tích hợp AI vào sản phẩm phục vụ khách hàng, sự kiện này báo hiệu một thay đổi rộng hơn: nhận thức về thương hiệu xoay quanh các lựa chọn về quản trị và triển khai có thể ảnh hưởng đến việc chấp nhận, nhiều như khả năng kỹ thuật.

Bảng xếp hạng thay đổi trong bối cảnh tranh luận chính sách

Sự thăng tiến của Claude diễn ra sau khi có nhiều cuộc thảo luận trực tuyến hơn về vai trò của trí tuệ nhân tạo trong an ninh quốc gia và cơ sở hạ tầng công. Sự chú ý của công chúng tăng mạnh sau khi OpenAI xác nhận rằng công nghệ của hãng sẽ được cung cấp trong các môi trường thuộc Bộ Quốc phòng Mỹ.

OpenAI cho biết thỏa thuận này cho phép các công cụ AI vận hành trong các bối cảnh chính phủ bảo mật và có kèm các biện pháp bảo vệ. Công ty nêu rằng các chính sách của mình cấm sử dụng cho giám sát nội địa quy mô lớn, hạn chế nhắm mục tiêu vũ khí tự động, và ngăn chặn việc ra quyết định tự động hoàn toàn đối với các tình huống có mức độ rủi ro cao. Hãng cũng cho biết dữ liệu được xử lý trong các hệ thống thuộc diện phân loại vẫn được tách biệt và không được dùng để huấn luyện các mô hình công khai.

Công ty đã nhiều lần khẳng định rằng việc hợp tác với các chính phủ dân chủ có thể giúp thiết lập các chuẩn mực có trách nhiệm cho việc triển khai AI.

Các nhà phê bình đã nêu lo ngại về công tác giám sát, các khuôn khổ pháp lý và tác động dài hạn của các hệ thống AI hoạt động trong bối cảnh quân sự. Các nhóm vận động đã khuyến khích người dùng tìm hiểu các lựa chọn thay thế, và một trang chiến dịch kêu gọi người dùng chuyển đổi nền tảng đã báo cáo hơn 1.5 triệu cam kết.

Anthropic chưa gắn trực tiếp sự gia tăng thứ hạng của mình với tranh cãi. Tuy nhiên, công ty luôn nhấn mạnh các rào chắn an toàn và triển khai theo lộ trình trong thông điệp công khai. Một số người dùng có vẻ xem thái độ đó như một yếu tố phân biệt.

Niềm tin xuất hiện như một biến số cạnh tranh

Việc thay đổi thứ hạng trên App Store phản ánh cách thái độ của công chúng đối với quản trị AI có thể chuyển hóa thành hành vi tiêu dùng đo được.

Cho đến gần đây, cuộc cạnh tranh chatbot AI chủ yếu xoay quanh hiệu năng của mô hình, tốc độ và việc mở rộng tính năng. Tranh luận giờ đây mở rộng sang cách các công ty xử lý việc triển khai nhạy cảm và liệu các chính sách an toàn có phù hợp với kỳ vọng của người dùng hay không.

Người tiêu dùng có thể thiếu hiểu biết về các khác biệt kỹ thuật giữa các mô hình. Thay vào đó, họ thường dựa vào các tín hiệu: tuyên bố công khai, quan hệ đối tác và mức độ cảm nhận sự phù hợp với các giá trị xã hội. Khi các cuộc thảo luận lớn về chính sách diễn ra, các tín hiệu này sẽ có trọng lượng hơn.

Động lực này không chỉ giới hạn ở các ứng dụng tiêu dùng nói chung. Trong fintech và các dịch vụ tài chính, các hệ thống AI ngày càng được tích hợp trong phát hiện gian lận, hỗ trợ khách hàng, chấm duyệt/underwriting và giám sát tuân thủ. Các tổ chức áp dụng các công cụ này phải cân nhắc việc uy tín của nhà cung cấp ảnh hưởng ra sao đến niềm tin của khách hàng.

Nếu người dùng xem một nhà cung cấp là thận trọng hoặc tập trung vào quản trị, việc chấp nhận có thể tăng nhanh. Nếu tranh cãi nổ ra xung quanh các lựa chọn triển khai, tâm lý người dùng có thể thay đổi rất nhanh.

Đạo đức AI và hành vi thị trường

Khoảnh khắc hiện tại cho thấy một mô hình rộng hơn ở các thị trường công nghệ. Việc bị giám sát theo quy định và tranh luận công khai có thể thay đổi vị thế cạnh tranh chỉ trong thời gian ngắn.

Sự tham gia của OpenAI với các cơ quan quốc phòng phản ánh mối quan hệ lâu dài giữa các công ty công nghệ và khách hàng chính phủ. Các nhà cung cấp cloud và các công ty an ninh mạng thường xuyên hỗ trợ hoạt động của khu vực công. AI tạo thêm mức độ nhạy cảm do lo ngại về tính tự chủ và hoạt động ra quyết định.

Anthropic đã định vị mình xoay quanh nghiên cứu an toàn và chiến lược phát hành mô hình bị giới hạn. Thông điệp của công ty nhấn mạnh sự phù hợp và giảm thiểu rủi ro. Dù cả hai công ty đều vận hành các mô hình quy mô lớn, các câu chuyện công khai của họ lại khác nhau.

Thứ hạng trên cửa hàng ứng dụng đóng vai trò như một phép đo thay thế có thể nhìn thấy về phản ứng của người dùng. Lượt tải tăng vọt có thể xuất phát từ sự tò mò nhiều như niềm tin vững chắc. Dù vậy, việc dịch chuyển ở vị trí dẫn đầu trên bảng xếp hạng cho thấy các cuộc thảo luận công khai đang tác động đến hành vi.

Với các công ty xây dựng trên các nền tảng AI, bao gồm cả các startup fintech tích hợp giao diện hội thoại, việc lựa chọn nhà cung cấp ngày càng mang ý nghĩa cân nhắc về danh tiếng. Các hội đồng quản trị và đội ngũ tuân thủ giờ đây không chỉ cân nhắc hiệu năng kỹ thuật mà còn cân nhắc tư thế quản trị.

Các biện pháp bảo vệ dữ liệu đang được chú ý

Một chủ đề then chốt trong cuộc tranh luận liên quan đến cách xử lý dữ liệu. OpenAI đã nêu rằng thông tin được xử lý trong các môi trường chính phủ thuộc diện phân loại được tách biệt và bị loại khỏi các hệ thống huấn luyện công khai. Sự phân biệt này nhằm giải quyết nỗi lo rằng dữ liệu nhạy cảm có thể đi vào quá trình phát triển mô hình rộng hơn.

Các thực hành tách biệt dữ liệu và mức độ minh bạch về nguồn huấn luyện vẫn là trọng tâm trong các thảo luận về quản trị AI. Cả người dùng lẫn khách hàng doanh nghiệp đều tìm kiếm sự đảm bảo rằng thông tin riêng tư sẽ không bị dùng lại nếu không có sự đồng ý.

Các thông điệp của Anthropic đã nhấn mạnh các rào chắn và chính sách triển khai thận trọng. Những thông điệp đó phù hợp với người dùng coi trọng việc kiểm soát rủi ro.

Khi các công cụ AI mở rộng sang những lĩnh vực xử lý dữ liệu tài chính và dữ liệu cá nhân, các kỳ vọng về quản trị dữ liệu càng trở nên nghiêm ngặt. Các công ty fintech dựa vào các mô hình của bên thứ ba phải đánh giá các biện pháp bảo vệ theo hợp đồng và năng lực kiểm toán.

Bối cảnh cạnh tranh vẫn đang biến động

Vị trí hiện tại của Claude ở đầu bảng trên App Store Mỹ của Apple có thể không kéo dài mãi. Thứ hạng thường thay đổi khi có các tính năng mới ra mắt hoặc khi chu kỳ chú ý của công chúng chuyển động.

Tuy nhiên, sự kiện này phản ánh một giai đoạn chuyển tiếp trong thị trường AI. Chỉ riêng hiệu năng không còn xác định sự dẫn đầu. Các lựa chọn về quản trị và các quan hệ hợp tác công khai góp phần tạo nên vị thế thương hiệu.

Ngành AI vẫn đang phát triển nhanh. Các công ty cạnh tranh trên nhiều mặt như nghiên cứu, tích hợp cho doanh nghiệp và mức độ chấp nhận của người tiêu dùng. Niềm tin công chúng đã bước vào phương trình đó rõ ràng hơn.

Với các công ty fintech tích hợp AI vào các dịch vụ hướng tới khách hàng, bài học rất rõ ràng: năng lực kỹ thuật phải đi kèm với quản trị đáng tin cậy. Người dùng đang quan sát không chỉ việc các hệ thống có thể làm gì, mà còn là chúng được triển khai như thế nào.

Việc Claude vươn lên trong bảng xếp hạng cho thấy rằng, ít nhất là trong lúc này, niềm tin đang ảnh hưởng đến lựa chọn.