Max Spero: Viết bằng AI xuất sắc về ngữ pháp nhưng thiếu phong cách, công cụ phát hiện là rất quan trọng để đảm bảo tính toàn vẹn của nội dung, và các chỉ số tín nhiệm truyền thống đang suy giảm | Odd Lots

Những ý chính rút ra

• AI viết tốt vượt trội về ngữ pháp và độ rõ ràng, thường vượt xa năng lực của con người.
• Dù giỏi về ngữ pháp, AI vẫn gặp khó khăn trong việc nắm bắt các phong cách viết độc đáo.
• Các công cụ phát hiện nội dung do AI tạo ra đang ngày càng tiên tiến và dễ tiếp cận hơn.
• Sự dễ dàng trong việc tạo nội dung bằng AI đặt ra thách thức cho tính xác thực của thông tin.
• Các chỉ báo truyền thống về mức độ đáng tin cậy của tác giả đang bị AI làm suy yếu.
• Phần mềm phát hiện AI có tỷ lệ chính xác cao, với rất ít dương tính giả.
• Tỷ lệ âm tính giả trong phát hiện văn bản do AI tạo ra vào khoảng 1%.
• Các mô hình AI học cách phân biệt văn bản bằng cách phân tích các mô hình ra quyết định trong ngôn ngữ.
• Viết bằng AI bị giới hạn bởi dữ liệu huấn luyện, khiến hạn chế các khác biệt mang tính sáng tạo.
• Tỷ lệ dương tính giả trong phát hiện AI cho thấy đôi khi có sự trùng lặp với văn bản do con người viết.
• Nội dung do AI tạo có thể tràn ngập các kênh, làm việc nhận diện ý định trở nên phức tạp.
• Mối liên hệ giữa chất lượng bài viết và mức độ nghiêm túc của tác giả đang bị xói mòn do AI.
• Các công cụ phát hiện AI rất quan trọng để duy trì tính toàn vẹn của nội dung trong giao tiếp số.

Giới thiệu khách mời

Max Spero là Giám đốc điều hành và đồng sáng lập Pangram Labs, một công ty phát triển phần mềm để xác định liệu một nội dung có được tạo bằng AI hay không. Anh đồng sáng lập công ty vào năm 2023 cùng người bạn Stanford Bradley Emi. Trước đó anh từng làm việc tại Google.

Những điểm mạnh và điểm yếu của việc viết bằng AI

• Viết bằng AI có độ chính xác cao về ngữ pháp, hiếm khi đặt sai dấu phẩy. – “Tôi có một quan điểm gây tranh cãi về việc viết bằng AI, theo cách mà cái nó khá tốt… nó không bao giờ đặt sai vị trí dấu phẩy—ở một mức độ nào đó là hoàn hảo.” – Max Spero
• Dù viết đúng ngữ pháp, AI lại thiếu nét tinh tế về phong cách. – “Những gì tôi nhận thấy là nó không làm tốt phần phong cách… nó thực sự bị tụt lại.” – Max Spero
• Khả năng không thể tái tạo sự sáng tạo của con người khiến AI bị giới hạn về năng lực viết.
• Độ chính xác của AI về ngữ pháp không chuyển hóa sang cách diễn đạt tinh tế.
• Độ rõ ràng trong viết bằng AI là một điểm mạnh, nhưng nó thường tạo ra những đoạn văn nhạt nhẽo.
• Người viết con người xuất sắc về phong cách và sự sáng tạo—những lĩnh vực mà AI làm chưa tới.
• Khó khăn của AI trong việc nắm bắt phong cách cho thấy tầm quan trọng của việc có đầu vào từ con người trong các tác vụ sáng tạo.
• Sự tương phản giữa độ chính xác ngữ pháp của AI và các giới hạn về phong cách là rất rõ rệt.

Những tiến bộ trong phát hiện nội dung do AI tạo

• Các công cụ phát hiện AI đang phát triển, cung cấp cả dịch vụ miễn phí lẫn dịch vụ trả phí. – “Có một công ty tên là Pangram Labs và họ có một thứ như vậy; bạn có thể trả tiền cho nó, nhưng cũng có một dịch vụ miễn phí nơi bạn có thể thả kiểu như một đoạn văn vào và nó sẽ cho biết tỷ lệ—liệu nó được viết bởi con người hay AI—và tôi khá ấn tượng với nó.” – Max Spero
• Những công cụ này rất quan trọng để phân biệt giữa nội dung do con người và nội dung do AI tạo ra.
• Công nghệ phát hiện AI đóng vai trò then chốt trong việc đảm bảo tính xác thực của nội dung.
• Việc phát triển các công cụ phát hiện tinh vi là một phản ứng trước sự gia tăng của việc viết bằng AI.
• Khi việc viết bằng AI ngày càng phổ biến hơn, các công cụ phát hiện ngày càng trở nên cần thiết.
• Khả năng nhận diện nội dung do AI tạo ra giúp duy trì tính toàn vẹn của giao tiếp số.
• Các công cụ phát hiện cung cấp một chỉ số để đánh giá tính xác thực của nội dung viết.
• Mức độ tinh vi của các công cụ phát hiện phản ánh thách thức ngày càng tăng trong việc phân biệt nội dung do AI tạo.

Tác động của AI lên các kênh thông tin

• Nội dung do AI tạo có thể dễ dàng làm bão hòa các kênh thông tin. – “Vấn đề là nó chỉ quá dễ để tạo ra và kiểu như rất khó để biết ý định đằng sau nó… về cơ bản là bất kỳ kẻ xấu nào cũng có thể vào và chỉ việc tràn ngập các kênh thông tin của chúng ta bằng thứ rác do AI tạo nhìn có vẻ hợp lệ.” – Max Spero
• Sự bão hòa này khiến việc phân định ý định đằng sau nội dung trở nên khó khăn.
• Tính xác thực của thông tin có nguy cơ bị đe dọa do AI làm cho việc tạo nội dung trở nên quá dễ dàng.
• Kẻ xấu có thể lợi dụng AI để tràn ngập các kênh bằng thông tin gây hiểu lầm.
• Thách thức nằm ở việc phân biệt nội dung hợp pháp với “thứ rác” do AI tạo.
• Tác động của AI lên các kênh thông tin cho thấy nhu cầu về các công cụ phát hiện mạnh mẽ.
• Tính toàn vẹn của giao tiếp số bị đe dọa bởi năng lực tạo nội dung của AI.
• Sự dễ dàng trong việc tạo nội dung bằng AI làm phức tạp nỗ lực duy trì chất lượng thông tin.

Sự xói mòn các chỉ báo về mức độ đáng tin cậy truyền thống

• AI đang cắt đứt mối liên kết giữa chất lượng bài viết và mức độ đáng tin cậy của tác giả. – “Vấn đề mà anh đang nhận diện là mối liên kết đó hiện đã bị cắt đứt, để chúng ta không còn có thể dùng các tiêu chí kiểu như việc đánh giá nghiêm ngặt chất lượng bài viết để biết chính xác liệu điều đó có được đăng bởi một người nào đó kiểu như nghiêm túc không.” – Max Spero
• Các tiêu chí truyền thống để đánh giá mức độ đáng tin cậy đang trở nên kém đáng tin hơn.
• Chất lượng của bài viết không còn là chỉ báo xác định về mức độ nghiêm túc của tác giả.
• Khả năng của AI trong việc tạo ra các bài viết chất lượng cao thách thức các đánh giá mức độ đáng tin cậy truyền thống.
• Sự xói mòn các chỉ báo về mức độ đáng tin cậy đòi hỏi những phương pháp mới để đánh giá nội dung.
• Tác động của AI đến mức độ đáng tin cậy nhấn mạnh tầm quan trọng của các công cụ phát hiện.
• Sự thay đổi trong cách đánh giá mức độ đáng tin cậy phản ánh ảnh hưởng ngày càng tăng của AI đối với việc viết.
• Nhu cầu về các chỉ báo mức độ đáng tin cậy mới được thúc đẩy bởi năng lực viết của AI.

Độ chính xác của phần mềm phát hiện AI

• Tỷ lệ dương tính giả khi xác định văn bản do con người viết vào khoảng một trên 10.000. – “Con số của chúng tôi hiện tại khoảng một trên 10.000 ổn thôi, nên nếu chúng tôi quét 10.000 tài liệu trung bình thì sẽ có một tài liệu trả về là AI, trong khi thực tế là con người.” – Max Spero
• Phần mềm phát hiện AI tự hào có tỷ lệ chính xác 99%, với tỷ lệ âm tính giả 1%. – “Tôi sẽ nói khoảng 99% độ chính xác, tức là khoảng 1% tỷ lệ âm tính giả.” – Max Spero
• Độ chính xác cao của phần mềm phát hiện là rất quan trọng cho ứng dụng thương mại của nó.
• Độ tin cậy của phần mềm phát hiện là thiết yếu để duy trì tính toàn vẹn của nội dung.
• Tỷ lệ dương tính giả nêu bật độ chính xác của phần mềm trong việc phân biệt văn bản.
• Tỷ lệ âm tính giả cho thấy mức độ hiệu quả của phần mềm trong việc bắt được nội dung do AI tạo ra.
• Các chỉ số về độ chính xác của phần mềm phát hiện nhấn mạnh tầm quan trọng của nó trong giao tiếp số.
• Độ chính xác của phần mềm là yếu tố then chốt để đảm bảo tính xác thực của nội dung viết.

Cơ chế huấn luyện mô hình AI

• Các mô hình AI học cách phân biệt văn bản bằng cách phân tích các mô hình ra quyết định. – “Việc chúng tôi làm là học các mô hình, và kiểu như các mô hình ở tuyến đầu này đưa ra các quyết định… mô hình của chúng tôi có thể học thông qua đối chiếu: sự khác biệt giữa hai thứ này là gì.” – Max Spero
• Quá trình huấn luyện bao gồm việc đối chiếu văn bản do con người và văn bản do AI tạo ra.
• Việc hiểu các mô hình ra quyết định là chìa khóa trong huấn luyện mô hình AI.
• Khả năng nhận ra sự khác biệt trong cách tạo văn bản là rất quan trọng đối với các mô hình AI.
• Quá trình huấn luyện nêu bật sự phức tạp trong việc phát triển mô hình AI.
• Huấn luyện mô hình AI là điều cần thiết để cải thiện độ chính xác của phần mềm phát hiện.
• Cơ chế huấn luyện nhấn mạnh tính tinh vi của công nghệ AI.
• Quá trình học các mô hình ra quyết định là trọng tâm cho năng lực phân biệt văn bản của AI.

Giới hạn của các mô hình viết bằng AI

• Viết bằng AI bị ràng buộc bởi dữ liệu huấn luyện, giới hạn các đầu ra mang tính sáng tạo. – “Dù bạn nhắc nó nhiều đến đâu thì nó cũng không đi xa khỏi nơi nó đã được huấn luyện để trở thành như vậy.” – Max Spero
• Các giới hạn từ dữ liệu huấn luyện hạn chế khả năng tạo nội dung đa dạng của AI.
• Sự phụ thuộc của AI vào dữ liệu huấn luyện nhấn mạnh các ràng buộc về sáng tạo của nó.
• Việc không thể thoát khỏi các mẫu huấn luyện giới hạn tính linh hoạt trong việc viết bằng AI.
• Các ràng buộc của dữ liệu huấn luyện là một hạn chế cốt lõi của các mô hình viết bằng AI.
• Các giới hạn về sáng tạo của AI nhấn mạnh tầm quan trọng của việc có đầu vào từ con người trong việc viết.
• Sự phụ thuộc vào dữ liệu huấn luyện phản ánh những giới hạn vốn có của các mô hình AI.
• Các ràng buộc của các mô hình viết bằng AI cho thấy nhu cầu cần phát triển liên tục.

Những thách thức trong các chỉ số phát hiện AI

• Tỷ lệ dương tính giả cho phát hiện AI là một trên mười nghìn. – “Có lẽ vì một lý do nào đó mà chúng tôi có tỷ lệ dương tính giả là một trên mười nghìn chứ không phải là zero.” – Max Spero

• Các trường hợp trùng lặp thỉnh thoảng với văn bản do con người viết góp phần làm tăng tỷ lệ dương tính giả.

• Tỷ lệ dương tính giả nhấn mạnh các thách thức trong việc phân biệt nguồn gốc của văn bản.

• Các chỉ số phát hiện AI phản ánh độ phức tạp trong việc phân biệt giữa nội dung do con người và nội dung do AI tạo.

• Độ tin cậy của các chỉ số phát hiện là rất quan trọng để duy trì tính xác thực của nội dung.

• Những thách thức trong các chỉ số phát hiện nhấn mạnh nhu cầu cần tinh chỉnh liên tục.

• Tỷ lệ dương tính giả là một yếu tố then chốt cần cân nhắc khi đánh giá phần mềm phát hiện.

• Độ phức tạp của các chỉ số phát hiện nhấn mạnh sự tinh vi của công nghệ AI.

                  **Công bố:** Bài viết này đã được Editorial Team biên tập. Để biết thêm thông tin về cách chúng tôi tạo và rà soát nội dung, hãy xem Editorial Policy.