Sự phát triển của Biểu đồ Tri thức Được xác minh nhờ AI
Thảo luận

Hệ thống AI ngày nay chủ yếu giỏi trong việc tạo ra câu trả lời. Tuy nhiên, chúng ít đáng tin cậy hơn trong việc đảm bảo tính chính xác của chúng. Bạn đặt câu hỏi. Mô hình phản hồi với sự tự tin. Cấu trúc nghe có vẻ hợp lý. Giải thích cảm thấy đầy đủ. Nhưng bên dưới câu trả lời đó là một vấn đề đơn giản: nó có thể sai. Sự không chắc chắn đó là giới hạn vô hình của các hệ thống kiến thức AI hiện đại. Thông tin được tạo ra nhanh hơn khả năng xác thực của nó. Đây là nơi Mira bắt đầu thay đổi phương trình. Thay vì xem các kết quả của AI như những câu trả lời đã hoàn chỉnh, Mira xem chúng như những tuyên bố cần được xác minh. Hệ thống phân chia nội dung do AI tạo ra thành các câu nhỏ hơn có thể được kiểm tra độc lập qua một mạng lưới các nhà xác thực phi tập trung. Quy trình này biến đổi cách thức kiến thức có thể được cấu trúc. Các đồ thị kiến thức truyền thống lưu trữ mối quan hệ giữa các thực thể. Chúng ánh xạ các kết nối giữa con người, địa điểm, sự kiện và khái niệm trong một cấu trúc dựa trên đồ thị, nơi các nút đại diện cho thực thể và các cạnh thể hiện mối quan hệ. Nhưng các đồ thị này thường giả định rằng thông tin bên trong đã chính xác. Trong thực tế, hầu hết các đồ thị kiến thức hiện đại được xây dựng từ dữ liệu trích xuất, nhập liệu của con người hoặc các quy trình tự động. Sai sót có thể âm thầm lan truyền qua hệ thống. Mira giới thiệu một mô hình khác. Trước khi thông tin trở thành phần của đồ thị, nó phải qua quá trình xác thực. Mỗi câu tuyên bố do AI tạo ra có thể được phân tích thành các tuyên bố có cấu trúc rõ ràng. Những tuyên bố này được phân phối qua nhiều mô hình hoặc nhà xác thực độc lập, đánh giá độ chính xác của chúng và đạt được sự đồng thuận trước khi được chấp nhận. Sau khi được xác thực, những tuyên bố đó có thể được gắn làm các điểm dữ liệu đáng tin cậy trong một đồ thị kiến thức. Kết quả là một đồ thị không chỉ lưu trữ các mối quan hệ. Nó lưu trữ các mối quan hệ đã được xác thực. Phân biệt này quan trọng hơn bạn nghĩ. Trong hệ thống kiến thức AI thông thường, thông tin mang tính xác suất. Hệ thống tin rằng điều gì đó có khả năng đúng vì nó đã thấy các mẫu tương tự trong dữ liệu huấn luyện. Trong một đồ thị kiến thức đã được xác thực, thông tin trở nên có thể truy xuất nguồn gốc. Mỗi nút và mối quan hệ đều có thể mang bằng chứng rằng tuyên bố đã được đánh giá và đồng thuận bởi nhiều nhà xác thực trong mạng lưới. Điều này thay đổi cách AI lý luận. Thay vì tạo ra câu trả lời dựa trên các xác suất liên kết lỏng lẻo, các mô hình có thể truy vấn một bản đồ kiến thức đã được xác thực có cấu trúc. Lý luận trở nên đáng tin cậy hơn vì nền tảng đã được kiểm tra. Đối với các tác nhân AI tự hành, điều này có thể cực kỳ quan trọng. Các tác nhân hoạt động độc lập cần một nguồn thông tin đáng tin cậy. Nếu cơ sở kiến thức của chúng chứa các sự kiện ảo hoặc dữ liệu không nhất quán, quyết định của chúng có thể nhanh chóng trở nên không đáng tin cậy. Một đồ thị kiến thức đã được xác thực giảm thiểu rủi ro đó. Các tác nhân có thể tham khảo các tuyên bố đã được xác thực bởi một lớp xác thực phân tán thay vì dựa hoàn toàn vào dự đoán của chính chúng. Theo thời gian, điều này tạo ra một vòng phản hồi. AI tạo ra kiến thức. Mạng lưới xác thực nó. Các tuyên bố đã được xác thực mở rộng đồ thị kiến thức. Các hệ thống AI tương lai truy vấn đồ thị đó để lý luận chính xác hơn. Hệ thống trở nên ngày càng đáng tin cậy hơn khi phát triển. Đây là tầm nhìn lớn hơn đằng sau các lớp xác thực như Mira. Không chỉ sửa chữa các ảo tưởng. Mà còn xây dựng hạ tầng cho kiến thức đáng tin cậy thực sự. Nếu mỗi tuyên bố trong đồ thị kiến thức AI đều mang bằng chứng xác thực, thông tin không còn là văn bản phù du do mô hình tạo ra nữa. Nó trở thành kiến thức có cấu trúc, có thể kiểm tra và xác thực. Và khi kiến thức trở nên có thể xác thực, hệ thống AI ít đoán mò hơn. Chúng bắt đầu lý luận dựa trên điều gì đó gần với sự thật hơn. $MIRA @mira_network #Mira