TRÍ TUỆ NHÂN TẠO | Trình duyệt Opera tích hợp các mô hình AI lớn để tải về cục bộ và sử dụng ngoại tuyến

Công ty trình duyệt hàng đầu, Opera, cho biết họ đang thêm hỗ trợ thử nghiệm cho 150 LLM địa phương (Large Language Model) từ khoảng 50 gia đình mô hình vào trình duyệt Opera One trong dòng phát triển.

Các LLM như GPT (Mô hình Biến thể Được huấn luyện trước sinh ) được phát triển bởi OpenAI, là các hệ thống trí tuệ nhân tạo tiên tiến được đào tạo trên một lượng lớn dữ liệu văn bản để hiểu và tạo ra văn bản giống như con người. Chúng được sử dụng cho nhiều nhiệm vụ xử lý ngôn ngữ tự nhiên khác nhau, bao gồm tạo văn bản, dịch thuật và tóm tắt.

Theo Opera, đây là lần đầu tiên các LLM địa phương có thể dễ dàng truy cập và quản lý từ một trình duyệt lớn thông qua một tính năng tích hợp sẵn. Các mô hình AI địa phương là một bổ sung miễn phí cho dịch vụ Aria AI trực tuyến của Opera. Trong số các LLM địa phương được hỗ trợ có:

* Llama từ Meta

• Vicuna
• Gemma từ Google
• Mixtral từ Mistral AI

“Giới thiệu LLM địa phương theo cách này cho phép Opera bắt đầu khám phá các cách xây dựng trải nghiệm và hiểu biết trong không gian AI địa phương đang phát triển nhanh chóng,” ông Krystian Kolondra, Phó Chủ tịch điều hành về Trình duyệt và Trò chơi tại Opera cho biết.

Việc sử dụng Các Mô Hình Ngôn Ngữ Lớn Địa Phương có nghĩa là dữ liệu của người dùng được giữ cục bộ trên thiết bị của họ, cho phép họ sử dụng AI tạo sinh mà không cần gửi thông tin đến máy chủ, Opera cho biết.

Trong số các vấn đề xuất hiện trong cuộc thảo luận về trí tuệ nhân tạo có liên quan đến quyền riêng tư dữ liệu, điều này đã khiến ba dự án AI phi tập trung hàng đầu; Fetch.ai, SingularityNET (SNET), và Ocean Protocol quyết định hợp nhất để tạo ra một hệ sinh thái AI phi tập trung.

“Tính đến hôm nay, người dùng Opera One Developer đang có cơ hội lựa chọn mô hình mà họ muốn xử lý đầu vào của mình. Để thử nghiệm các mô hình, họ phải nâng cấp lên phiên bản mới nhất của Opera Developer và thực hiện một số bước để kích hoạt tính năng mới,” Opera cho biết.

“Chọn một LLM địa phương sẽ tải nó về máy của họ. LLM địa phương, thường yêu cầu 2-10 GB không gian lưu trữ cục bộ cho mỗi biến thể, sẽ được sử dụng thay cho Aria, AI trình duyệt gốc của Opera, cho đến khi người dùng bắt đầu một cuộc trò chuyện mới với AI hoặc bật lại Aria.”

Theo dõi chúng tôi trên Twitter để nhận bài viết và cập nhật mới nhất