TRÍ TUỆ NHÂN TẠO | Trình duyệt Opera tích hợp các mô hình AI lớn để tải về và sử dụng ngoại tuyến

Công ty trình duyệt hàng đầu, Opera, cho biết họ đang thêm hỗ trợ thử nghiệm cho 150 LLM địa phương (Large Language Model) từ khoảng 50 gia đình mô hình vào trình duyệt Opera One của mình trong dòng phát triển.

Các LLM như GPT ( mô hình Generative Pre-trained Transformer) được phát triển bởi OpenAI, là các hệ thống trí tuệ nhân tạo tiên tiến được đào tạo trên một lượng lớn dữ liệu văn bản để hiểu và tạo ra văn bản giống như con người. Chúng được sử dụng cho nhiều nhiệm vụ xử lý ngôn ngữ tự nhiên khác nhau, bao gồm tạo văn bản, dịch thuật và tóm tắt.

Theo Opera, đây là lần đầu tiên các LLM địa phương có thể được truy cập và quản lý dễ dàng từ một trình duyệt lớn thông qua một tính năng tích hợp. Các mô hình AI địa phương là một bổ sung miễn phí cho dịch vụ Aria AI trực tuyến của Opera. Trong số các LLM địa phương được hỗ trợ có:

* Llama từ Meta

• Vicuna
• Gemma từ Google
• Mixtral từ Mistral AI

“Giới thiệu LLM địa phương theo cách này cho phép Opera bắt đầu khám phá các phương thức xây dựng trải nghiệm và kiến thức trong không gian AI địa phương đang phát triển nhanh chóng,” ông Krystian Kolondra, Phó Chủ tịch điều hành Các trình duyệt và Game tại Opera cho biết.

Sử dụng Mô hình Ngôn ngữ Lớn Địa phương có nghĩa là dữ liệu của người dùng được giữ lại trên thiết bị của họ, cho phép họ sử dụng AI sinh sinh mà không cần gửi thông tin đến máy chủ, Opera cho biết.

Trong số các vấn đề nổi lên trong cuộc thảo luận về trí tuệ nhân tạo có liên quan đến quyền riêng tư dữ liệu, điều này đã thấy ba dự án AI phi tập trung hàng đầu; Fetch.ai, SingularityNET (SNET), và Ocean Protocol quyết định hợp nhất để tạo ra một hệ sinh thái AI phi tập trung.

“Tính đến hôm nay, người dùng Opera One Developer đang có cơ hội lựa chọn mô hình mà họ muốn sử dụng để xử lý đầu vào của mình. Để thử nghiệm các mô hình, họ phải nâng cấp lên phiên bản mới nhất của Opera Developer và làm theo một số bước để kích hoạt tính năng mới,” Opera cho biết.

“Chọn một LLM cục bộ sẽ tải xuống máy tính của họ. LLM cục bộ, thường yêu cầu 2-10 GB dung lượng lưu trữ cục bộ cho mỗi biến thể, sẽ được sử dụng thay vì Aria, AI trình duyệt bản địa của Opera, cho đến khi người dùng bắt đầu một cuộc trò chuyện mới với AI hoặc chuyển Aria trở lại.”

Theo dõi chúng tôi trên Twitter để cập nhật bài viết và tin tức mới nhất