人工智慧 | Opera 瀏覽器整合主要 AI 模型以供本地下載和離線使用

領先的瀏覽器公司Opera表示，正在其Opera One瀏覽器的開發者版本中，加入對150個本地大型語言模型（Large Language Model，(LLM)）變體的實驗性支援，這些模型來自約50個模型家族。

由OpenAI開發的GPT（Generative Pre-trained Transformer）模型等LLMs，是經過大量文本數據訓練的先進人工智慧系統，旨在理解並生成類似人類的文本。它們被用於各種自然語言處理任務，包括文本生成、翻譯和摘要。

根據Opera的說法，這是首次可以通過內建功能，輕鬆在主要瀏覽器中存取和管理本地LLMs。本地AI模型是Opera線上Aria AI服務的補充。支援的本地LLMs包括：

• Meta的Llama
• Vicuna
• Google的Gemma
• Mistral AI的Mixtral

「以這種方式引入本地LLMs，讓Opera能開始探索在快速崛起的本地AI領域中建立體驗和知識的方法，」 Opera的瀏覽器與遊戲事業副總裁Krystian Kolondra表示。

Opera表示，使用本地大型語言模型意味著用戶的數據將在本地設備上保存，讓他們可以在不需將資訊傳送到伺服器的情況下，使用生成式AI。

在人工智慧討論中，數據隱私問題逐漸浮現，並促使三個領先的去中心化AI專案——Fetch.ai、SingularityNET（(SNET)）和Ocean Protocol，決定合併，建立一個去中心化的AI生態系統。

「截至目前，Opera One開發者用戶可以選擇他們想用來處理輸入的模型。要測試這些模型，他們必須升級到最新版本的Opera Developer，並按照幾個步驟啟用新功能，」 Opera表示。

「選擇本地LLM後，模型將下載到他們的機器上。每個變體通常需要2到10 GB的本地存儲空間，然後將用於取代Aria，也就是Opera的原生瀏覽器AI，直到用戶開始新的對話或切換回Aria，」 Opera補充說。

關注我們的Twitter，獲取最新貼文與更新