谷歌推出 AI Edge Gallery 应用程序，AI 完全离线运行在手机上

谷歌于5月31日悄然发行了AI Edge Gallery，这是一个直接在智能手机上运行的AI应用，无需互联网或与大型科技公司的服务器共享数据。

• 开源应用程序 (Apache 2.0) 目前已在 GitHub 上发布，首先支持 Android，iOS 即将推出。
• 完全离线运行AI模型，如Gemma 3n，从图像分析到编写代码仅使用手机硬件。
• 主要功能包括：AI 聊天 (聊天)，Ask Image (分析图像)，Prompt Lab (单项任务，如重写文本)。
• 用户可以从 Hugging Face 下载模型，但格式限制为 .task，尚未支持像竞争对手那样多。
• 性能：小模型运行快速流畅 (~20 token/秒 CPU，超过 100 token/秒 GPU)，表现良好，类似于早期的 GPT-3.5。
• 主要优点：无需网络，安全性高，适合需要保持数据隐私的用户，如医生、记者。
• 限制：大内存 (大约 4.4 GB)，上下文窗口限制 4096 个 token，模型多样性不足，GPU 有时准确性低于 CPU。
• 不需要像中心化服务那样担心严格的审查，可以使用简单的越狱。
• 节省成本，因为没有云费用，只使用手机资源。

总之，这款应用适合需要AI安全保护、不联网或离线测试AI模型的人，尽管速度和体验尚无法与现代云AI服务相提并论。