Google AI Edge Gallery

Google AI Edge Gallery – 谷歌推出的AI应用，支持手机端离线运行AI模型

Google AI Edge Gallery 是一款由谷歌推出的创新实验性应用，旨在让用户在本地设备上体验和使用机器学习（ML）及生成式人工智能（GenAI）模型。该应用目前专为 Android 设备设计，无需网络连接即可运行，提供图像问答、文本生成、多轮对话等功能，并实时展示性能指标。它同时为开发者提供了丰富的资源和工具，助力探索设备端 AI 的强大潜力。

### Google AI Edge Gallery：开启设备端 AI 新纪元

Google AI Edge Gallery 是一个前沿的实验性应用，它引领用户进入设备端人工智能的崭新世界。这款应用的核心在于，让用户能够在本地设备上直接体验和使用强大的机器学习（ML）及生成式人工智能（GenAI）模型，无需依赖网络连接。 用户可以切换不同的模型，进行诸如图像问答、文本创作、多轮对话等多种操作，并可以实时监控各项关键性能指标。 此外，Google AI Edge Gallery 还为开发者提供了丰富的资源和工具，助力他们探索设备端 AI 的无限可能。

### 核心功能一览

• 离线畅玩：完全摆脱网络束缚，所有处理均在本地设备上完成。
• 模型随心换：轻松切换Hugging Face上的各种模型，比较不同模型的表现。
• 图像问答：上传图片，提出问题，获取详细描述、解决问题或识别物体。
• 提示词实验室：总结、改写、生成代码，或者使用形式的提示词探索单轮对话 LLM 的应用。
• AI ：与 AI 进行多轮对话，体验智能交互的乐趣。
• 性能一目了然：实时查看基准测试结果，如首次响应时间、解码速度和延迟等。
• 自带模型测试：测试本地 LiteRT .task 模型。
• 开发者福利：快速链接到模型卡和源代码，方便开发者深入研究。

### 技术基石

• Google AI Edge：作为设备端机器学习的核心框架，Google AI Edge 提供一系列 API 和工具，助力在移动设备上高效运行机器学习模型。
• LiteRT：这是一个轻量级的运行时环境，专门用于优化模型的执行效率。它基于高效的内存管理和计算优化，确保模型在移动设备上快速运行，同时最大限度地减少对设备资源的占用。LiteRT 支持多种模型格式，包括 TensorFlow Lite 和 ONNX。
• LLM 推理 API：支持设备端大型语言模型（LLM）推理的接口，让应用能够在本地设备上运行复杂的语言模型，如 GPT 或其他基于Transformer架构的模型，无需依赖云端服务。
• Hugging Face 集成：无缝集成 Hugging Face 的模型库，用户可以轻松地发现和下载各种预训练模型。Hugging Face 提供了丰富的模型资源，涵盖从自然语言处理到计算机视觉等多个领域。通过集成，用户可以直接在 Gallery 中使用模型，无需手动下载和配置。

### 官方网站

• 项目地址：https://github.com/google-ai-edge/gallery

### 应用场景大揭秘

• 个人娱乐与创作：用户可以上传图片进行问答、生成创意文本，或与 AI 进行多轮对话，满足娱乐和创作需求。
• 教育与学习：作为语言学习、科学实验辅助和编程教育工具，提升学习效果。
• 专业开发与研究：开发者可以测试和优化模型，快速搭建原型，并比较不同模型的性能，从而加速开发流程。
• 企业与商业：企业可以开发本地化的客户支持工具，技术人员在无网环境下也能解决问题，同时保障数据隐私。
• 日常生活：辅助旅行规划、控制智能家居和获取健康建议，提升生活便利性。

### 常见问题解答

* **Google AI Edge Gallery 可以在哪些设备上使用？**

目前，Google AI Edge Gallery 仅支持 Android 设备。
* **使用 Google AI Edge Gallery 需要联网吗？**

不需要，所有功能都可以在离线状态下使用。
* **我可以在 Google AI Edge Gallery 中使用哪些模型？**

您可以使用Hugging Face 提供的各种模型，以及应用自带的 LiteRT .task 模型。
* **Google AI Edge Gallery 的数据隐私如何保障？**

由于所有处理都在本地设备上进行，您的数据隐私得到了更好的保护。
* **如何获取更多关于 Google AI Edge Gallery 的信息？**

您可以访问 GitHub 仓库，获取更多详细信息。