Google AI Edge Gallery

Google AI Edge Gallery – 谷歌推出的AI应用，支持手机端离线运行AI模型

Google AI Edge Gallery 是一款由谷歌推出的创新实验性应用，旨在让用户在本地设备上体验和使用机器学习（ML）及生成式人工智能（GenAI）模型。该应用目前专为 Android 设备设计，无需网络连接即可运行，提供图像问答、文本生成、多轮对话等功能，并实时展示性能指标。它同时为开发者提供了丰富的资源和工具，助力探索设备端 AI 的强大潜力。

### Google AI Edge Gallery：开启设备端 AI 新纪元

Google AI Edge Gallery 是一个前沿的实验性应用，它引领用户进入设备端人工智能的崭新世界。这款应用的核心在于，让用户能够在本地设备上直接体验和使用强大的机器学习（ML）及生成式人工智能（GenAI）模型，无需依赖网络连接。用户可以切换不同的模型，进行诸如图像问答、文本创作、多轮对话等多种操作，并可以实时监控各项关键性能指标。此外，Google AI Edge Gallery 还为开发者提供了丰富的资源和工具，助力他们探索设备端 AI 的无限可能。

### 核心功能一览

离线畅玩：完全摆脱网络束缚，所有处理均在本地设备上完成。
模型随心换：轻松切换Hugging Face上的各种模型，比较不同模型的表现。
图像问答：上传图片，提出问题，获取详细描述、解决问题或识别物体。
提示词实验室：总结、改写、生成代码，或者使用形式的提示词探索单轮对话 LLM 的应用。
AI ：与 AI 进行多轮对话，体验智能交互的乐趣。
性能一目了然：实时查看基准测试结果，如首次响应时间、解码速度和延迟等。
自带模型测试：测试本地 LiteRT .task 模型。
开发者福利：快速链接到模型卡和源代码，方便开发者深入研究。

### 技术基石

Google AI Edge：作为设备端机器学习的核心框架，Google AI Edge 提供一系列 API 和工具，助力在移动设备上高效运行机器学习模型。
LiteRT：这是一个轻量级的运行时环境，专门用于优化模型的执行效率。它基于高效的内存管理和计算优化，确保模型在移动设备上快速运行，同时最大限度地减少对设备资源的占用。LiteRT 支持多种模型格式，包括 TensorFlow Lite 和 ONNX。
LLM 推理 API：支持设备端大型语言模型（LLM）推理的接口，让应用能够在本地设备上运行复杂的语言模型，如 GPT 或其他基于Transformer架构的模型，无需依赖云端服务。
Hugging Face 集成：无缝集成 Hugging Face 的模型库，用户可以轻松地发现和下载各种预训练模型。Hugging Face 提供了丰富的模型资源，涵盖从自然语言处理到计算机视觉等多个领域。通过集成，用户可以直接在 Gallery 中使用模型，无需手动下载和配置。

### 官方网站