Google AI Edge Gallery：端侧生成式 AI 体验馆

项目简介

Google AI Edge Gallery 是 Google AI Edge 团队推出的端侧生成式 AI 体验应用。它把开源大语言模型直接跑在用户自己的设备上，推理全程离线，不需要联网，提示词、图片和敏感数据都留在本地。应用当前为实验性 Beta 版本，支持 Android 12 及以上、iOS 17 及以上，另提供 macOS 安装包。

最新版本加入了对 EmbeddingGemma 2 模型的官方支持，带来 100% 在设备上运行的多模态语义搜索能力，可在 Instant Media Search 和 Video Moment Finder 中体验。

主要功能

• Agent Skills：为模型接入 Wikipedia 事实查证、交互地图、可视化摘要卡片等工具，也支持从 URL 加载模块化技能。
• AI Chat with ASR & TTS：用设备端语音识别输入，用语音朗读回复，可自选识别与合成引擎、音色和语言。
• XR Language Teacher：用摄像头对准身边物体，通过图像、语音或文字提问，AI 老师用目标语言回答并朗读，还能把关键词做成单词卡保存复习；支持手机与兼容的 Android XR 眼镜。
• Instant Media Search：对相册或内置示例媒体进行边输入边搜索的自然语言检索，以及以图搜图的相似度匹配。
• Video Moment Finder：用自然语言描述定位视频中的具体片段，在时间轴上跳转、裁剪并导出。
• Ask Image：借助摄像头或相册识别物体、解答视觉谜题、生成详细描述。
• Audio Scribe：实时把语音录音转写并翻译成文本。
• Prompt Lab：单轮对话的提示词实验台，可细致调节 temperature、top-k 等模型参数。
• Mobile Actions / Tiny Garden：基于 FunctionGemma 270m 微调的离线设备控制，以及用自然语言种菜收菜的小游戏。
• 模型管理与基准测试：从列表下载模型或加载自定义模型，管理模型库，并在本机跑基准测试查看实际性能。

安装与使用

1. 确认系统版本：Android 12 及以上，或 iOS 17 及以上。
2. 从 Google Play 或 App Store 安装；无法访问 Google Play 的用户可从 latest release 下载 apk 安装。
3. macOS 用户可下载 dmg 安装包。

更详细的安装说明（含企业设备场景）和完整用户指南见 Project Wiki。开发者可参考 DEVELOPMENT.md 在本地构建应用。

技术栈方面，应用基于 Google AI Edge 的端侧 ML API、轻量运行时 LiteRT，并集成 Hugging Face 用于模型发现与下载。

注意事项

• 这是实验性 Beta 版本，问题和建议可通过 GitHub Issues 反馈。
• 模型推理完全在本地硬件执行，实际速度与可用模型取决于设备性能与存储空间。
• 项目采用 Apache-2.0 许可证。

本作品整理自 GitHub 开源项目 google-ai-edge/gallery，原作者 @google-ai-edge，许可证 Apache-2.0。中文介绍由 AI 根据项目 README 整理，以原仓库为准。