google-ai-edge/gallery

解决的问题

Google AI Edge Gallery 是一款旨在将高性能、开源的大型语言模型（LLM）和多模态 AI 直接带到移动设备和 macOS 的应用程序。它消除了对云端 AI 的需求，让用户可以完全离线运行模型，以提高隐私、速度和可及性。

运作方式

此应用程序利用 Google AI Edge API 和 LiteRT 运行时来优化设备端执行。它与 Hugging Face 集成，用于模型发现和下载，让用户可以加载各种开源模型或自己的自定义模型。

适用对象

想要在 Android、iOS 和 macOS 上体验、评估和测试设备端生成式 AI 功能的开发人员和 AI 爱好者。

重点特色

• Agent Skills：为 LLM 添加维基百科和交互式地图等工具，使其成为主动式助手。
• AI Chat with Thinking Mode：支持多轮对话，并为 Gemma 4 等受支持的模型提供推理过程视图。
• Instant Media Search & Video Moment Finder：使用 EmbeddingGemma 2 进行照片和视频的设备端语义搜索。
• Ask Image：多模态功能，可通过相机或相册识别物体并解决视觉谜题。
• Audio Scribe：实时设备端语音录音转录和翻译。
• Prompt Lab：一个用于测试提示的工作区，可精细控制温度（temperature）和 top-k 等参数。
• Mobile Actions & Tiny Garden：演示使用 FunctionGemma 270m 进行离线设备控制和自动化任务。
• Model Management & Benchmark：用于下载、管理以及在特定硬件上运行性能基准测试的工具。