https://github.com/google-ai-edge/gallery
使用 Google AI Edge 探索、体验和评估设备生成 AI 的未来。
Google AI Edge Gallery 是一款实验性应用,它将尖端生成式 AI 模型的强大功能直接交到您的手中,完全运行在您的 Android (现已推出) 和 iOS (即将推出) 设备上。您可以深入探索充满创意和实用性的 AI 用例,所有用例均可在本地运行,模型加载后无需网络连接。您可以尝试不同的模型、聊天、使用图像提问、探索提示等等!
✨ 核心功能
📱 本地运行,完全离线: 无需网络连接,即可体验 GenAI 的神奇之处。所有处理均直接在您的设备上进行。
🤖 选择您的模型: 轻松在 Hugging Face 的不同模型之间切换并比较它们的性能。
🖼️ 图像问答: 上传图片并提出相关问题。获取描述、解决问题或识别物体。
✍️ Prompt Lab: 总结、重写、生成代码或使用自由形式的提示来探索单转 LLM 用例。
💬 AI 聊天: 进行多轮对话。
📊 性能洞察: 实时基准(TTFT、解码速度、延迟)。
🧩 自带模型: 测试您当地的 LiteRT .task模型。
🔗 开发者资源: 模型卡和源代码的快速链接。
🛠️ 技术亮点
Google AI Edge: 设备上 ML 的核心 API 和工具。
LiteRT: 用于优化模型执行的轻量级运行时。
LLM 推理 API: 为设备上的大型语言模型提供支持。
Hugging Face Integration: 用于模型发现和下载。