插件概览
一个 Flutter 插件,使用轻量级本地运行的模型(受 EmbeddingGemma 启发)在设备上生成文本嵌入。专为语义搜索和相似性任务设计,无需依赖外部 API。该包可在 Android、iOS 和 Web 平台上完全运行,确保隐私性和低延迟。它允许开发者在应用内直接处理和比较文本嵌入,非常适合需要实时离线 AI 功能的应用程序。
适合场景
- 离线语义搜索
- 文本相似度比较
- 私有数据处理
- 本地AI推理
- 内容推荐系统
主要特点
- On-device inference
- Lightweight model integration
- Cross-platform support (Android, iOS, Web)
- Privacy-preserving
- Low-latency embeddings
适合对象
- 需要离线AI功能的应用程序
- 注重用户隐私的开发者
- 语义搜索实现
- 以移动设备为先的生成式人工智能项目
- 教育或原型设计工具
使用建议
- 移动设备上更高的内存使用量
- 与云模型相比,模型大小有限
- 需要具备足够计算资源的设备
- 模型资产的初始下载大小
- 性能在较旧的硬件上有所不同