套件概覽
一個 Flutter 外掛,使用輕量級本地運行的模型(受 EmbeddingGemma 啟發)在裝置上產生文字嵌入。專為語意搜尋與相似性任務設計,無需依賴外部 API。此套件可在 Android、iOS 與 Web 平台完全執行,確保隱私性與低延遲。讓開發者能在應用程式內直接處理與比較文字嵌入,非常適合需要即時離線 AI 功能的應用。
適用情境
- 離線語義搜尋
- 文字相似度比較
- 私人資料處理
- 本地AI推理
- 內容推薦系統
主要特色
- On-device inference
- Lightweight model integration
- Cross-platform support (Android, iOS, Web)
- Privacy-preserving
- Low-latency embeddings
適合對象
- 需要離線AI功能的應用程式
- 注重用戶隱私的開發者
- 語義搜尋實現
- 以行動裝置為先的生成式人工智慧專案
- 教育或原型設計工具
使用建議
- 移動設備上的更高記憶體使用量
- 與雲模型相比,模型大小有限
- 需要具備足夠計算資源的設備
- 模型資產的初始下載大小
- 效能因舊硬體而異