套件概覽
AubAI 在 Flutter 應用中實現了設備端生成式 AI 功能，可在無需依賴外部伺服器的情況下實現離線文字生成及其他 AI 特性。專為隱私與效能設計，AubAI 可在多個平台上直接在使用者裝置上執行大型語言模型。適用於需要即時、安全且低延遲 AI 互動的應用場景，AubAI 支援 Android、iOS、macOS、Windows 與 Linux。開發者可輕鬆將進階 AI 功能整合至應用中，設定簡單。
適用情境
- 離線文字生成
- 注重隱私的AI應用
- 即時聊天介面
- 設備端語言處理
- 本地模型推理
主要特色
- 設備端大語言模型執行
- 對多個平台的支援
- 離線操作
- 最小伺服器依賴
- 安全的本地處理
適合對象
- 注重資料隱私的開發者
- 需要離線AI功能的應用
- 跨平台人工智慧整合
- 低延遲AI回應
- 以行動裝置為先的AI應用
使用建議
- 更高的設備資源使用率
- 僅限支援的型號
- 需要仔細的記憶體管理
- 模型大小影響應用包
- 需要平台特定的優化