套件概覽
一個輕量級的 Flutter 插件，提供 ONNX Runtime 的原生綁定，可在 Android、iOS、Web、macOS、Windows 和 Linux 上高效推理機器學習模型。它允許開發者在 Flutter 應用中直接運行 ONNX 兼容模型，支援本機設備上的 AI 處理，無需依賴雲服務。此插件設計為低延遲、高效率的推理，開銷極小，非常適合即時應用，如影像辨識、自然語言處理和生成式 AI 任務。它可順暢整合至現有的 Flutter 工作流程中，支援模型載入、張量操作與執行。
適用情境
- 設備端AI推理
- 即時影像和語音處理
- 行動應用程式中的大語言模型與生成式人工智慧
- 跨平台模型部署
- 離線機器學習應用
主要特色
- 支援多個平台
- 輕量級原生包裝
- ONNX 模型執行
- 張量輸入/輸出處理
- 低延遲推理
適合對象
- 行動和桌面AI應用
- 使用 ONNX 模型的開發人員
- 需要離線AI功能的應用程式
- 對性能敏感的應用程式
- 跨平台機器學習整合
使用建議
- 需要相容 ONNX 的模型
- 可能需要特定於平台的設定
- 僅限 ONNX Runtime 功能
- 模型大小影響應用包
- 無內建模型訓練支援