套件概覽
Ollama Dart 是一個 Dart 客戶端，可實現與 Ollama API 的無縫整合，讓開發者能在多個平台本地運行大型語言模型（LLMs）。它支援 GPT-OSS、DeepSeek-R1、Gemma 3 和 Llama 4 等熱門模型，非常適合離線 AI 應用。該套件透過乾淨直覺的 API 簡化與本地 LLM 的互動，適用於 Flutter 應用中的聊天介面、程式碼產生和內容創作。它可在 Android、iOS、Web、macOS、Windows 和 Linux 上運作。
適用情境
- 本地大模型推理
- 離線聊天應用
- 程式碼產生工具
- 內容摘要
- AI 驅動的移動應用
- 自定義模型部署
主要特色
- 支援多個本機大語言模型
- 跨平台相容性
- 用於模型互動的簡單 API
- 即時串流回應
- 輕量且易於整合
- 安全的本地執行
適合對象
- 開發離線AI應用的開發者
- 使用本地大語言模型的Flutter團隊
- 需要資料隱私的應用程式
- 原型設計生成式AI功能
- 使用者避開基於雲端的 API
使用建議
- 需要本地運行的 Ollama 伺服器
- 模型大小影響設備儲存
- 僅限支援的型號
- 無內建模型管理
- 不需要網路，但伺服器必須處於活躍狀態
- 性能因設備硬體而異