插件概览
Ollama Dart 是一个 Dart 客户端，可实现与 Ollama API 的无缝集成，使开发者能够在多个平台上本地运行大型语言模型（LLMs）。它支持 GPT-OSS、DeepSeek-R1、Gemma 3 和 Llama 4 等热门模型，非常适合离线 AI 应用。该包通过简洁直观的 API 简化了与本地 LLM 的交互，适用于 Flutter 应用中的聊天界面、代码生成和内容创作。它可在 Android、iOS、Web、macOS、Windows 和 Linux 上运行。
适合场景
- 本地大模型推理
- 离线聊天应用
- 代码生成工具
- 内容摘要
- AI 驱动的移动应用
- 自定义模型部署
主要特点
- 支持多个本地大语言模型
- 跨平台兼容性
- 用于模型交互的简单 API
- 实时流式响应
- 轻量且易于集成
- 安全的本地执行
适合对象
- 开发离线AI应用的开发者
- 使用本地大语言模型的Flutter团队
- 需要数据隐私的应用程序
- 原型设计生成式AI功能
- 用户避开基于云的 API
使用建议
- 需要本地运行的 Ollama 服务器
- 模型大小影响设备存储
- 仅限支持的型号
- 无内置模型管理
- 不需要网络，但服务器必须处于活动状态
- 性能因设备硬件而异