插件概览
Vantura 是一个用于 Flutter 的有状态代理 AI 框架，可实现设备端大型语言模型（LLM）代理，具备 ReAct 推理循环、状态恢复功能以及对自定义工具的支持。它使开发者能够构建智能、交互式应用，这些应用能够自主推理、规划和行动，并在会话之间保持上下文。该框架专为注重隐私的离线 AI 体验而设计，可无缝集成到 Android、iOS、macOS、Windows 和 Linux 上的 Flutter 应用中。该框架支持复杂的代理协调，并提供强大的工具来扩展代理行为。
适合场景
- 设备端人工智能助手
- 自主任务规划
- 保护隐私的大型语言模型交互
- 多步骤推理应用
- 自定义工具集成
主要特点
- ReAct 循环实现
- 设备端大语言模型执行
- 状态持久化和恢复
- 自定义工具创建
- 跨平台支持
适合对象
- 开发离线AI代理的开发者
- 需要私有大语言模型处理的应用程序
- 复杂推理工作流
- 需要智能自动化的Flutter应用
使用建议
- 需要兼容的设备端LLM运行时
- 有状态代理的内存使用量更高
- 仅限支持的平台
- 需要精心设计工具以确保可靠性