套件概覽
Vantura 是一個用於 Flutter 的狀態感知代理 AI 架構，可實現設備端大型語言模型（LLM）代理，具備 ReAct 推理循環、狀態恢復功能以及對自訂工具的支援。它讓開發者能夠建立智慧、互動式應用程式，這些應用程式能自主推理、規劃與行動，並在會話之間維持上下文。此架構專為注重隱私的離線 AI 經驗設計，可無縫整合至 Android、iOS、macOS、Windows 與 Linux 上的 Flutter 應用。該框架支援複雜的代理協調，並提供強大的工具來擴展代理行為。
適用情境
- 設備端人工智慧助理
- 自主任務規劃
- 保護隱私的大規模語言模型互動
- 多步驟推理應用
- 自定義工具整合
主要特色
- ReAct 迴圈實作
- 設備端大語言模型執行
- 狀態持久化和恢復
- 自定義工具建立
- 跨平台支援
適合對象
- 開發離線AI代理的開發者
- 需要私有大語言模型處理的應用程式
- 複雜推理工作流
- 需要智能自動化的Flutter應用
使用建議
- 需要相容的裝置端LLM執行時
- 有狀態代理的記憶體使用量更高
- 僅限支援的平台
- 需要精心設計工具以確保可靠性