v1.11.3
flutter_gemma
一个用于在 Android、iOS、Web 和桌面端本地运行 Gemma 及其他 LLM 的 Flutter 插件。支持多模态视觉、音频、函数调用、思考模式、GPU 加速、文本嵌入以及设备端 RAG。
436喜欢 5万近 30 天下载140Pub 分数
AndroidiOSWebmacOSWindowsLinux
Flutter 插件允许从 Flutter 应用程序在设备上本地运行 Gemma AI 模型。
一个用于在 Android、iOS、Web 和桌面端本地运行 Gemma 及其他 LLM 的 Flutter 插件。支持多模态视觉、音频、函数调用、思考模式、GPU 加速、文本嵌入以及设备端 RAG。
LiteRT-LM (.litertlm) 是用于 flutter_gemma 的本地推理引擎,通过 dart:ffi(5 个原生平台)+ web 实现。可选择性地使用 InferenceEngineProvider。同时提供 LiteRT C API 嵌入式后端(LiteRtEmbeddi [...]
^7.0.0