v1.11.3
flutter_gemma
一個用於在 Android、iOS、Web 和桌面端本地執行 GEMMA 及其他 LLM 的 Flutter 插件。支援多模式視覺、音訊、函數呼叫、思考模式、GPU 加速、文字嵌入以及裝置端 RAG。
436喜歡 5萬近 30 天下載140Pub 分數
AndroidiOSWebmacOSWindowsLinux
Flutter 插件允許從 Flutter 應用程式在裝置上本機執行 Gemma AI 模型。
一個用於在 Android、iOS、Web 和桌面端本地執行 GEMMA 及其他 LLM 的 Flutter 插件。支援多模式視覺、音訊、函數呼叫、思考模式、GPU 加速、文字嵌入以及裝置端 RAG。
LiteRT-LM (.litertlm) 是用於 flutter_gemma 的裝置端推論引擎,透過 dart:ffi(5 個原生平台)+ web 實作。可選擇性使用 InferenceEngineProvider。同時提供 LiteRT C API 嵌入式後端(LiteRtEmbeddi [...]
^7.0.0