概要
Flutter_Gemma は、Android、iOS、Web、デスクトッププラットフォーム上で Gemma およびその他の大規模言語モデル（LLM）をローカルで実行できる Flutter プラグインです。マルチモーダル入力（視覚と音声）、関数呼び出し、思考モード、GPUアクセラレーション、テキスト埋め込み、およびデバイス内での検索拡張生成（RAG）などの高度な機能をサポートしています。プライバシー重視のアプリケーション向けに設計されており、クラウドサービスに依存せずにデバイス上でモデルを完全に実行します。リアルタイム性、セキュリティ、オフライン対応を備えたAIアプリ開発に最適です。
用途
- オフラインAIチャットアプリケーション
- プライバシーを最優先とするコンテンツ生成
- マルチモーダルな画像および音声処理
- デバイス内RAGシステム
- アプリでのリアルタイム関数呼び出し
- モバイルおよびデスクトップ向けローカル LLM 推論
主な機能
- すべてのプラットフォームでローカルにLLMを実行します
- 視覚および音声のマルチモーダル入力をサポート
- パフォーマンス用のGPU加速
- 関数呼び出しと思考モード
- テキスト埋め込みとデバイス内RAG
- セキュアでプライバシーを守る推論
適している対象
- プライベートAIアプリを開発する開発者
- オフラインLLM機能を必要とするチーム
- 低遅延推論を必要とするアプリ
- データプライバシーに焦点を当てるプロジェクト
- クロスプラットフォームAIソリューション
注意事項
- 大規模モデルのメモリ使用量が高くなる
- 最適なパフォーマンスには互換性のあるハードウェアが必要です
- モデルのサイズはアプリバンドルサイズに影響します
- サポートされているモデルアーキテクチャに限定
- 初期設定には、プラットフォーム固有の構成が必要になる場合があります