Buscar pacotes, repositórios e categorias de apps

Detalhes do pacotev1.4.1

onnxruntime

O plugin Flutter para OnnxRuntime fornece uma API Dart fácil, flexível e rápida para integrar modelos Onnx em aplicativos Flutter em plataformas móveis e de desktop.

AndroidiOSmacOSWindowsLinux
Downloads em 30 dias
19 mil
Curtidas
73
Pontos Pub
150

Instalar pacote

flutter pub add onnxruntime

Visão geral do pacote

Orientação gerada a partir de informações públicas. Apenas para referência.

O plugin onnxruntime para Flutter permite a integração sem problemas de modelos ONNX (Open Neural Network Exchange) em aplicativos Flutter para Android, iOS, macOS, Windows e Linux. Ele oferece uma API Dart rápida, flexível e fácil de usar para executar inferência de aprendizado de máquina diretamente nos aplicativos. Ideal para implantar modelos pré-treinados com pouco overhead, suporta uma ampla gama de tarefas de ML, incluindo reconhecimento de imagens, detecção de objetos e processamento de linguagem natural. O plugin aproveita o desempenho do motor ONNX Runtime subjacente, mantendo compatibilidade entre plataformas.

Casos de uso

  • Classificação de imagem
  • Detecção de objetos
  • processamento de linguagem natural
  • Inferência em tempo real em aplicativos móveis
  • Aplicações de ML para desktop

Principais recursos

  • Suporte multiplataforma
  • inferência de alto desempenho
  • API simples do Dart
  • Compatibilidade de modelo ONNX
  • Integração leve

Indicado para

  • Desenvolvedores construindo aplicativos Flutter com inteligência artificial
  • Equipes usando modelos ONNX
  • Aplicações que exigem inferência em tempo real
  • Implantação de ML para dispositivos móveis e desktop
  • Projetos que precisam de ML independente de plataforma

Considerações

  • Requer conversão de modelo ONNX
  • Limitado a modelos compatíveis com ONNX
  • O tamanho do modelo afeta o pacote do aplicativo
  • Sem treinamento de modelo embutido
  • dependências de tempo de execução específicas da plataforma

README original

Snapshot do README original do repositório-fonte vinculado. Consulte o repositório para o conteúdo mais recente.

OnnxRuntime Plugin

pub package

Overview

Flutter plugin for OnnxRuntime via dart:ffi provides an easy, flexible, and fast Dart API to integrate Onnx models in flutter apps across mobile and desktop platforms.

Platform Android iOS Linux macOS Windows
Compatibility API level 21+ * * * *
Architecture arm32/arm64 * * * *

*: Consistent with Flutter

Key Features

  • Multi-platform Support for Android, iOS, Linux, macOS, Windows, and Web(Coming soon).
  • Flexibility to use any Onnx Model.
  • Acceleration using multi-threading.
  • Similar structure as OnnxRuntime Java and C# API.
  • Inference speed is not slower than native Android/iOS Apps built using the Java/Objective-C API.
  • Run inference in different isolates to prevent jank in UI thread.

Getting Started

In your flutter project add the dependency:

dependencies:
  ...
  onnxruntime: x.y.z

Usage example

Import
import 'package:onnxruntime/onnxruntime.dart';
Initializing environment
OrtEnv.instance.init();
Creating the Session
final sessionOptions = OrtSessionOptions();
const assetFileName = 'assets/models/test.onnx';
final rawAssetFile = await rootBundle.load(assetFileName);
final bytes = rawAssetFile.buffer.asUint8List();
final session = OrtSession.fromBuffer(bytes, sessionOptions!);
Performing inference
final shape = [1, 2, 3];
final inputOrt = OrtValueTensor.createTensorWithDataList(data, shape);
final inputs = {'input': inputOrt};
final runOptions = OrtRunOptions();
final outputs = await _session?.runAsync(runOptions, inputs);
inputOrt.release();
runOptions.release();
outputs?.forEach((element) {
  element?.release();
});
Releasing environment
OrtEnv.instance.release();

Categorias

Dependências

Lista de dependências 1 itens

Repositório-fonte

Projetos que usam este pacote

Ainda não há dados.