ollama

Visão geral do pacote

Orientação gerada a partir de informações públicas. Apenas para referência.

O pacote ollama permite que aplicativos Dart interajam com a API Ollama, facilitando a integração com modelos de linguagem grandes locais (LLMs). Ele fornece uma interface simples para enviar prompts e receber respostas, ideal para desenvolvedores que constroem recursos baseados em IA em aplicativos multiplataforma. O pacote suporta todas as principais plataformas, incluindo Android, iOS, macOS, Windows e Linux, tornando-o adequado tanto para aplicativos móveis quanto desktop. Com configuração mínima via Flutter pub add, os desenvolvedores podem rapidamente prototipar ou implantar funcionalidades de IA gerativa usando modelos hospedados localmente.

Casos de uso

Integração de LLM local
Aplicativos de bate-papo com IA
Geração de texto em aplicativos
Ferramentas de conclusão de código
Prototipagem de pesquisa

Principais recursos

Suporte multiplataforma
Interface de API simples
Suporte para hospedagem de modelo local
Tratamento de resposta em tempo real
Integração fácil com o Flutter

Indicado para

Desenvolvedores Flutter
experimentadores de IA
usuários locais de LLM
construtores de aplicativos full-stack
Aplicativos focados na privacidade

Considerações

Requer servidor Ollama em execução localmente
Limitado a modelos compatíveis com Ollama
Configuração de rede necessária para acesso remoto
Sem gerenciamento de modelo embutido
Dependente da estabilidade da API do Ollama

README original

Snapshot do README original do repositório-fonte vinculado. Consulte o repositório para o conteúdo mais recente.

Ollama for Dart

A Dart client for interacting with the Ollama API. This library provides an easy-to-use interface for generating text completions, chat responses, and embeddings using Ollama inference engine.

Features

Generate text completions
Generate chat responses
Generate embeddings
Support for streaming responses
Customizable model parameters

Installation

Run the following command to install the package:

dart pub add ollama

Usage

Initializing the client

import 'package:ollama/ollama.dart';

final ollama = Ollama();
// Or with a custom base URL:
// final ollama = Ollama(baseUrl: Uri.parse('http://your-ollama-server:11434'));

Generating text completions

final stream = ollama.generate(
  'Tell me a joke about programming',
  model: 'llama3',
);

await for (final chunk in stream) {
  print(chunk.response);
}

Generating chat responses

final messages = [
  ChatMessage(role: 'user', content: 'Hello, how are you?'),
];

final stream = ollama.chat(
  messages,
  model: 'llama3',
);

await for (final chunk in stream) {
  print(chunk.message?.content);
}

Generating embeddings

final embeddings = await ollama.embeddings(
  'Here is an article about llamas...',
  model: 'llama3',
);

print(embeddings);

Contributing

Contributions are welcome! Please feel free to submit a Pull Request.

Buscar pacotes, repositórios e categorias de apps

Instalar pacote