ollama

Paketübersicht

Aus öffentlichen Paketdaten erstellte Orientierung.

Das ollama-Paket ermöglicht Dart-Anwendungen die Interaktion mit der Ollama-API und erleichtert die Integration lokaler großer Sprachmodelle (LLMs). Es bietet eine einfache Schnittstelle zum Senden von Prompts und Empfangen von Antworten, ideal für Entwickler, die KI-basierte Funktionen in plattformübergreifenden Anwendungen erstellen. Das Paket unterstützt alle wichtigen Plattformen, einschließlich Android, iOS, macOS, Windows und Linux, und ist somit sowohl für mobile als auch für Desktop-Anwendungen geeignet. Mit minimalem Setup über Flutter pub add können Entwickler generative KI-Funktionen schnell prototypisch erstellen oder bereitstellen, indem sie lokal gehostete Modelle nutzen.

Anwendungsfälle

Lokale LLM-Integration
KI-Chats-Anwendungen
Textgenerierung in Apps
Code-Vervollständigungswerkzeuge
Forschungsprototypen

Hauptmerkmale

Plattformübergreifende Unterstützung
Einfache API-Schnittstelle
Unterstützt lokale Modellhosting
Echtzeit-Antwortverarbeitung
Einfache Flutter-Integration

Geeignet für

Flutter-Entwickler
KI-Experimentierer
lokale LLM-Nutzer
Full-Stack-App-Bauer
Datenschutzorientierte Anwendungen

Hinweise

Benötigt einen lokal laufenden Ollama-Server
Beschränkt auf Ollama-kompatible Modelle
Netzwerkkonfiguration für den Remote-Zugriff erforderlich
Kein integrierter Modell-Management
Abhängig von der Stabilität der Ollama-API

Original-README

Originaler README-Schnappschuss aus dem verknüpften Quell-Repository. Aktuelle Inhalte finden Sie im Repository.

Ollama for Dart

A Dart client for interacting with the Ollama API. This library provides an easy-to-use interface for generating text completions, chat responses, and embeddings using Ollama inference engine.

Features

Generate text completions
Generate chat responses
Generate embeddings
Support for streaming responses
Customizable model parameters

Installation

Run the following command to install the package:

dart pub add ollama

Usage

Initializing the client

import 'package:ollama/ollama.dart';

final ollama = Ollama();
// Or with a custom base URL:
// final ollama = Ollama(baseUrl: Uri.parse('http://your-ollama-server:11434'));

Generating text completions

final stream = ollama.generate(
  'Tell me a joke about programming',
  model: 'llama3',
);

await for (final chunk in stream) {
  print(chunk.response);
}

Generating chat responses

final messages = [
  ChatMessage(role: 'user', content: 'Hello, how are you?'),
];

final stream = ollama.chat(
  messages,
  model: 'llama3',
);

await for (final chunk in stream) {
  print(chunk.message?.content);
}

Generating embeddings

final embeddings = await ollama.embeddings(
  'Here is an article about llamas...',
  model: 'llama3',
);

print(embeddings);

Contributing

Contributions are welcome! Please feel free to submit a Pull Request.

Pakete, Repositories und App-Kategorien suchen

Paket installieren