Pakete, Repositories und App-Kategorien suchen

Paketdetailsv0.1.4

web_scraper

Ein einfacher Web-Scraper, um HTML-Tags und ihre Attribute zu extrahieren und sie in Listen und Maps für Dart und Flutter zu konvertieren.

AndroidiOSWebmacOSWindowsLinux
30-Tage-Downloads
1080
Likes
295
Pub-Punkte
140

Paket installieren

flutter pub add web_scraper

Paketübersicht

Aus öffentlichen Paketdaten erstellte Orientierung.

Ein leichtgewichtiges Flutter/Dart-Paket zum Extrahieren von HTML-Inhalten durch Scraping von Tags und deren Attributen und deren Umwandlung in strukturierte Dart-Listen und Maps. Ideal für die Analyse statischer Webseiten oder das Abrufen von Daten aus HTML-Quellen ohne vollständige DOM-Manipulation. Unterstützt mehrere Plattformen wie Mobile, Web und Desktop und ist somit vielseitig für plattformübergreifende Anwendungen geeignet, die strukturierte Daten aus HTML-Antworten extrahieren müssen.

Anwendungsfälle

  • Daten aus statischen Webseiten extrahieren
  • HTML-Tabellen und Listen analysieren
  • Metadaten aus Webinhalten extrahieren
  • Lokale Daten aus HTML-Quellen befüllen
  • Einfache Web-Crawler erstellen

Hauptmerkmale

  • Einfache API für die Extraktion von HTML-Tags
  • Unterstützt die Abfrage von Attributen und Textinhalten
  • Konvertiert gescrapte Daten in Dart-Listen und Maps
  • Plattformübergreifende Kompatibilität
  • Leicht und einfach zu integrieren

Geeignet für

  • Entwickler, die Datenabruf-Apps erstellen
  • Projekte, die HTML-Parsing ohne schwere Frameworks benötigen
  • Prototyping von Web-Scraping-Funktionen
  • Apps, die minimale serverseitige Verarbeitung erfordern

Hinweise

  • Nicht geeignet für dynamische, durch JavaScript gerenderte Inhalte
  • Benötigt gültige HTML-Eingabe
  • Kann fehlerhaftes HTML möglicherweise nicht elegant behandeln
  • Beschränkt auf das Scraping statischer Seiten
  • Abhängig von der Zuverlässigkeit der externen HTML-Quelle

Original-README

Originaler README-Schnappschuss aus dem verknüpften Quell-Repository. Aktuelle Inhalte finden Sie im Repository.

Pub

A Simple Web Scraper for Dart & Flutter

A very basic web scraper implementation to scrap html elements from a web page.

Pull requests are most welcome.

Getting Started

In your pubspec.yaml root add:

dependencies:
  web_scraper:

then,

import 'package:web_scraper/web_scraper.dart';

Note that as of version 0.0.6, the project supports not only Flutter projects, but also Dart projects.

Implementation

    final webScraper = WebScraper('https://webscraper.io');
    if (await webScraper.loadWebPage('/test-sites/e-commerce/allinone')) {
      List<Map<String, dynamic>> elements = webScraper.getElement('div.thumbnail > div.caption', ['h4']);
      print(elements);
    }

Checkout web_scraper_test.dart file to have closer look on all functionalities.

Methods

Method Description Arguments Return Type
loadWebPage Loads the webpage into response object and then parse it into the document object String route Future <bool>
loadFromURL Loads the webpage from provided URL into response object and then parse it into the document object String page Future <bool>
loadFromString Loads the webpage from a String (usually stored by the getPageContent method) into response object and then parse it into the document object. This operation is completely synchronous and exists as a helper method to perform compute() flutter operations and avoid jank String responseBodyAsString Future <bool>
getPageContent Returns webpage's html in string format Void String body
getElement Returns List of elements found at specified address String address, List <String> attributes List <Map<String, dynamic>>
getElementTitle Returns List of element titles found at specified address String address List <String>
getElementAttribute Returns List of elements single attribute found at specified address (if you wish to get multiple attributes at once, please use getElement instead) String address, List <String> attributes List <String>
getAllScripts Returns the list of all data enclosed in script tags of the document Void List <String>
getScriptVariables Returns Map between given variable names and list of their occurence in the script tags List <String> variableNames Map <String, dynamic>

Contributing

  • Please branch from develop to implement bug fix/new feature.
  • Ensure that code is formatted according to base dart rules & using the latest stable version of dart.
  • Open a PR with develop as the PR target with a clear description.

Built by developers, for Developers.

Backed up permanently on-chain using Sadaiv CI.

Kategorien

Abhängigkeiten

Abhängigkeiten 2 Einträge

Quell-Repository

Projekte, die dieses Paket verwenden

Noch keine Daten verfügbar.