Analyse von Batch- und Streaming-Daten

Flink wird Top-Level-Projekt der Apache Software Foundation

| Autor / Redakteur: Thomas Drilling / Nico Litzel

Die aus einem Forschungsprojekt hervorgegangene Software Apache Flink kombiniert verschiedene Streaming-, Batch- und Pipelining-Verbeitungsprozesse und beinhaltet Programmierschnittstellen für Java und Scala, sowie einige Spezial-APIs, etwa für die Graphenverarbeitung.
Die aus einem Forschungsprojekt hervorgegangene Software Apache Flink kombiniert verschiedene Streaming-, Batch- und Pipelining-Verbeitungsprozesse und beinhaltet Programmierschnittstellen für Java und Scala, sowie einige Spezial-APIs, etwa für die Graphenverarbeitung. (Bild: Apache Software Foundation)

Apache Flink, eine Software zur Analyse und Verarbeitung von Batch- und Streaming-Daten, wurde aus dem Inkubator der Stiftung zu einem Top-Level-Projekt befördert.

Apache Flink ist eine Plattform zum Verarbeiten und Analysieren von Batch- und Streaming-Daten. Die Apache Software Foundation hat Flink in der aktuellen Version 0.7 zum Top-Level-Projekt der Stiftung befördert, weil die Software nun alle erforderlichen Voraussetzungen in Struktur und Verwaltung aufweist, wie etwa eine agile und tragfähige Community.

Wie Flink entstanden ist

Die aus einem Forschungsprojekt hervorgegangene Software kombiniert verschiedene Streaming-, Batch- und Pipelining-Verbeitungsprozesse und beinhaltet Programmierschnittstellen für Java und Scala, sowie einige Spezial-APIs, etwa für die Graphenverarbeitung. Flink hat seine Wurzeln im 2009 an der TU Berlin gemeinsam mit Berlin gestarteten und später mit der Humboldt-Universität Berlin, dem Hasso-Plattner-Institut, KTH (Stockholm), ELTE (Budapest) und anderen fortgeführten Stratosphere Research Project.

Was Flink macht

Flink ist vollständig kompatibel mit dem Hadoop-Ökosystem, setzt also auf HDFS oder YARN auf, liest aber auch Daten aus HBase. Flink läuft entweder lokal unter Linux, Mac OS X und Windows oder lässt sich in einem Cluster- oder YARN-Setup betreiben. Einzige Voraussetzung für eine lokale Installation ist Java 1.6.x oder jünger. Zur Installation in einer Windows-Umgebung steht eine separate Dokumentation zur Verfügung.

Alleinstellungsmerkmale

Herausragend ist Flinks Eigenschaft einer hybriden Batch- und Streaming-Umgebung. Da Flink eine breite Palette an Streaming/Pipelining- und Batch-Processing-Technologien nutzt, lässt sich die Software für viele Szenarien im Bereich der Analyse von Batch- und Streaming-Daten einsetzen. Aus diesem Grund bringt Flink von Anfang an seine eigene Speicherverwaltung und eine eigens implementierte Typenserialisierung mit. Hierunter versteht man allgemein den Prozess zum Überführen von Datenstrukturen und Objekten in ein speicherfähiges Format. Ferner enthält Flink verschiedene kostenbasierte Optimierungskomponenten.

Meinungen über Flink

Ijad Madisch, Mitgründer und CEO von ResearchGate, äußert sich z. B. über Flink: „Wir nutzen Flink als Teil unserer Produktionsdaten-Infrastruktur. Flink erhöht eindeutig die Produktivität, insbesondere in Bereich komplexer Datenflüsse. Flink ist aus gutem Grund jetzt ein Top-Level-Projekt.

Alan Gates, Architekt und Mitbegründer vom Hortonworks, ist der Ansicht, dass das Flink-Team den Apache-Weg sehr schnell verinnerlicht habe: hart arbeiten, offene Entscheidungsprozesse pflegen und neue Mitwirkende integrieren.

Kommentare werden geladen....

Kommentar zu diesem Artikel abgeben

Der Kommentar wird durch einen Redakteur geprüft und in Kürze freigeschaltet.

Anonym mitdiskutieren oder einloggen Anmelden

Avatar
Zur Wahrung unserer Interessen speichern wir zusätzlich zu den o.g. Informationen die IP-Adresse. Dies dient ausschließlich dem Zweck, dass Sie als Urheber des Kommentars identifiziert werden können. Rechtliche Grundlage ist die Wahrung berechtigter Interessen gem. Art 6 Abs 1 lit. f) DSGVO.
  1. Avatar
    Avatar
    Bearbeitet von am
    Bearbeitet von am
    1. Avatar
      Avatar
      Bearbeitet von am
      Bearbeitet von am

Kommentare werden geladen....

Kommentar melden

Melden Sie diesen Kommentar, wenn dieser nicht den Richtlinien entspricht.

Kommentar Freigeben

Der untenstehende Text wird an den Kommentator gesendet, falls dieser eine Email-hinterlegt hat.

Freigabe entfernen

Der untenstehende Text wird an den Kommentator gesendet, falls dieser eine Email-hinterlegt hat.

copyright

Dieser Beitrag ist urheberrechtlich geschützt. Sie wollen ihn für Ihre Zwecke verwenden? Infos finden Sie unter www.mycontentfactory.de (ID: 43152410 / Infrastruktur)