Google Cloud Dataflow auf Apache Flink

Flink-Runner für Googles Datenanalysedienst Google Cloud Dataflow auf Apache Flink

01.04.2015 Von Dipl. -Ing. Thomas Drilling

Anbieter zum Thema

Fujitsu Technology Solutions GmbH

Disy Informationssysteme GmbH

Sinequa

Entwickler von Streamanalyse-Anwendungen können nun auch Flink als Plattform zum Ausführen von Dataflow-Pipelines in Googles Dataflow-Dienst nutzen. Einen solchen Runner für Googles Datenanalyse-Dienst gab es bisher nur für Apache Spark.

Flink-Runner für Googles Datenanalysedienst
(Bild: Data Artisans)

Möglich macht dies ein vom Startup Data Artisans – dem Unternehmen hinter Apache Flink – gemeinsam mit Google und der Apache Flink Community entwickelter Flink-Runner für Googles Cloud Dataflow Service. Dieser erlaubt es Dataflow-Nutzern, Apache Flink als Backend zu nutzen.

Die Vorteile von Flink bei der Streamanalyse

So können Entwickler von Dataflow Pipelines diese ab sofort auch auf Basis der verteilten Processing-Engine eines Flink-Clusters laufen lassen. Der Vorteil besteht nach Angaben der Entwickler von Data Artisans in der Flexibilität und Leistungsfähigkeit von Flink sowie in der guten Portiertbarkeit. Da sich der Flink Runner wahlweise auf eigener Hardware oder in der Cloud verwenden lässt, können Dataflow-Pipelines damit auch außerhalb von Googles Cloud-Dienst ausgeführt werden. Derzeit klappt das zwar nur im Batch-Modus, die Entwickler arbeiten aber eigenen Angaben zufolge bereits an einer Umsetzung für den Streaming-Modus.

Google Dataflow

Google hatte den Dataflow-Service im vergangenen Jahr quasi als Nachfolger der eigenen MapReduce-Implementation vorgestellt. Der Dienst stammt von Googles FlumeJava und dem MillWheel-Projekt ab. Erst kürzlich hatte Google ein SDK für Dataflow unter einer Open-Source-Lizenz veröffentlicht.

Der Dienst befindet sich derzeit noch in der Erprobungsphase und kann Pipelines zum Analysieren von Streaming- und Batch-Daten schreiben, die dann in Googles Compute Engine laufen. Flink war erst im Januar dieses Jahres zum Top-Level-Projekt der Apache Software Foundation aufgestiegen.

(ID:43284054)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Geschäftliche E-Mail

Bitte geben Sie eine gültige E-Mailadresse ein.

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung.

Stand vom 30.10.2020

Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.

Einwilligung in die Verwendung von Daten zu Werbezwecken

Ich bin damit einverstanden, dass die Vogel IT-Medien GmbH, Max-Josef-Metzger-Straße 21, 86157 Augsburg, einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von redaktionellen Newslettern nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.

Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.

Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden.

Recht auf Widerruf

Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://support.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung, Abschnitt Redaktionelle Newsletter.