Apache Beam und Apache Eagle werden Toplevel-Projekte

Parallele Datenverarbeitung und Cluster-Überwachung Apache Beam und Apache Eagle werden Toplevel-Projekte

18.01.2017Autor / Redakteur: Dipl. -Ing. Thomas Drilling / Nico Litzel

Die Apache Software Foundation hat Beam und Eagle zu neuen Toplevel-Projekten befördert. Apache Beam eignet sich als Fundament für parallele Datenverarbeitung und bei Eagle handelt es sich um ein Projekt, das große Cluster überwachen kann.

Anbieter zum Thema

Fujitsu Technology Solutions GmbH

BigData-Insider

20200122-PNG-confluent_logo-denim.png ()

Confluent Germany GmbH

Die große Familie der Apache-Big-Data-Projekte erhält Zuwachs. Die beiden dem Big-Data-Sektor zuzuordnenden ASF-Projekte Apache Beam und Apache Eagle haben den Inkubator-Satus verlassen.

Apache Eagle

Apache Eagle versteht sich als Analyse-Plattform mit deren Hilfe sich Sicherheits- oder Geschwindigkeitsproblemen auf Datenverarbeitungsplattformen wie Hadoop oder Spark schnell und effizient identifizieren lassen sollen. Eagle analysiert dazu Datenaktivitäten, YARN-Anwendungen, JMX-Metriken, Daemon-Logs und Vieles mehr.

Eagle ist ursprünglich bei eBay entstanden und wurde hier zur Überwachung eines sehr großen Hadoop-Clusters eingesetzt. eBbay hat das Projekt 2015 in die Community entlassen und dem Inkubator der ASF übergeben. Seitdem hat Eagle für viel Aufmerksamkeit bei Organisationen und Entwicklern gesorgt, denn Eagle ist flexibel einsetzbar und überwacht Systeme, Dienste oder Anwendungen.

So kann Eagle beispielsweise den Durchsatz von Anwendungen überwachen oder Performance-Einbrüche bei Servern erkennen. Zudem ist Eagle gut erweiterbar und skaliert gut.

Das Projekt ist aktuell in Version 0.4.0 verfügbar. Weitere Informationen zu Eagle finden sich auf der Projektseite.

Apache Beam

Das Projekt Apache Beam versteht sich als Programmiermodell, das das Erstellen einer parallelen Datenverarbeitungs-Pipeline vereinheitlicht und künftig mehrere SDKs bereitstellen soll. Aktuell gibt es allerdings nur JDK. Ausgeführt wird die Pipeline unter einer der unterstützten Engines wie z. B. Apache Spark, Apache Flink, Apache Apex und Google Cloud Dataflow.

Beam ist anscheinend aus Google Cloud Dataflow hervorgegangen. Aktuell nutzen Google, PayPal und Talend Apache Beam, das aktuell ebenfalls in Version 0.4.0 vorliegt.

Weitere Informationen zu Beam und Download-Möglichkeiten finden Interessenten auf der Projektseite.

Dieses Jahr steht bei derart vielen Apache-Projekten die Verarbeitung von großen Datenmengen im Vordergrund, sodass auch 2017 die jährliche stattfindende ApacheCon in zwei Teilkonferenzen gesplittet wird, die allerdings zeitgleich stattfinden: „ApacheCon: Core“ und „Apache: Big Data“.

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Geschäftliche E-Mail

Bitte geben Sie eine gültige E-Mailadresse ein.

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung.

Stand vom 30.10.2020

Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.

Einwilligung in die Verwendung von Daten zu Werbezwecken

Ich bin damit einverstanden, dass die Vogel IT-Medien GmbH, Max-Josef-Metzger-Straße 21, 86157 Augsburg, einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von redaktionellen Newslettern nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.

Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.

Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden.

Recht auf Widerruf

Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://support.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung, Abschnitt Redaktionelle Newsletter.

(ID:44461052)