Cloudera forciert Entwicklung von quelloffenen API-Kompatibilitätstests

Apache Flume und Apache Sqoop Cloudera forciert Entwicklung von quelloffenen API-Kompatibilitätstests

28.05.2015 Von Dipl. -Ing. Thomas Drilling

Anbieter zum Thema

Fujitsu Technology Solutions GmbH

Disy Informationssysteme GmbH

20200122-PNG-confluent_logo-denim.png ()

Confluent Germany GmbH

Cloudera

Cloudera steht einer Initiative vor, die die Entwicklung quelloffener API-Kompatibilitätstests für Big-Data-Projekte auf Hadoop-Basis wie Apache Sqoop und Apache Flume vorantreiben soll.

Im Rahmen der Kompatibilitätstestinitiative geht es Cloudera nach Aussage von Mike Olson, Chief Strategy Officer bei Cloudera, nicht nur um die Tests an sich. Zusammen mit anderen Unternehmen wie Couchbase, Capgemini, Intel, Oracle, SAS oder Dell will man auch die hierzu erforderlichen Test-Frameworks unter einer Open-Source-Lizenz entwickeln, weil Anwendungsentwickler derzeit keinen Zugang zu quelloffenen Werkzeugen zum Validieren der Kompatibilität ihrer Implementierungen haben.

Laut Olson sollen diese Test-Frameworks den Entwicklungsprozess zukünftiger Produkte und Apps zum Einspeisen und Analysieren von Daten rationalisieren. Man wolle Abnehmern die Sicherheit geben, dass jedes Produkt, das diese Tests besteht, kompatibel mit den Veröffentlichungen der Apache Software Foundation sei.

In der Tat ist bei Big-Data-Projekten auf Basis von Hadoop die nutzbringende Datenanalyse erst möglich, wenn Daten in den Hadoop-Cluster eingespeist sind. Nach Ansicht von Cloudera spielen bei der Bewegung großer Datenmengen Apache Flume und Apache Sqoop eine strategisch bedeutsame Rolle.

Mike Olson, Chief Strategy Officer bei Cloudera
(Bild: Cloudera)

Apache Sqoop

Apache Sqoop etwa ist federführend für das effiziente Übertragen von Massendaten zwischen Hadoop und strukturierten Datenspeichern wie zum Beispiel SQL-Datenbanken. Dabei kommt es vor allem auf Schnelligkeit und Effizienz an. Möchten Unternehmen zum Beispiel mithilfe von Big Data aussagekräftige Kundenprofile erstellen, müssen sie ihre kompletten Datenbestände für Big Data nutzbar machen, wobei es vor allem auf Echtzeit-Einblicke ankommt, um etwa Kundendialoge dynamisch anpassen zu können.

Apache Flume

Apache Flume dagegen etabliert sich derzeit zunehmend als effiziente Lösung für das Sammeln, Aggregieren oder Bewegen großer Mengen von Streaming-/Event-Daten in einen Hadoop-Cluster. Auch hierbei kommt es im besonderen Maße auf Schnelligkeit an, denn im Kontext von Internet-of-Things-Anwendungen wächst die Menge maschinengenerierter Datenströmen immer weiter an. Nach Ansicht von Cloudera sind daher offene Standards für Datensammlung, Datenfluss und Aggregation von Datenspeichern essenziell.

(ID:43401322)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Geschäftliche E-Mail

Bitte geben Sie eine gültige E-Mailadresse ein.

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung.

Stand vom 30.10.2020

Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.

Einwilligung in die Verwendung von Daten zu Werbezwecken

Ich bin damit einverstanden, dass die Vogel IT-Medien GmbH, Max-Josef-Metzger-Straße 21, 86157 Augsburg, einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von redaktionellen Newslettern nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.

Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.

Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden.

Recht auf Widerruf

Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://support.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung, Abschnitt Redaktionelle Newsletter.