Apache Spark 1.5 geht an den Start

Performance-Schub für In-Memory Framework Apache Spark 1.5 geht an den Start

18.09.2015 Von Dipl. -Ing. Thomas Drilling

Anbieter zum Thema

20200122-PNG-confluent_logo-denim.png ()

Das quelloffene In-Memory Framework Apache Spark wird in der jüngten Version dank „Project Tungsten“ erheblich schneller.

Spark 1.5 integriert Project Tungsten.
(Bild: Apache Software Foundation)

Eine wesentliche Geschwindigkeitsverbesserung in Spark 1.5 resultiert aus der Umgehung der Beschränkungen der Java Virtual Machine (JVM) durch die Integration von Projekt Tungsten. Viele Einschränkungen bei der Performance sind offenbar nur eine Folge der Garbage Collection und des Speichermanagementsysteme der JVM.

Tungsten umgeht JVM

Mit Tungsten dagegen, das ansatzweise schon in Spark 1.4 enthalten ist, schreiben die Entwickler zentrale Teile von Spark um. Das umgeht die bisherigen Flaschenhälse und stellt zusätzlich neue Funktionen bereit, so lässt sich etwa der Cache-Speicher direkt verwenden. Das soll die Datenverarbeitung mit Spark noch weiter beschleunigen können.

Weitere Performance-Verbesserungen in Spark 1.5 beziehen sich auf SQL-Operationen in DataFrames. Außerdem soll Spark 1.5 Cluster-Management-Systeme wie YARN oder Mesos besser unterstützen als in der Vorgängerversion. Damit eröffnen sich für Spark auch weitere Einsatzmöglichkeiten jenseits von Hadoop.

Spark boomt

Apache Spark ist seit Anfang 2014 ein-Toplevel-Projekt der Apache Software Foundation. Erst vor wenigen Wochen hatte Cloudera einen kommerziellen Support für das In-Memory Framework angekündigt. Seitdem geht es mit Spark steil bergauf.

Auch MapR integrierte Spark im April vergangenen Jahres in seine Hadoop-Distributionen und im Mai 2014 folgte diesem Schritt auch Pentaho mit der Pentaho-Data-Integration-Plattform (PDI). Auch DataStax, das Unternehmen hinter der NoSQL-Datenbank Cassandra, kooperiert mit Databricks, um Spark in naher Zukunft in Cassandra zu integrieren.

Und laut einer Typesafe-Studie Anfang 2015 setzen bereits 13 Prozent der befragten Entwickler und Unternehmen Spark produktiv ein.

Artikelfiles und Artikellinks

Link: Produktankündigung von Databricks

Link: Offizielle Spark-Veröffentlichungsmitteilung

(ID:43600695)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Geschäftliche E-Mail

Bitte geben Sie eine gültige E-Mailadresse ein.

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung.

Stand vom 30.10.2020

Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.

Einwilligung in die Verwendung von Daten zu Werbezwecken

Ich bin damit einverstanden, dass die Vogel IT-Medien GmbH, Max-Josef-Metzger-Straße 21, 86157 Augsburg, einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von redaktionellen Newslettern nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.

Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.

Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden.

Recht auf Widerruf

Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://support.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung, Abschnitt Redaktionelle Newsletter.