Der Daten- und KI-Spezialist Databricks bietet ab sofort Delta Live Tables (DLT) an. Dabei handelt es sich um ein ETL-Framework („Extract, Transform, Load“), das sowohl die Infrastruktur automatisch verwaltet als auch Software-Engineering-Praktiken in die Datentechnik einbringt.
Databricks DLT soll Data Engineers und Analysten die Arbeit erleichtern.
(Bild: Screenshot / Databricks)
DLT nutzt laut Databricks einen einfachen deklarativen Ansatz für den Aufbau zuverlässiger Datenpipelines und die automatische Verwaltung der Dateninfrastruktur in großem Maßstab. Die Umwandlung von SQL-Abfragen in produktive ETL-Pipelines erfordert meist langwierige und komplizierte operative Arbeit. Dies will Databricks bei DLT durch den Einsatz moderner Software-Engineering-Praktiken zur Automatisierung der zeitaufwendigsten Vorgänge reduzieren. Data Engineers und Data Analysts sollen sich dadurch mehr auf die Bereitstellung von Daten konzentrieren können, anstatt Zeit für Betrieb und Wartung der Pipelines aufwenden zu müssen.
Mehr Zeit für wichtige Aufgaben
Mit DLT können Dateningenieure die Ergebnisse von Datentransformationen einfach beschreiben. Die Databricks-Lösung erfasst live die Abhängigkeiten der gesamten Datenpipeline und automatisiert nahezu alle komplexen Vorgänge. Laut dem Hersteller können Data Engineers ihre Daten dadurch wie Code behandeln und somit Best Practices aus dem Software-Engineering darauf anwenden. Dazu zählen etwa Tests, Fehlerbehandlung, Überwachung und Dokumentation. Auf diese Weise lassen sich zuverlässige Pipeline in größerem Umfang bereitstellen. DLT unterstützt Python und SQL. Die Lösung ist zudem auf die Arbeit mit Streaming- und Batch-Workloads ausgelegt.
„Die Stärke von DLT liegt in etwas, das sonst niemand kann - moderne Software-Engineering-Praktiken und automatische Verwaltung der Infrastruktur zu kombinieren. Es ist eine bahnbrechende Technologie, die es Data Engineers und -analysten ermöglicht, produktiver denn je zu sein“, meint Ali Ghodsi, CEO und Mitbegründer von Databricks. „DLT unterstützt jede Art von Daten-Workload mit einer einzigen API und macht fortgeschrittene Data-Engineering-Kenntnisse überflüssig“, ergänzt er.
Aufklappen für Details zu Ihrer Einwilligung
Stand vom 30.10.2020
Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.
Einwilligung in die Verwendung von Daten zu Werbezwecken
Ich bin damit einverstanden, dass die Vogel IT-Medien GmbH, Max-Josef-Metzger-Straße 21, 86157 Augsburg, einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von redaktionellen Newslettern nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.
Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.
Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden.
Recht auf Widerruf
Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://support.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung, Abschnitt Redaktionelle Newsletter.
:quality(80)/images.vogel.de/vogelonline/bdb/1883400/1883464/original.jpg "Die Gewinner der diesjährigen IT-Awards stehen fest – und hier sind Ihre BigData-Insider-Preisträger:")
:quality(80)/images.vogel.de/vogelonline/bdb/1883900/1883934/original.jpg "Am 21. Oktober 2021 ab 10:00 Uhr erhalten die Gewinner der diesjährigen Leserwahl den Readers' Choice BigData-Insider Award 2021.")
:quality(80)/images.vogel.de/vogelonline/bdb/1774000/1774070/original.jpg "Künstliche Intelligenz (KI) wird immer wichtiger. Das zeigt beispielsweise die Studie „State of AI in the Enterprise Survey“ von Deloitte. Für die Erhebung haben die Marktforscher weltweit 2.700 KI-Experten zum Stand der Dinge befragt.")
:quality(80)/images.vogel.de/vogelonline/bdb/1765000/1765023/original.jpg "Big Data as a Service hat Vorteile: Einrichtung und Betrieb sind etwa im Vergleich zu entsprechenden On-Premises-Systemen deutlich kostengünstiger und verursachen nur wenig Aufwand.")
:quality(80)/images.vogel.de/vogelonline/bdb/1965400/1965419/original.jpg "Das ist das Dashboard eines Callcenter-Leiters, das mit dem Tableau Accelerator für solche Callcenter geliefert wird. Accelerators sind vorgefertigte, anpassbare Dashboards, die sich in verschiedenen Branchen, Abteilungen und Anwendungen einsetzen lassen, um so schneller Erkenntnisse zu liefern, die aus Daten Mehrwert generieren.")
:quality(80)/images.vogel.de/vogelonline/bdb/1964600/1964695/original.jpg "Der Aufbau der SAS Customer Data Platform (CDP) ist in der Grundform übersichtlich.")
:quality(80)/images.vogel.de/vogelonline/bdb/1963100/1963117/original.jpg "Tiny AI: Der neuromorphe analoge Signalprozessor NASP verleiht Sensoren „Intelligenz“. Mit NeuroSense hat Hersteller Polyn jetzt einen winzigen KI-Chip für Wearables vorgestellt, der 100-mal weniger Strom verbrauchen und eine viel höhere Genauigkeit als andere Lösungen auf dem Markt haben soll.")
:quality(80)/images.vogel.de/vogelonline/bdb/1958600/1958604/original.jpg "Confluent-CEO Jay Kreps (links) und Avi Perez, Head of Backend Engineering bei Wix.com, bei der Eröffnungs-Keynote des Confluent Kafka Summit 2022 in London.")
:quality(80)/images.vogel.de/vogelonline/bdb/1964700/1964741/original.jpg "Künstliche Haut: Anna Maria Coclite von der TU Graz ist es mit ihrem Team gelungen, ein 3-in-1-Hybridmaterial für die nächste Generation smarter, künstlicher Haut herzustellen.")
:quality(80)/images.vogel.de/vogelonline/bdb/1963700/1963724/original.jpg "Wer in den letzten Jahren einen Führerschein erworben hat, kann sich das Parken ohne helfende Sensoren wohl nicht mehr vorstellen. Ihr volles Potenzial entfaltet die Sensorik aber erst in der Industrie.")
:quality(80)/images.vogel.de/vogelonline/bdb/1963300/1963312/original.jpg "Apache Flink ist ein quelloffenes Stream Processing Framework, das leistungsstarke Stream- und Batch-Processing-Funktionen bietet.")
:quality(80)/images.vogel.de/vogelonline/bdb/1964300/1964321/original.jpg "Der Aufbau eines Databricks Lakehouses auf AWS soll jetzt noch einfacher und schneller werden.")
:quality(80)/images.vogel.de/vogelonline/bdb/1962500/1962587/original.jpg "Die Auseinandersetzung mit fünf bestimmten Dimensionen trägt erheblich zur Entwicklung einer Data Driven Culture bei.")
:quality(80)/images.vogel.de/vogelonline/bdb/1964000/1964093/original.jpg "Von der Hardware über die Firmware bis zur IoT-Plattform gibt es viele Elemente eines IoT-Projekts, die Herausforderungen bereithalten. Was Sie bei diesen und weiteren Komponenten beachten sollten.")
:quality(80)/images.vogel.de/vogelonline/bdb/1961400/1961457/original.jpg "Laut einer Studie von Dataiku ist die Datennutzung aus dem Arbeitsalltag häufig nicht mehr wegzudenken.")
:quality(80)/images.vogel.de/vogelonline/bdb/1960400/1960442/original.jpg "Themis Foresight veröffentlicht Ende Mai seine Studie zum Thema KI im Talentmanagement.")
:quality(80)/images.vogel.de/vogelonline/bdb/1958600/1958609/original.jpg "Jennifer Belissent, Principal Data Strategist von Snowflake")
:quality(80)/images.vogel.de/vogelonline/bdb/1963600/1963660/original.jpg "Bereits 8 von 10 Höfen in Deutschland nutzen digitale Technologien.")
:quality(80)/images.vogel.de/vogelonline/bdb/1963100/1963131/original.jpg "Bei Data Spaces handelt es sich um einen Raum, der Unternehmen verschiedener Größen und aus verschiedenen Branchen die Möglichkeit bietet, Daten sicher zu teilen und mit diesen neue Geschäftsmodelle aufzubauen.")
:quality(80)/images.vogel.de/vogelonline/bdb/1965400/1965456/original.jpg "Unternehmen wollen Datenströme in Echtzeit nutzen, müssen dabei aber rechtlich auf der sicheren Seite bleiben.")
:quality(80)/images.vogel.de/vogelonline/bdb/1955700/1955799/original.jpg "Der Europäische Datenschutzausschuss (EDSA) befasst sich auch mit Fragen der Haftung bei KI.")
:quality(80)/images.vogel.de/vogelonline/bdb/1953600/1953606/original.jpg "KI ist eine Chance, aber auch ein Risiko. Wie geht man mit durch KIs verursachten Fehlern um, wer trägt die Verantwortung?")
:quality(80)/images.vogel.de/vogelonline/bdb/1952900/1952934/original.jpg "Der Autor: Dr. Scott Zoldi ist Chief Analytics Officer bei FICO")
:quality(80)/images.vogel.de/vogelonline/bdb/1954700/1954797/original.jpg "Der Autor: Krzysztof Kąkol ist Leiter Data Science bei PGS Software")
:quality(80)/images.vogel.de/vogelonline/bdb/1964000/1964048/original.jpg "Der Autor: Gerd Plewka ist Head of Solution Consulting CEE and Northern Europe bei Blue Prism")
:quality(80)/images.vogel.de/vogelonline/bdb/1964200/1964295/original.jpg "Die \"Eine-Million-Dollar-Challenge\" von TigerGraph nähert sich ihrem Ende.")
:quality(80)/images.vogel.de/vogelonline/bdb/1109300/1109307/original.jpg)
:fill(fff,0)/images.vogel.de/vogelonline/companyimg/124800/124826/65.png "Bissantz_Logo_480x480.png")
:fill(fff,0)/images.vogel.de/vogelonline/companyimg/134700/134771/65.png "20200122-PNG-confluent_logo-denim.png")
:fill(fff,0)/p7i.vogel.de/companies/60/2c/602cdcaa1f5bc/fivetran-logo-blue.png "Fivetran_logo-blue.png"){kind=logo}
:quality(80)/images.vogel.de/vogelonline/bdb/1837000/1837053/original.jpg "Databricks hat auf der Anwenderkonferenz „Data + AI Summit 2021“ Neuerungen für die Unified Analytics Platform angekündigt.")
:quality(80)/images.vogel.de/vogelonline/bdb/1771900/1771963/original.jpg "Clemens Mewald, Director of Product Management, Data Science and Machine Learning bei Databricks")