Edgeless Systems launcht Privatemode AI Chat-App und API für vollverschlüsselte KI-Dienste

Anbieter zum Thema

Edgeless Systems GmbH

NVIDIA GmbH

GitHub Inc.

AMD Advanced Micro Devices GmbH

Board Deutschland GmbH

mehr weniger

INFOMOTION GmbH

QUNIS GmbH

weniger

Sensible Firmeninterna und private Daten mit KI zu verarbeiten ist für die meisten Organisationen bislang tabu. Mit Privatemode AI von Edgeless Systems sei nun per Ende-zu-Ende-Verschlüsselung ein durchgehender Datenschutz möglich – über eine Chat-App oder eine API zu OpenAI.

Edgeless Systems veröffentlicht mit Privatemode AI eine Lösung für Organisationen, die Generative KI nutzen möchten, ohne Datenschutzrisiken einzugehen. Privatemode AI biete sowohl eine KI-Chat-App als auch eine KI-API, die mit Ende-zu-Ende-Verschlüsselung arbeiten. Dadurch seien sämtliche Daten – von der Eingabe über die Verarbeitung bis zur Ausgabe – vollständig geschützt. Unternehmen könnten so generative KI-Modelle nutzen, ohne Sicherheits- oder Compliance-Risiken einzugehen.

Herausforderung: KI-Nutzung und Datenschutz

Die Verarbeitung sensibler Daten durch generative KI-Dienste stellt Unternehmen vor eine Herausforderung: Einerseits bietet KI Effizienzvorteile, andererseits bestehen Risiken hinsichtlich Datenschutz und Datensicherheit. Edgeless Systems zufolge bieten bestehende Lösungen hier zwei unzureichende Alternativen:

• 1. Cloudbasierte KI-Dienste nutzen und die Kontrolle über Daten abgeben.

• 2. Eigene KI-Infrastruktur betreiben, was mit hohen Kosten und erheblichem Verwaltungsaufwand verbunden ist.

Privatemode AI könne dagegen die Vorteile der Cloud mit durchgehender technischer Absicherung kombinieren.

„Bisherige KI-Dienste setzen auf vertragliche Regelungen und Security-Best-Practices, um Datenschutz zu gewährleisten. Als Gegenentwurf dazu basiert Privatemode AI als erster KI-Dienst auf den Schutzmechanismen der Confidential-Computing-Technologie. Wir sind besonders stolz darauf, dies als europäisches Unternehmen geschafft zu haben“, kommentiert Dr. Felix Schuster, CEO und Co-Gründer von Edgeless Systems.

Technische Umsetzung

Confidential Computing ist eine hardwarebasierte Sicherheitstechnologie, die eine geschützte Verarbeitung sensibler Daten ermöglicht. Privatemode AI nutzt AMD-EPYC-CPUs und Nvidia-H100-GPUs, die diese Technologie unterstützen. In Kombination mit einer speziell entwickelten Softwarearchitektur könne Privatemode AI mit den folgenden Sicherheitsmerkmalen aufwarten:

• Ende-zu-Ende-Verschlüsselung: Daten werden auf dem Endgerät verschlüsselt und sind zu keinem Zeitpunkt im Klartext zugänglich.

• Vertrauliche Verarbeitung: Während der Verarbeitung in der Cloud bleiben die Daten auch im Arbeitsspeicher durchgehend verschlüsselt und sind so vor externen Zugriffen geschützt.

• Ende-zu-Ende-Überprüfbarkeit: Kryptografische Zertifikate bestätigen die Integrität der sicheren Verarbeitungsumgebung. Die Zertifikate werden automatisch mittels Remote Attestation auf den Endgeräten überprüft.

Vereinfacht ausgedrückt: Privatemode AI könne die Daten in einer „Black-Box-Architektur“ verarbeiten. Die Daten würden zu keinem Zeitpunkt im Klartext vorliegen und seien weder für Edgeless Systems, für den Cloud-Betreiber noch für Systemadministratoren einsehbar. Auch Hacker, die sich Zugriff zur Cloud-Infrastruktur verschaffen, hätten technisch bedingt keinen Zugriff auf die Daten. Das KI-Modell selbst könne keine Daten preisgeben, diese nicht für das Training verwenden und sich diese auch nicht „merken“.

Einsatz und Modellwahl

Privatemode AI unterstützt verschiedene Open-Source-KI-Modelle. Zum Start sei Meta Llama 3.3 verfügbar. In Kürze soll DeepSeek R1 folgen. Damit, so Edgeless Systems, werde es möglich sein, das vieldiskutierte chinesische Modell auf sichere Weise zu nutzen. Der relevante Programmcode hinter Privatemode AI soll demnächst auf der Plattform GitHub veröffentlicht werden („Source available“), um die Nachvollziehbarkeit und Transparenz der Sicherheitsmechanismen zu gewährleisten.

Nutzung als App oder API

Privatemode AI ist als Chat-Anwendung und API verfügbar:

• App: Benutzeroberfläche zur direkten Nutzung;

• API: zu OpenAI kompatible Schnittstelle zur Integration in bestehende Systeme. Die Registrierung erfolgt über eine E-Mail-Adresse, danach sei der Dienst direkt einsatzbereit.

(ID:50329945)