Kommentar von Thorsten Bambey, Finanz Informatik KI im Bankbetrieb – warum sich produktiver Einsatz an der Infrastruktur entscheidet

Eigene Rechenzentren, modelloffene Architektur und die sichere Anbindung institutsbezogenen Wissens: Mit dem S-KIPilot zeigt die Finanz Informatik, wie sich generative KI unter regulatorischen Anforderungen produktiv im Bankbetrieb einsetzen lässt. Entscheidend ist das Zusammenspiel aus Datenkontrolle, Mandantentrennung, Prozessintegration und menschlicher Kontrolle.

In regulierten Umgebungen bringt der Einsatz großer Sprachmodelle besondere Herausforderungen mit sich. Daten dürfen die kontrollierte Infrastruktur nicht verlassen, fachliche Ergebnisse müssen nachvollziehbar bleiben, und die Integration in bestehende Systeme darf keine zusätzlichen Prozessbrüche erzeugen. Mit dem S-KIPilot betreibt die Finanz Informatik, der zentrale IT-Dienstleister und Digitalisierungspartner der Sparkassen-Finanzgruppe, eine generative KI-Lösung, die diese Anforderungen zusammenführt. Die Plattform verbindet leistungsfähige, spezialisierte Modelle mit internem Sparkassenwissen und bestehenden Anwendungen und schafft damit die Grundlage für eine souveräne KI-Nutzung im Arbeitsalltag.

Modelloffen statt plattformabhängig

Die Verarbeitung erfolgt vollständig innerhalb der Rechenzentren der Finanz Informatik. Eingaben, Modellverarbeitung und Ergebnisse verbleiben in der geschützten Infrastruktur. Ein Datenaustausch mit externen Systemen ist strukturell ausgeschlossen.

Technisch basiert der S-KIPilot auf einer Kombination von Open-Source-Modellen. In der ersten Ausbaustufe wurden grundlegende generative Funktionen auf Basis von Mistral 8x22b umgesetzt: Textgenerierung, Zusammenfassung, Übersetzung sowie die Verarbeitung hochgeladener vertraulicher Dokumente. In späteren Ausbaustufen kamen weitere Modelle hinzu, darunter Mistral Small und OpenAI gpt-oss-120b.

Ergänzend kommen spezialisierte Modelle für einzelne Aufgaben zum Einsatz: Whisper unterstützt beispielsweise bei der Transkription von Audioaufzeichnungen, während dots.ocr Texte aus Bildern und Dokumenten extrahiert. Welche Komponente genutzt wird, entscheidet ein automatisches Modell-Routing, abhängig von der jeweiligen Anfrage – etwa ob sie als Text, Dokument, Bild oder Audiodatei eingeht. Die technologische Vielfalt erhöht damit nicht die Komplexität im Arbeitsalltag.

Kommentar von Steffen Vierkorn, QUNIS

Datenprodukte zum Treiber der Wertschöpfung machen

Die Architektur ist von Beginn an modelloffen angelegt. Neue Modelle lassen sich integrieren, ohne bestehende Anwendungen oder fachliche Prozesse grundlegend neu aufzusetzen. Das schafft Unabhängigkeit von einzelnen Anbietern und ermöglicht es, die Plattform mit der Dynamik des Open-Source-Marktes weiterzuentwickeln.

Für die Ergebnisqualität ist jedoch nicht nur das Modell entscheidend, sondern vor allem der fachliche Kontext. Ein Sprachmodell kennt weder Sparkassenprozesse noch institutsindividuelles Wissen. Deshalb nutzt der S-KIPilot eine Retrieval-gestützte Architektur: Inhalte aus PPS_neo, dem zentralen Prozesssystem der Sparkassen, dem Intranet der Sparkassen (ICM) sowie Office_neo:Teamroom werden kontextbezogen angebunden und in einer Vektordatenbank verfügbar gemacht.

Bei einer Anfrage identifiziert das System semantisch relevante Passagen aus diesen Wissensquellen und stellt sie dem Sprachmodell als Kontext bereit. Die Antworten beziehen sich damit nicht nur auf allgemeines Modellwissen, sondern auf den jeweils relevanten fachlichen Kontext. Eine klare Quellzuordnung sorgt zugleich dafür, dass Ergebnisse nachvollziehbar und überprüfbar bleiben.

Grundlage dafür ist eine konsequente Mandantentrennung. Jeder Mandant verfügt über einen eigenen Wissensraum. Institutsindividuelle Dokumente, Prozesse und Regelwerke bleiben getrennt und werden nicht institutionsübergreifend verwendet.

Vom Textassistenten zur Prozesskomponente

Zusammenfassen, übersetzen und formulieren bilden den Einstieg in die Arbeit mit dem S-KIPilot. Die Funktionen unterstützen typische Wissens- und Kommunikationsaufgaben, etwa bei der Bearbeitung von E-Mails, der Analyse von Dokumenten oder bei der Recherche in internen Wissensquellen. Auch im Supportumfeld kann die Lösung beispielsweise bei der Ticketerstellung über SRPlus unterstützen.

Mit dem Outlook-Add-in ist die KI direkt in einen zentralen Kommunikationsprozess integriert. Inhalte können zusammengefasst, übersetzt oder als Antwortvorschlag aufbereitet werden, ohne dass zwischen Anwendungen gewechselt werden muss. Die Technologie fügt sich damit in vorhandene Abläufe ein, statt eine zusätzliche Arbeitsumgebung zu schaffen.

Zunehmend kommen zudem agentische Komponenten in bankfachlichen Prozessen zum Einsatz. In der Gesprächsvorbereitung können Kundeninformationen, Kontakthistorien und Vertriebsimpulse zu einer strukturierten Entscheidungsgrundlage zusammengeführt werden. Ergänzend lassen sich Potenzialanalysen auf Basis von Neo-Broker-Umsätzen für Beratung und Cross-Selling fachlich verdichten.

Kommentar von Himanshu Gupta, Solace

So nutzen Finanzdienstleister agentenbasierte KI zu ihrem Vorteil

Bei Zugriffen auf Kundendaten schützt eine Zwei-Faktor-Authentifizierung zusätzlich vor unberechtigtem Zugriff. Die Rolle der KI bleibt dabei klar begrenzt: Sie strukturiert Inhalte, bereitet Informationen auf und erstellt Vorschläge. Bewertung, Prüfung und finale Entscheidung liegen weiterhin beim Menschen. Das Human-in-the-Loop-Prinzip ist damit kein optionales Feature, sondern Teil der Governance-Architektur.

Diese menschliche Kontrollinstanz wird durch entsprechende Qualifizierung ergänzt. Der Zugang zum S-KIPilot ist Mitarbeitenden vorbehalten, die für den souveränen Umgang mit KI nachweislich qualifiziert sind. Damit wird auch der Anforderung aus Artikel 4 der EU-KI-Verordnung Rechnung getragen.

Architektur als Skalierungsfaktor

Der produktive Betrieb zeigt: Generative KI im Bankenumfeld skaliert nicht über Einzelfunktionen. Zusammenfassungen, Übersetzungen und Formulierungshilfen sind wichtige Einstiegspunkte. Tragfähig wird die Technologie dort, wo Modelle, interne Wissensquellen, Mandantentrennung und bestehende Anwendungen in einer kontrollierten Architektur zusammengeführt werden.

Auch die Datenqualität spielt dabei eine zentrale Rolle. Ein Retrieval-System kann nur so präzise arbeiten wie die Quellen, aus denen es Informationen bezieht. Heterogene Inhalte, uneinheitliche Strukturen und unterschiedliche Pflegestände beeinflussen unmittelbar die Qualität der Ergebnisse. Eine belastbare Datenstrategie ist deshalb ebenso wichtig wie die Auswahl und der Betrieb der Modelle.

On-premises-Betrieb allein reicht für eine souveräne KI-Lösung nicht aus. Erst die Kombination aus Rechenzentrumsbetrieb, modelloffener Architektur, Retrieval-gestützter Wissensanbindung, klarer Mandantentrennung, Authentifizierungsmechanismen und menschlicher Kontrolle schafft die Voraussetzungen für den Einsatz in regulierten Prozessen.

Der Schritt zur KI-Plattform

Der nächste Entwicklungsschritt führt über die Anwendung am Arbeitsplatz hinaus. Die im S-KIPilot aufgebauten KI-Funktionalitäten werden zu Bausteinen einer plattformfähigen Architektur. Partnerlösungen können diese Bausteine innerhalb eines klar definierten Sicherheits- und Governance-Rahmens nutzen.

Eine mehrschichtige Firewall-Architektur stellt sicher, dass Anwendungen innerhalb der geschützten Infrastruktur der Finanz Informatik betrieben werden. Sensible Daten verbleiben damit im gesicherten Netzverbund der Sparkassen-Finanzgruppe.

Ein erster Anwendungsfall ist die Integration von KI-Bausteinen des S-KIPilot in GuideCom Solutions. Die Lösung wurde in Kooperation mit GuideCom über die FI-Tochter FI-TS umgesetzt und unterstützt die Vorstands- und Gremienarbeit. Beschlüsse und Unterlagen können rollenspezifisch sowie kontextbezogen aufbereitet werden, ohne dass sensible Informationen die geschützte Infrastruktur der FI-Gruppe verlassen.

Damit entwickelt sich der S-KIPilot vom KI-Assistenten hin zu einer Plattform für regulierte Prozesse in der Sparkassen-Finanzgruppe. Die zentrale Erkenntnis aus dem Produktivbetrieb lautet: Souveräne KI entsteht durch eine Architektur, die Datenkontrolle, fachlichen Kontext, Prozessintegration und Plattformfähigkeit konsequent zusammenführt.

Kommentar von Pawel Krupa, SoftwareOne

Datengetriebene Entscheidungsfindung revolutioniert die Gastronomiebranche

(ID:50955219)