Kleine Sprachmodelle für hohe Energieeffizienz Xayn präsentiert Such- und Empfehlungs-KI Xaynia

Anbieter zum Thema

Fujitsu Technology Solutions GmbH

Sinequa

Fivetran Germany GmbH

XAIN AG

Das forschungsbasierte KI-Unternehmen Xayn hat mit Xaynia eine KI für die semantische Suche entwickelt. Unternehmen sollen damit ihren Nutzern personalisierte Suchergebnisse und Empfehlungen liefern können – und das alles datenschutzfreundlich sowie energie- und kosteneffizient.

Xaynia ordne mithilfe von NLP (Natural Language Processing) nicht einfach nur gleiche Schlagwörter zu. Entwickler Xayn zufolge könne die KI Suchanfragen und deren Kontext ähnlich wie ein Mensch „verstehen“ und deshalb präzise und auf individuelle Präferenzen zugeschnittene Ergebnisse liefern.

Energie- und Kosteneffizienz durch Small Language Models

„Große KI-Sprachmodelle wie ChatGPT erleben aktuell einen richtigen Hype, verbrauchen aber auch enorme Mengen an Energie – und das auf Kosten der Umwelt. Das ist nicht nur problematisch für das Klima, sondern erhöht auch die Kosten für Geschäftskunden immens, insbesondere beim Einsatz im großen Maßstab. Hinzu kommt, dass wir überhaupt nicht wissen, was mit all den persönlichen Daten geschieht“, betont Dr. Leif-Nissen Lundbæk, CEO und Mitgründer von Xayn. „Unsere Suite mehrsprachiger NLP-Modelle Xaynia löst diese Probleme für Suchen und personalisierte Empfehlungen. Sie basiert nicht auf riesengroßen, sondern auf kleinen Sprachmodellen, die sogar so effizient sind, dass sie auf einem Mobiltelefon statt auf dem neuesten Supercomputer laufen können.“

Um die Energieeffizienz von Xaynia zu maximieren, habe Xayn seine KI ohne nennenswerte Einbußen bei der Genauigkeit von einem Large Language Model zu einem Small Language Model komprimiert. So könne Xaynia z. B. Millionen von Dokumenten in großen Datenbanken verarbeiten und gleichzeitig den Energieverbrauch und die Kosten minimieren. Xayn hat die Energieeffizienz seines eigenen Modells getestet und die Ergebnisse veröffentlicht. Beim Vergleich mit anderen oft verwendeten Transformer-Modellen, die die Suchabsichten der Nutzer und die indizierten Inhalte verstehen, habe Xaynia bis zu 20-mal energieeffizienter abgeschnitten.

Xayn validiere seine Technologie mit verschiedenen Medieninstitutionen und -unternehmen, u. a. mit dem ZDF. Die Medienanstalt arbeite daran, die ZDFmediathek zu optimieren und Videoempfehlungen für Nutzer auf eine datenschutzfreundliche und energieeffiziente Weise zu personalisieren.

Anwendungen in unterschiedlichen Branchen

Das Plug-in für Semantic Search & Recommendations eigne sich für große Wissensdatenbanken von z. B. Medienhäusern, E-Commerce-Unternehmen oder Reiseplattformen, da personalisierte Suchergebnisse und Empfehlungen die Relevanz von Inhalten für Nutzer – und somit auch deren Zufriedenheit – erhöhen. Um ein kohärentes Nutzungserlebnis auf verschiedenen Plattformen zu schaffen, könne Xaynia auf Websites sowie in Apps, Push-Benachrichtigungen und Newslettern eingesetzt werden.

Transparenz, Datenschutz und Nachhaltigkeit

Das aus einem Forschungsprojekt an der Universität Oxford und dem Imperial College London hervorgegangene Unternehmen Xayn setzt sich für die technologische Souveränität Europas ein. Das Berliner Unternehmen habe sich den europäischen Werten Transparenz, Datenschutz und Nachhaltigkeit verpflichtet und Xaynia deshalb als Open-Source-Lösung entwickelt.

In der kostenpflichtigen Variante steht eine API zur Verfügung. Sie sei unkompliziert zu integrieren und ermögliche es Geschäftskunden, Xaynia und Xayns Infrastruktur zu nutzen, ohne dass sie über Fachwissen im Bereich des maschinellen Lernens verfügen oder selbst ein komplexes Content-Discovery-System unterhalten müssen.

(ID:49451608)