Open-Source-Alternative zu ChatGPT KI aus der Schweiz als Dienstleistung

Anbieter zum Thema

Kestra S.A.S.

Fujitsu Technology Solutions GmbH

Fivetran Germany GmbH

Infomaniak stellt eine KI als Dienstleistung bereit, die auf dem französischen Open-Source-Sprachmodell Mixtral basiert. Die KI sei als API auf Abruf verfügbar, interpretiere seit ihrer Einführung bis zu 32.000 Token pro Prompt und sei ebenso leistungsstark wie ChatGPT 3.5.

Unternehmen, die sensible Daten verarbeiten, können nun eine vertrauenswürdige generative KI in ihre Applikationen integrieren, die im Herzen Europas gehostet wird – mit garantierter Datenkontrolle, so das Versprechen von Infomaniak. Im Gegensatz zu ChatGPT basiert das von dem Schweizer Entwickler von Web-Technologien vermarktete Sprachmodell auf Mixtral 8x7B, einer freien Technologie, deren Algorithmus und Funktionsweise von Ingenieuren aus aller Welt überprüft werden können. Diese Besonderheit mache auch spezifische Anpassungen möglich, um neue Dienstleistungen zu konzipieren und den Einsatz der KI für böswillige Aktionen wie das Generieren von Spam einzuschränken.

Infomaniak versichert, dass es die verarbeiteten und an die KI gesendeten Daten nicht speichert und einzig für die Zwecke der Kunden verwendet. Die generative KI werde ausschließlich in der Schweiz in der Infrastruktur des Anbieters gehostet. Dies garantiere Unternehmen eine umfassende Datenkontrolle und die vollständige Einhaltung der Rechtsvorschriften in der Schweiz und in der EU.

So leistungsstark wie ChatGPT 3.5

Die von Infomaniak bereitgestellte KI sei in der Lage, Texte in Französisch, Deutsch, Spanisch, Italienisch und Englisch zu verarbeiten, um komplexe Programmier- und Datenanalyseaufgaben rasch auszuführen.

„Es ist nur eine Frage der Zeit, bis Open-Source-KIs leistungsfähiger sind als die aktuell besten proprietären Lösungen für alltägliche Anwendungen. Man darf nicht vergessen, dass Cloud-Computing heute hauptsächlich auf freien Technologien wie OpenStack, Kubernetes und Linux-basierten Betriebssystemen gründet“, erklärt Marc Oehler, CEO von Infomaniak.

Auf operativer Ebene ermögliche die bereitgestellte Dokumentation Entwicklern die einfache Integration von KI in die Arbeitsumgebungen von Unternehmen, um beispielsweise virtuelle Assistenten zu erstellen, Fragen zu beantworten, zusammenzufassen, zu klassifizieren, korrigieren, generieren, übersetzen oder auch Stimmungsanalysen durchzuführen.

So umweltfreundlich wie möglich

Künstliche Intelligenz verbraucht viel Strom. Die Geschäftstätigkeiten von Infomaniak werden eigenen Angaben zufolge ausschließlich mit erneuerbarer Energie betrieben. Der Energieeffizienz-Indikator (PUE) der für die Produktion eingesetzten Rechenzentren von Infomaniak liege bei durchschnittlich 1,09 gegenüber 1,8 in Europa, da sie ausschließlich mit gefilterter natürlicher Luft ohne Klimatisierung gekühlt würden. Derzeit werde neues Rechenzentrum getestet. Dies werde, so Infomaniak, die verbrauchte Energie vollständig wiederverwerten, um im Winter bis zu 6.000 Haushalte und im Sommer über 100.000 Haushalte zu heizen.

Zudem sei Mixtral energieeffizienter als seine proprietären Alternativen: Die Architektur verwalte insgesamt 45 Mrd. Parameter, verbrauche aber nur zwölf Mrd. pro Token, was laut dem französischen Start-up den Energieverbrauch erheblich senke und gleichzeitig bessere Ergebnisse liefere als Llama 2 und ChatGPT 3.5.

Eine Million kostenlose Token

Der Nutzer zahlt monatlich nur das, was er verbraucht. Die Abrechnung der Dienstleistung funktioniert mit einem Tokensystem – ein Token ist eine Maßeinheit, die ca. vier Zeichen entspricht.

Bei der Einführung bietet die Infomaniak-KI insgesamt eine Million Token. Die Tarife seien günstiger als bei Mistral oder OpenAI (eingehende Token bezeichnen Anfragen an die KI, ausgehende Token bezeichnen Antworten, die von der KI generiert werden):

Infomaniak LLM API

• Eingehende Token (CHF): 0,0005/1.000 Token

• Ausgehende Token (CHF): 0,0015/1.000 Token

Mistral small

• Eingehende Token (CHF): 0,00056/1.000 Token

• Ausgehende Token (CHF): 0,0017/1.000 Token

GPT-3.5 Turbo

• Eingehende Token (CHF): 0,0013/1.000 Token

• Ausgehende Token (CHF): 0,0018/1.000 Token

Nach der Erstellung des Kontos stehe die Dienstleistung sofort zur Verfügung. Über ein Dashboard könne der Verbrauch in Echtzeit verfolgt werden.

(ID:49911530)