Experimentieren mit Azure Open AI und Playgrounds So lassen sich KI-Sprachmodelle in Azure OpenAI Studio testen

Anbieter zum Thema

Microsoft Deutschland GmbH

Fsas Technologies GmbH

INFOMOTION GmbH

QUNIS GmbH

Microsoft stellt Playgrounds zur Verfügung, die im Azure OpenAI Studio genutzt werden können, um Sprachmodelle zu testen. Das ist hilfreich, um Einstellungen anzupassen, ohne eigenen Code schreiben zu müssen.

Azure OpenAI Studio ermöglicht mit Azure Open AI Service die Integration von KI-Sprachmodellen der Entwickler OpenAI, Meta oder anderer Anbieter in eigene KI-Anwendungen. Entwickler haben damit die Möglichkeit, eigene Anwendungen mit GPT-3.5, GPT-4 oder Dall-E zu erstellen.

Das Azure OpenAI Studio ermöglicht darüber hinaus durch die Unterstützung verschiedener SDKs und Programmiersprachen die Entwicklung von KI-Programmen auf Basis der unterstützten LLMs. So kann beispielsweise Python verwendet werden. Mit Azure OpenAI Studio können aber auch KI-Anwendungen und eigene Chatbots ohne Programmierung erstellt werden.

Bildergalerie

Azure OpenAI Studio im Webbrowser nutzen

Um mit Azure OpenAI Studio zu arbeiten, muss man einfach die Adresse oai.azure.com aufrufen. Nach der Authentifizierung und dem Aufruf des Abonnements startet die Oberfläche. Um den Azure Open AI Service nutzen zu können, muss zunächst ein Antrag bei Microsoft gestellt werden. Dies erfolgt über die Seite des Azure OpenAI Service bei Microsoft über den Button „Zugang beantragen“.

Nach dem Öffnen des Azure AI Studio steht auch der Bereich „Playground“ zur Verfügung. Dazu muss ein erster Azure OpenAI Service erstellt werden. Im „Chat Playground“ können Chatbots getestet werden, die auf GPT-3.5-Turbo- und GPT-4-Modellen basieren. Diese sind für die Interaktion mit KI geeignet. Der „Completions Playground“ bietet Funktionen zur Erstellung oder Bearbeitung von Texten, z. B. Zusammenfassungen von Texten oder anderen Informationen oder die Erstellung von Inhalten. Die beiden APIs bieten somit verschiedene Testmöglichkeiten für eigene Anwendungen auf Basis der zur Verfügung gestellten Vorlagen. Im „Chat Playground“ können unter „Configuration“ Anpassungen vorgenommen werden.

Unter „Deployment“ erfolgt die Auswahl des Deployments, das im Playground verwendet werden soll. Diese sind wiederum unter „Deployments“ zu finden. Auf diese wird noch näher eingegangen. Über „Parameter“ wird konfiguriert, wie die KI auf Basis ihres Modells antworten soll. Auch auf diese Parameter gehen wir noch näher ein.

Schwerpunkt des Chatbots festlegen

Am Beispiel des Chat Playgroups kann bei der Einrichtung festgelegt werden, welchen Schwerpunkt der Chatbot haben soll. Das beeinflusst die Antworten der KI. Ein Beispiel könnte die Auswahl „Xbox Kundendienstmitarbeiter“ sein. Auf Basis dieser Auswahl erstellt der Assistent eine Systemnachricht, die genauer angibt, für welchen Bereich der Chatbot optimiert ist. An dieser Stelle werden auch Beispiele angezeigt. Über „User Message“ können eigene Fragen oder Anweisungen an den Chatbot geschrieben werden, also Prompts, wie bei der praktischen Nutzung des Chatbots. Der Chatbot antwortet wie in einer produktiven Antwort. Unter „Konfiguration“ kann das Antwortverhalten angepasst werden.

Nach Auswahl der jeweiligen Funktion, zum Beispiel „Artikel zusammenfassen“ bei „Completions“, kann mit „Generieren“ die Funktion anhand der eingestellten Funktionen zur Erstellung von Inhalten getestet werden. Dies geschieht über die „Parameter“ auf der rechten Seite. Hier können Entwickler von KI-Anwendungen ansetzen, um das Ergebnis der eigenen Anwendung anhand des gewählten Modells zu testen. Im Completions Playground ist es parallel auch möglich, eigene Anweisungen zu geben, wie sich die KI verhalten soll. Hier kann der KI mitgeteilt werden, welche Aufgabe sie erledigen soll. Dies beeinflusst auch die Antworten. Im DALL-E Playground können Benutzer Bildbeschreibungen eingeben und die daraus generierten Bilder betrachten. Dieser Playground ist besonders nützlich für kreative Anwendungen, die visuelle Inhalte benötigen.

Alle aktuellen Modelle, die im Azure OpenAI Service verwendet werden können, sind unter „Models“ zu finden. Diese werden laufend aktualisiert. Nach der Auswahl eines Modells kann dieses in einer eigenen Anwendung bereitgestellt werden. Die auf den ausgewählten Modellen basierenden Deployments sind in der Weboberfläche des Azure OpenAI Studios unter „Deployments“ bzw. in deutschen Umgebungen unter „Bereitstellungen“ zu finden und können von dort aus bearbeitet werden. Hier können auch neue Deployments/Bereitstellungen angelegt werden. Über den Bereich „Data files“ können eigene Daten integriert werden, mit denen das Modell trainiert werden kann. Das ist jedoch zunächst optional.

Parameter beim Testen von Modellen anpassen

Unter „Parameter“ können die Einstellungen des jeweiligen Modells angepasst werden. Dies hat direkte Auswirkungen auf die Antworten, die die KI liefert. Über die „Temperatur“ wird unter „Parameter“ die zufällige Generierung der Antworten gesteuert. Je höher die Temperatur, desto „kreativer“ ist die Antwort der KI. Mit „Maximale Länge (Token)“ kann die maximale Anzahl von Token festgelegt werden, die für eine Modellantwort verwendet werden sollen. Token können Wörter, Satzzeichen oder Teile von Wörtern sein. Ein höherer Wert ermöglicht längere Antworten, während ein niedrigerer Wert kürzere und prägnantere Antworten erzwingt.

„Endsequenzen“ steuert, dass das Modell am Ende von Sätzen, Listen oder anderen logischen Abschnitten endet. Stoppsequenzen sind bestimmte Zeichenfolgen, die die Textgenerierung beenden. Wenn das Modell auf eine dieser Sequenzen trifft, stoppt es die Ausgabe. Dies ist nützlich, um die Länge und Struktur der Antworten zu kontrollieren. Top-p (Nucleus Sampling), auch bekannt als Nucleus Sampling, bestimmt, welche Wahrscheinlichkeitsmasse der möglichen nächsten Token berücksichtigt wird. Ein Wert von 0,9 bedeutet, dass die am nächsten liegenden Token, die zusammen 90 Prozent der Wahrscheinlichkeitsmasse ausmachen, berücksichtigt werden. Dieser Parameter steuert das Gleichgewicht zwischen Diversität und Konsistenz der Antworten.

Frequency Penalty beeinflusst die Häufigkeit, mit der Tokens in der generierten Ausgabe wiederholt werden. Ein höherer Wert bestraft häufige Wiederholungen stärker, was zu abwechslungsreicheren und weniger redundanten Texten führt. Presence Penalty bestimmt die Wahrscheinlichkeit, dass das Modell neue Themen in die Generierung einbringt. Ein höherer Wert erhöht die Wahrscheinlichkeit, dass neue Ideen und Konzepte in der Antwort auftauchen.

Der Logit Bias ermöglicht es, die Wahrscheinlichkeiten bestimmter Token während der Generierung zu manipulieren. Durch die Anpassung dieses Parameters können bestimmte Wörter bevorzugt oder vermieden werden, was die inhaltliche Richtung der generierten Texte beeinflussen kann. Best of legt fest, wie viele verschiedene Antwortmöglichkeiten das Modell generieren soll, bevor die beste ausgewählt wird. Ein höherer Wert kann zu qualitativ besseren Antworten führen, da das Modell mehrere Alternativen auswertet. Durch die Anpassung dieser Parameter können Nutzer die Ausgabe des Azure OpenAI Service genau steuern und an ihre spezifischen Bedürfnisse und Anwendungsfälle anpassen. Die richtige Kombination und Einstellung der Parameter erfordert oft Experimente und Feinabstimmung, um optimale Ergebnisse zu erzielen.

(ID:50107061)