Suchen

Testing-Methode von Applause Fehlerquellen und Bias in Künstlichen Intelligenzen finden

| Autor / Redakteur: Martin Hensel / Nico Litzel

Applause, Spezialist für digitale Qualitätssicherung, hat eine neue Testing-Methode für Künstliche Intelligenz vorgestellt. Das Verfahren soll Fehlerquellen und Bias in KI-Anwendungen aufdecken.

Firma zum Thema

Das KI-Testing Applause eignet sich auch für Gesichtserkennungsanwendungen.
Das KI-Testing Applause eignet sich auch für Gesichtserkennungsanwendungen.
(Bild: Getty Images)

Das skalierbare Applause-Angebot dreht sich um das Trainieren und Testen von KIs. Mit der Lösung lassen sich Algorithmen schneller anlernen und die Ergebnisse auf Schwachstellen und Verzerrungen im Lernmuster überprüfen. Dies soll das Risiko eines Bias reduzieren, wobei eine KI Sachverhalte aufgrund mangelnder Datengrundlage diskriminiert. Als Grundlage dient die Community der geprüften Applause-Tester. Sie sorgt für ein breites Spektrum an Lernszenarien und -daten. Die trainierten Algorithmen und Anwendungen werden zudem auf diversen Geräten und in verschiedenen geografischen und kulturellen Umgebungen erprobt, um Schwachstellen und Probleme zu finden. Auf diese Weise entsteht in Echtzeit verwertbares Nutzer-Feedback, das unter anderem für kürzere Entwicklungszyklen sorgt.

„Nutzer erwarten, dass sich KI-Anwendungen natürlicher und somit ,menschlicher' verhalten. Der crowdbasierte Ansatz von Applause liefert dafür genau das, was dem KI-Testing bisher gefehlt hat: die Möglichkeit, eine Vielzahl von realen menschlichen Interaktionen durchzuspielen, bevor eine Anwendung veröffentlicht wird”, erklärt Kristin Simonini, Vice President of Product von Applause.

Mögliche Einsatzgebiete

Die Applause-Lösung eignet sich für verschiedene Bereiche. So lassen sich beispielsweise Sprachassistenten mit einer Vielzahl an unterschiedlichen Befehlen und Äußerungen effizient trainieren. Weitere Einsatzmöglichkeiten finden sich etwa bei der optischen Zeichenerkennung (OCR), die über bereitgestellte Dokumente und Texte ausgebildet und im Ergebnis von geschulten Testern kontrolliert wird. Ähnlich sieht es bei Bilderkennung und Biometrie aus. Auch Chatbots lassen sich mit dem Applause-Verfahren trainieren. Dabei spielen Tester strukturiert eine Vielzahl an Szenarien durch, prüfen Beispielfragen und erproben Interaktionsabsichten. Dies soll sicherstellen, dass der Chatbot möglichst viel versteht und menschenähnlich reagiert.

Weitere Informationen sind auf der Applause-Website erhältlich.

(ID:46249815)