Kommentar von Martin Kraft, Druid AI Auch KI-Agenten brauchen Leistungsbeurteilungen

Da KI-Agenten Verantwortung für reale Geschäftsprozesse übernehmen, sollten Unternehmen überdenken, wie sie deren Leistung messen. Die Frage ist nicht mehr nur, ob KI die Arbeit erledigen kann, sondern ob sie ihre Aufgabe gut erfüllt.

Der Einsatz von KI-Agenten zur Steuerung von Workflows und Durchführung von Geschäftsprozessen geht über erste Pilotprojekte hinaus und findet zunehmend breite Anwendung im produktiven Einsatz. Doch mit der zunehmenden Verbreitung steht man auf Managementebene vor einer weitaus schwierigeren Frage: Woher weiß man, ob die eingesetzten KI-Agenten tatsächlich gute Arbeit leisten?

Das klingt selbstverständlich, und doch wurden viele der Metriken, die zur Bewertung von KI verwendet werden, für eine andere Generation von KI-Technologie entwickelt. Im Kundenservice beispielsweise ist eine der gängigen Kennzahlen für den Erfolg von KI-Agenten das sogenannte „Containment“ – also der Prozentsatz der Interaktionen, die ohne die Einbindung eines Menschen abgeschlossen werden. Ursprünglich ging man davon aus, dass ein KI-Agent, der 96 Prozent der Interaktionen selbstständig bearbeitet, erfolgreicher ist als ein KI-Agent, der nur 80 Prozent selbstständig bearbeitet.

Kommentar von Dr. Denis Lassance, Project Management Institute (PMI)

Viele Projekte bleiben hinter den Erwartungen zurück – das machen erfolgreiche Unternehmen anders

Die Frage ist, was sich hinter diesen 20 Prozent verbirgt. Ein Versicherungskunde zum Beispiel, der seinen Anbieter kontaktiert, meldet einen Autounfall. Der KI-Agent beginnt, die Informationen zu erfassen, die für die weitere Bearbeitung des Schadensfalls erforderlich sind. Im Verlauf des Gesprächs werden die Umstände jedoch komplexer und fallen außerhalb des definierten Auftrags des KI-Agenten. Anstatt zu versuchen, den Prozess selbst abzuschließen, erkennt der KI-Agent den Ausnahmefall und übergibt den Kunden zusammen mit dem relevanten Kontext an einen Schadenspezialisten.

Der erste KI-Agent hätte möglicherweise weitergemacht und eine weitere erfolgreich durch Containment abgeschlossene Interaktion verzeichnet. Der zweite KI-Agent verzeichnet eine Eskalation. Dennoch hat er möglicherweise genau das Verhalten gezeigt, das der Versicherer tatsächlich erwartet: Autonomie, solange sie angemessen ist, Urteilsvermögen, sobald sich die Umstände ändern, und menschliches Eingreifen, wenn Expertise erforderlich ist.[1.1]

Welcher KI-Agent hat besser performt? Das bedeutet nicht, dass es falsch ist, Containment als Kennzahl zu verwenden – es kann eine nützliche operative Metrik sein. Das Problem besteht darin, diese einzelne Kennzahl mit der Gesamtperformance gleichzusetzen.

Von der Messung der Automatisierung zum Leistungsmanagement

Dieses Thema wird immer wichtiger, da KI-Agenten Verantwortung für zunehmend komplexe Workflows und Prozesse übernehmen. Produktivität ist wichtig, aber ebenso wichtig sind Urteilsvermögen, Genauigkeit, Compliance und das Wissen darum, wann zusätzliche Expertise erforderlich ist.

Unabhängig davon, ob KI-Agenten Kunden eines Versicherers unterstützen, Prozesse bei einem Gesundheitsdienstleister koordinieren oder ein hohes Volumen an Kundenservice-Interaktionen bearbeiten, können sie nicht allein deshalb als erfolgreich gelten, weil sie eine große Anzahl von Interaktionen selbstständig abschließen. Sie müssen innerhalb ihrer definierten Rolle agieren, Zugriffsberechtigungen respektieren, geschäftliche und regulatorische Regeln befolgen, genehmigte Informationen verwenden, die erforderliche Aufgabe korrekt ausführen und erkennen, wann menschliches Eingreifen angemessen ist.

Kommentar von Nitin Singhal, GitLab

Institutionelles Wissen ist die Entscheidungsschicht für erfolgreiche KI-Agenten

Diese kontextbezogenen Kriterien stellen eine wichtige Veränderung in der Art und Weise dar, wie Unternehmen über die Messung der Leistung ihrer KI-Agenten denken – weg vom reinen Messen der Automatisierung, hin zum Management der Leistung.

KI-Agenten sollten eine Stellenbeschreibung haben

Bevor eine Führungskraft einen Mitarbeitenden bewertet, legt sie dessen Rolle, Verantwortlichkeiten und Befugnisse fest und definiert, wie Erfolg gemessen wird. Warum sollte das bei KI-Agenten anders sein?

Jeder produktiv eingesetzte KI-Agent sollte einen klar definierten Auftrag haben: Was soll erreicht werden? Welche Prozesse dürfen ausgeführt werden? Auf welche Systeme und Informationen darf zugegriffen werden? Welche Richtlinien müssen befolgt werden? Was gilt als Erfolg? Und ganz entscheidend: Wo enden die Befugnisse? Die Performance kann dann anhand dieses Auftrags bewertet werden – einschließlich der Fähigkeiten des KI-Agenten, der von ihm genutzten Tools und Systeme, der von ihm ausgeführten Aufgaben und der von ihm erzeugten Ergebnisse.

Die praktischen Fragen sind eindeutig. Hat der KI-Agent das erforderliche Ergebnis erreicht? Wurden die Richtlinien befolgt? Waren die Informationen korrekt? Ist er innerhalb der Berechtigungen geblieben? Wurden die Aktionen aufgezeichnet und kann die Organisation, falls etwas schiefgegangen ist, nachvollziehen, aus welchen Gründen es dazu gekommen ist? Wurde korrekt eskaliert? Wenn ein Unternehmen diese Fragen nicht beantworten kann, sollte eine hohe Automatisierungsrate wenig Anlass zur Beruhigung geben.

Governance sollte nicht nachträglich hinzugefügt werden

Mit der zunehmenden Nutzung von KI-Agenten auf Unternehmensseite muss Governance von Anfang an Bestandteil der Definition und Messung der Leistung sein. Die Fehlertoleranz von KI-Agenten, ihre regulatorischen Verpflichtungen, Datenschutzanforderungen, Zugriffsrechte und Eskalationsregeln müssen festgelegt werden, bevor KI-Agenten beginnen, Entscheidungen zu treffen. Das Verhalten muss anschließend beobachtbar sein, damit Organisationen Fehler, Abweichungen oder Veränderungen im Laufe der Zeit erkennen können.

All das ist entscheidend, wenn KI-Agenten eigenständig Entscheidungen treffen und Handlungen ausführen. Es besteht ein erheblicher Unterschied zwischen einem KI-System, das Informationen über einen geplanten Arzttermin bereitstellt, und einem, das auf Patientenakten zugreift, Termine verschiebt, das Behandlungspersonal über Änderungen informiert, neue Terminbestätigungen bzw. Erinnerungen versendet oder Terminkonflikte erkennen kann. KI-Agenten mehr Autonomie zu gewähren, erfordert ein wesentlich engeres Leistungsmanagement – nicht einfach nur bessere Modelle.

Regelmäßiges Überprüfen der Leistung des KI-Agenten

Menschliche Mitarbeiter erhalten möglicherweise einmal im Jahr eine formelle Leistungsbeurteilung. KI-Agenten benötigen eine wesentlich engmaschigere und kontinuierliche Bewertung ihrer Leistung, die sich schlagartig verändern kann, wenn sich Modelle, Daten, Workflows, Integrationen und das Nutzerverhalten ändern. Ein starker Leistungs-Score heute garantiert keine starke Leistung in sechs Monaten. Um zu beurteilen, ob die Komponenten eines KI-Agenten nicht nur vorhanden, sondern auch messbar sind und im Laufe der Zeit aktiv gemanagt werden, müssen daher reale Arbeitsabläufe überwacht, Ergebnisse bewertet, Schwachstellen identifiziert, der KI-Agent verbessert und anschließend wiederholt getestet werden.

Knowledge Layer aufbauen

Wissensschicht für kontrollierbare KI-Agenten

Der erfolgreichste KI-Agent ist möglicherweise nicht derjenige, der menschliche Beteiligung am häufigsten vermeidet. Es könnte vielmehr derjenige sein, der Routineaufgaben selbstständig erledigt, innerhalb klar definierter Grenzen gute Entscheidungen trifft und genau im richtigen Moment einen Menschen hinzuzieht.

In der ersten Phase der Einführung von Enterprise AI wollten Unternehmen wissen, ob die Technologie funktioniert. In der nächsten Phase werden sie nachweisen müssen, dass sie gut funktioniert. Dafür sollten KI-Agenten weniger wie Softwarekomponenten behandelt werden, die lediglich implementiert werden, sondern eher wie Mitglieder der Belegschaft, deren Leistung definiert, gemessen und kontinuierlich gemanagt werden muss.

(ID:50953246)