User Experience: Wie macht man eine KI-Lösung erlebbar?

Sep. 24, 2020

Was tun, wenn man nichts tun kann? Im Gespräch mit Senior UX Designer Alexander Lenhart geht es um das Problem, eine KI-Lösung erlebbar zu machen, damit der Kunde auch merkt, wie gut sie ist.

Dieses Problem tritt vor allem bei einer KI-gestützten Prozessoptimierung auf, die im Hintergrund arbeitet. Da sie eigentlich keine Benutzeroberfläche besitzt, gibt es keine direkte Interaktion, keine spürbare Zusammenarbeit. Das führt unter Umständen zu einer negativen User Experience, zur Unzufriedenheit bei den Usern oder sogar zu einer sinkenden Effizienz der Lösung.
Alex hat sich mit mir als UX-Designer über unsichtbare KIs, menschliche Dialoge und die Arbeit auf Augenhöhe unterhalten.

Alex, wenn man eine KI-Lösung implementiert, die wie tooka.ai praktisch komplett im Hintergrund läuft, bekommt der User gar nicht mit, dass sie da ist. Das kann zu Schwierigkeiten führen, oder?

Naja es gilt ja schon, “the best UI is no UI”. Aber dennoch muss man wissen, beziehungsweise Feedback bekommen, dass eine KI am Werk ist - sonst stößt man tatsächlich auf gewisse psychologische Probleme. Im schlimmsten Fall glauben die Mitarbeiter, das Ding funktioniere nicht, denn sie bemerken nicht, wie und woran es arbeitet.
Dass eine „unsichtbare“ KI am Werk ist, merkt man bei unserer hauseigenen Lösung tooka.ai vor allem am Workload, der schneller und effizienter abgearbeitet wird. Die Mitarbeiter haben plötzlich mehr Zeit für anspruchsvollere Aufgaben als noch zuvor. Aber das ist zu subtil und wird oft nicht bemerkt – es braucht also in aller Regel ein deutlicheres Signal. Zum Beispiel einen Austausch zwischen KI und Anwender.

Gibt es eine konkrete Methode, um die Interaktion erlebbar zu machen?

Die Künstliche Intelligenz im Hintergrund wird vor allem durch das Vier-Augen-Prinzip erlebbar: Eine Entscheidung oder eine Information wird dadurch immer von zwei Akteuren betrachtet und bewertet. Füllt die KI beispielsweise ein Formular automatisiert aus, überprüft der Mitarbeiter die eingegebenen Informationen und korrigiert gegebenenfalls. Kommen die Informationen dagegen vom Mitarbeiter, checkt die KI den Inhalt und hebt die Stellen hervor, die laut dem KI-Modell auffallend abweichen. Wohl gemerkt: Es hebt nur hervor, es korrigiert nicht eigenständig!

 

"Das permanente Feedback zwischen Mensch und Maschine führt dazu, dass beide Seiten voneinander lernen – und dass das Vertrauen in den “neuen Mitarbeiter” wächst."

 

Angestrebt wird eine ideale Zusammenarbeit, wie sieht da für dich die Rollenverteilung aus, sodass sich der Mitarbeiter dabei wohl fühlt?

Das lässt sich gut an einem KI-gestützten E-Mail-Spam-Filter veranschaulichen. Auch wenn von 100 E-Mails 99 Spam-E-Mails richtig herausgefiltert werden: Es wird immer diese eine eigentlich erwünschte E-Mail geben, die im Spam-Ordner landet. Der User muss dann trotzdem die Möglichkeit haben, der KI zu sagen, diese E-Mails in Zukunft anders zu behandeln.
Bei einer KI, die im Hintergrund arbeitet, passiert das durch regelmäßige Gegenchecks der Vorhersagen. Die KI merkt sich, in welchem Fall welche Vorhersage getroffen wurde. Der Mitarbeiter schaut sich die getroffene Vorhersage an (etwa eine Kategorie oder eine extrahierte Information) und korrigiert gegebenenfalls. Das kann beispielweise im angebundenen Outlook oder JIRA-System passieren – der Mitarbeiter hat also indirekt eine Benutzeroberfläche zur Interaktion mit der KI. Erst im Gegencheck, dem sogenannten Re-Training, werden von der KI die gespeicherten Werte mit den korrigierten verglichen und die entsprechenden Gewichtungen im Modell angepasst. So verbessert sich das Modell mit jeder Interaktion und die KI lernt automatisch dazu.

 

tooka-ai_UX_illustration-001_v01Alex Lenhart, Senior UX Designer

 

Zwischen KI und User entsteht also eine Art Ausbilder-Lehrling-Verhältnis.

Ganz genau – das ist ein weiteres Mittel, eine KI erlebbar zu machen und ihre Akzeptanz zu steigern. Durch Korrekturen lässt sie sich verbessern und diese werden vom Menschen durchgeführt. Dadurch entsteht eine Zusammenarbeit, die effizienzsteigernd sowohl für den Menschen als auch die Maschine ist. Es ist jedoch wichtig, dass der Mitarbeiter immer das Gefühl hat, über der KI zu stehen und die Kontrolle zu behalten.

 

"Die KI sollte die Rolle eines Unterstützers, eines Helfers, einnehmen und vom Mitarbeiter lernen können."

 

Die Kontrolle zu behalten ist also wichtig. Dieses Gefühl zu vermitteln, betrifft aber nicht nur die technische Umsetzung, sondern auch das Wording und das Design der Interaktion. Wie sieht eine gute Kommunikation zwischen Menschen und Maschine aus?

Das Ziel muss sein, die KI eine ständige Konversation mit dem Nutzer führen zu lassen. Normalerweise kann man das mit Korrekturen und Gegenchecks erreichen, weil hier Mitarbeiter und KI im direkten Austausch miteinander stehen. Alternativen wie Toaster-Notifications, Tooltips, grafisches Highlighten oder Mailbenachrichtigungen sind aber auch denkbar, ebenso wie ausführliche Reports über die Arbeit der KI.
Wichtig ist: konkrete Zahlenwerte spielen dabei weniger eine Rolle. Vielmehr sollte die Interaktion, der Dialog im Vordergrund stehen. Statt „Es wird zu 87% schneller gehen, wenn du hier klickst.“ sollte die Information wie eine Hilfestellung formuliert werden: „Bitte schau da nochmal drüber. Sollte das nicht passen, gib mir doch bitte Rückmeldung, damit ich dazu lerne.“
So hat man auch nicht das Gefühl, dass man direkt mit einer Maschine arbeitet. Es lässt die Beziehung und die Kommunikation weniger starr wirken und stärkt das Vertrauen in sowie die Zufriedenheit mit der KI.

Vielen Dank, Alex, für das Gespräch!

Larissa Haas

Ihr Ansprechpartner: Larissa Haas

Larissa Haas arbeitet als Data Scientist bei der sovanta AG. Sie fokussiert sich auf das Themengebiet Natural Language Processing und hilft, Chatbots immer intelligenter werden zu lassen sowie lästige Aufgaben mithilfe von Künstlicher Intelligenz zu automatisieren.