KI im Unternehmen: eine Herausforderung für UX-Designer für effektives, transparentes und ethisches Service-Design

Falls noch nicht geschehen, bereiten fast alle großen Unternehmen* ihre Forschungs- und Entwicklungsabteilungen auf den Wettlauf um die Entwicklung neuer KI-Tools vor: Datenanalysten, Datenwissenschaftler und Entwickler werden eingestellt oder man wendet sich an spezialisierte Dienstleister.

Die Nutzererfahrung ist die Grundlage für jedes neue Tool. Machen Sie sich Gedanken über die UX dieser intelligenten Unternehmenslösungen und stellen Sie sicher, dass die Tools angenommen und effektiv genutzt werden. Welche spezifischen Herausforderungen in Bezug auf die UX stehen im Mittelpunkt dieses neuen Technologiebooms, der noch einige Unklarheiten birgt?

UX-Designer: Ihre Checkliste für die Entwicklung eines KI-Dienstes

1. Ermitteln Sie von Anfang an die technologischen Möglichkeiten, die das Unternehmen für die Lösung hat

Angenommen, es ist Ihr Ziel KI zu nutzen, um einen Service oder ein Produkt zu verbessern. Das Launch-Meeting wird hauptsächlich von Daten- und Entwicklerprofilen besucht. In diesem Fall wird der Wunsch, eine Lösung mit generativer KI bereitzustellen, also weniger von den Anwendern in der Praxis getrieben, sondern von den Forschungs- und Entwicklungs- (F&E) sowie Business-Teams.

Während die goldene Regel beim benutzerorientierten Design lautet, mit Bedürfnissen statt mit Lösungen zu beginnen, werden KI-Projekte oft als technologische Innovationsherausforderung angegangen.

Identifizieren und schärfen Sie die Anwendungsfälle Ihrer Kernzielgruppen. Bitten Sie Ihre Teams, Ihnen zu erklären, was sie im Rahmen des technischen Proof of Concept bereits erforscht haben und was sie glauben, auf der Grundlage welcher Datenquellen erreichen zu können. Ermutigen Sie sie vor allem darin, Ihnen das alles in Laiensprache zu erklären. So können Sie sicherstellen, dass Sie wiederum die Modelle in anderweitigen Kontexten erklären können.

2. Berücksichtigen Sie bei diesem speziellen KI-Projekt die Ethik

Dieses Thema dürfte für die Mitglieder von F&E-Teams und KI-Experten nichts Neues sein, aber das muss nicht bedeuten, dass sie Ethikfragen in ihrem eigenen Projekt vollständig berücksichtigt haben. Es ist wahrscheinlich, dass Aspekte im Zusammenhang mit der Datenqualität und Bias-Management bedacht wurden, doch sind es auch folgende:

• Das Risiko, die Nutzerverantwortung an die KI abzugeben?
  
  Blicken wir zum Beispiel auf das Konzept der selbstfahrenden Autos. Viele Menschen sind dem Gedanken, nicht mehr selbst hinter dem Steuer sitzen zu müssen, nicht abgeneigt. Doch gehen mit der Abgabe von Verantwortung auch einige Konsequenzen einher.
   
• Das Risiko, dass die Kenntnisse der Endnutzer langfristig verloren gehen?
  
  Wir sollten frühzeitig entscheiden, inwieweit wir uns auf die KI verlassen. Nutzen wir sie als Hilfsassistent oder setzen wir sie für Kernfunktionen ein? Sind wir mit letzterer Wahl noch in der Lage, in unserem autonomen Fahrzeug im Notfall eine Vollbremsung durchzuführen?  

Berücksichtigen Sie diese Aspekte, um die KI in einer geeigneten Rolle zu verwenden: für die Bewältigung von Hilfsaufgaben oder mit einer Kernfunktion während der Bedienung eines Interfaces. Werden Benutzer die gelieferten Ergebnisse noch einmal Korrektur lesen und anhand ihres eigenen Wissens oder anderer Quellen überprüfen? Formuliert die KI die Ergebnisse als Fakten oder Vorschläge? Werden Zuverlässigkeits- oder Sensibilitätswerte betont? Diese und viele weitere Fragen stellen sich in dem Kontext.

Diese Fragen sind keineswegs nebensächlich. Sie erhöhen den Mehrwert des Projekts und tragen zur Einführung eines KI-Gesetzes bei, das derzeit in der EU zur Diskussion steht. Mit diesem Gesetz soll festgelegt werden, welche Art von KI im europäischen Raum akzeptiert wird: KI, die fair und erklärbar ist, die die Privatsphäre respektiert und die robust und transparent ist. In diesem Sinne sollten Ethik, Verantwortung und eine starke Governance in das Design der Lösung integriert werden. So können grundlegende Konzepte respektiert werden, die unser Kontinent gerne entwickelt sehen würde.

3. Gehen Sie strategisch an den Designprozess heran

Generative KI benötigt große Mengen an Daten, um zu lernen und sich weiterzuentwickeln: Sie ist wie ein Kind, das aufwächst, mit oder ohne Ihre Hilfe. Heutzutage werden viele Softwareprogramme mit einer festgelegten Projektzeit entwickelt, dann in Produktion gegeben und jahrelang nicht mehr verändert. KI-Modelle sind jedoch so konzipiert, dass sie sich durch die Aufnahme aller Daten, die sie erhalten, weiterentwickeln. Dadurch entsteht die Gefahr, dass sie aus dem Ruder laufen, wenn sie nicht regelmäßig überwacht und anhand hochwertiger Daten neu trainiert werden.

Verschaffen Sie sich einen Überblick über alle relevanten UX-Design-Tools, die für den Einsatz und die Weiterentwicklung der KI erforderlich sind. Dazu zählt auch das Back-Office für die Arbeit am Algorithmus oder die Funktionalitäten, die für die Umschulung der Nutzer im Front-Office nötig sind. So können Sie ein umfassendes Service-Design garantieren.

Diese Tools sind möglicherweise für viele Menschen neu, selbst für diejenigen, die mit dem traditionellen Web vertraut und technische Experten sind. Sie werden wahrscheinlich vermehrt an der Vereinfachung des Designs und an den Schnittstellen arbeiten müssen. Es ist außerdem möglich, dass, während das Modell in der Umsetzung ist, Geschäftsexperten mit wenig oder gar keinem technischen Wissen die Schulung des Datenmodells ganz oder teilweise übernehmen. Denken wir aber an die positiven Nebeneffekte:

• Vertrauen der Nutzer in die KI: Die KI wird entmystifiziert, weil man weiß, wie sie trainiert wird und von wem.
• Dadurch, dass das Projekt über eine rein technische Umgebung hinausgeht, kann sich das IT-Team auf neue Projekte statt auf die Wartung konzentrieren.

Des Weiteren ähnelt ein KI-Projekt anderen digitalen Projekten: Sie benötigen Anwendungsfälle, die in Aufgaben und Ziele unterteilt sind. Es braucht auch Nutzerforschung, um Annahmen zu formulieren oder zu bestätigen, und Nutzertests, um die vorgeschlagenen Lösungen zu bewerten.

Hüten Sie sich vor dem "Mr. Alleswisser"-Syndrom

Eine Frage zu Ihrer KI muss beantwortet werden: Sollen wir sie personifizieren?

Seit Jahren tauchen Assistenten mit menschlichen Namen und Stimmen auf: Alexa, Siri,... Sogar ChatGPT wird durch die Tatsache vermenschlicht, dass es in natürlicher Sprache antwortet, mit gut strukturierten Sätzen und Absätzen, und nicht mit operativer Sprache oder einer Liste von Ergebnissen, wie bei der Google-Suche.

Auf den ersten Blick scheint es logisch und sogar natürlich zu sein, eine künstliche Intelligenz zu personifizieren, denn die Intelligenz, die das Programm imitiert, ist letztlich menschlich. Sie sollten jedoch bedenken, dass sich diese Entscheidung auf den Grad der wahrgenommenen Autorität auswirkt:

Schauen wir uns einmal Siri und Blue Bot an. Letzterer ist ein Chat-Bot, der von der KLM unter anderem für die Kommunikation mit Kunden und die Verwaltung von Kundenanfragen genutzt wird. Während wir Siri ansprechen, um z.B. von einer App unseres Smartphones zur anderen zu gelangen, kommt Blue Bot bereits eine weitaus größere Rolle zu. Blickt man genauer auf die Funktionen des Bots, merkt man schnell, dass sie die Rolle eines Mitarbeiters ersetzen.
Räumen wir KI-Tools wie Blue Bot unbewusst die Funktion eines „neuen Mitarbeiters“ ein? Wie hoch ist dann dessen Kompetenz? Müssen Arbeiten des Bots korrigiert werden oder vertraut man ihnen bereits? Diese Einordung der Rolle der KI kann bereits leicht mithilfe von Einstellungen wie dem Ausdrucksniveau oder dem Tonfall der KI beeinflusst werden. Überlegen Sie sich, was Ihr gewünschtes Ergebnis sein soll und mit welcher Strategie Sie dieses erreichen.

Der Kontext: ein kritischer Aspekt von personifizierter KI

Sie müssen auch bedenken, dass Ihre KI nicht im wahrsten Sinne des Wortes versteht, was sie produziert. Sie begnügt sich damit, festgelegten Regeln zu folgen, die, wenn sie gut definiert sind, ein überzeugendes Ergebnis liefern. Ihre KI benötigt einen Kontext und spezifische Anweisungen, um sich selbst korrekt zu kalibrieren. Wie werden Ihre Benutzer diese bereitstellen? Es ist die Aufgabe eines UX-Designers, eine Methode zu entwickeln und den Nutzern dabei zu helfen, mithilfe der KI relevante Ergebnisse zu erzielen.

Vor ein paar Tagen erzählten zwei Tech-Unternehmer von ihrer Nutzung von ChatGPT. Beim Brainstorming zu Konzepten und beim Schreiben von Codes stellten sie fest, dass die KI zwar Antworten auf alles hat, diese aber nicht immer relevant sind. Einige Vorschläge funktionieren nicht oder sind weit hergeholt. Einer von ihnen hatte die Idee, ChatGPT Regeln vorzugeben: "Du darfst es mir sagen, wenn du es nicht weißt." Von diesem Zeitpunkt an wandte die KI die Regel an und gab nicht mehr um jeden Preis eine Antwort.

Dieses Beispiel ist interessant, weil die Festlegung von Regeln für die Konversation sofort eine effektivere Nutzung des Tools ermöglichte. Das „menschliche“ Image von ChatGPT führt jedoch dazu, dass man annimmt, das Programm brauche keine vorher festgelegten Regeln.

Das Design spielt eine wichtige Rolle bei der Behebung dieser "menschlichen" Voreingenommenheit. Instant Messaging als Konversationsmodell ahmt die Spontanität menschlicher Interaktionen nach. Dieses zu verlassen, ist demnach eine Möglichkeit, „menschliche“ Voreingenommenheit zu vermeiden. Außerdem wäre es je nach Anwendungsbereich Ihrer KI vielleicht einfacher und schneller, statt einer Texteingabe eine Auswahl über Buttons anzubieten. Erwägen Sie die Wiederverwendung von Fehler- oder "keine Ergebnisse gefunden"-Meldungen. Bei herkömmlichen Webtools sind diese üblich, wenn die Zuverlässigkeit gering ist. Das würde die Grenzen der KI deutlicher machen. Die Beschränkung der KI auf den Status eines nicht-menschlichen Tools ist also ein Bereich, der es wert ist, untersucht zu werden.

Einige Unternehmen, wie z. B. RTE mit dem Projekt "Origami", haben beschlossen, genau das zu tun. Sie entwickeln Plattformen oder Plugins, die die KI als eine Möglichkeit zur Erweiterung oder Beschleunigung von Wissen präsentieren. Einige haben sich dafür entschieden, kein Endergebnis zu generieren. Stattdessen schafft die KI eine Sammlung an heterogenem Wissen aus klar identifizierten Quellen, die dann Raum für menschliche Expertise lässt.