L’IA en entreprise : le challenge de taille des UX Designers pour créer un Service Design performant, transparent et éthique
Depuis le 30 novembre 2022, l’intelligence artificielle (IA) a débarqué en fanfare dans nos quotidiens avec ChatGPT. Réticence, excitation et fantasme se mêlent dans l’esprit de ses usagers. Notamment dans celui des professionnels de tous les secteurs qui ne peuvent que voir dans cette fulgurante poussée des IA génératives, une mine d’opportunités pour leurs activités.
Presque toutes les grandes entreprises*, si elles ne l’avaient pas déjà fait, mettent en ordre de bataille leurs départements R&D, embauchant massivement data analysts, data scientists et développeurs ou sociétés spécialisées pour créer de nouveaux outils intégrant l’IA.
L’expérience utilisateur étant à la base de tout nouvel outil pour garantir son adoption et son bon usage, une réflexion essentielle se pose alors sur l’UX de ces solutions métiers intelligentes… Quel challenge spécifique rencontre l’UX au cœur de cet essor technologique à la fois inédit et encore opaque ?
UX Designer, votre « to do list » pour démarrer la conception d’un service IA
1.
Fixez dès les débuts la capacité technologique dont dispose l’entreprise pour sa solution
Si le brief de départ de votre projet est d’utiliser l’IA pour augmenter un service ou un produit et qu’à la réunion de lancement vous vous retrouvez avec des profils data et développeurs en force autour de la table… Il y a fort à parier qu’à date, l’envie de proposer une solution intégrant une IA générative soit davantage poussée par la R&D et le business plutôt que par les utilisateurs du terrain !
Même si la règle d’or en conception centrée utilisateur est de commencer par les besoins et non par les solutions, un projet IA est souvent à aborder comme un défi d’innovation technologique : jouez le jeu !
Il vous reviendra peut-être de trouver les uses-cases ou du moins de les affiner. Faites-vous expliquer ce que les équipes ont déjà exploré en mode POC technique, ce qu’elles se pensent capables de réaliser, à partir de quels gisements de données et surtout… poussez-les à tout vous expliquer dans des termes non-experts ! Car vous aurez ensuite vous-même à expliquer d’une manière ou d’une autre les modèles dans vos interfaces.
2.
Recentrez l’éthique dans le cadre de ce projet IA spécifique
Aucun membre de la R&D ou expert technique IA ne doit découvrir cette problématique, sans pour autant vouloir dire qu’ils l’auront totalement assimilée dans le cadre de leur propre projet. Probablement que les aspects entourant la qualité des données ou la maîtrise des biais ont été réfléchis, mais ont-ils abordé :
- Le risque de délégation de responsabilité de l’utilisateur vers l’IA ?
- Le risque de perte de compétence des utilisateurs finaux dans la durée ?
Ces questions ne se posent pas que pour la voiture autonome ! Abordez rapidement ces réflexions pour parvenir à positionner l’IA dans un rôle adapté : est-elle employée sur le cœur de métier de l’utilisateur ou sur ses tâches auxiliaires ? L’interface poussera-t-elle les utilisateurs à relire et double-checker par leurs propres connaissances ou autres sources les résultats délivrés ? Les résultats seront-ils formulés comme des vérités ou des suggestions ? Une mise en évidence des scores de fiabilité ou de sensibilité existera-t-elle ? etc.
Ces questions, loin d’être accessoires, affinent la valeur ajoutée du projet et préparent dans tous les cas l’arrivée de la loi EU AI Act encore en pourparlers aujourd’hui. Celle-ci visera à qualifier ce qu’est une IA acceptable sur la place européenne : une IA juste, explicable, respectueuse de la vie privée, robuste et transparente. A cette fin, l’éthique, la responsabilité et la gouvernance forte sont à intégrer lors du design de la solution pour rendre tangible le respect des concepts fondateurs que désire voir émerger notre continent.
3.
Militez si nécessaire pour que le travail de conception ne se restreigne pas aux interfaces de résultat
L’IA générative a besoin de grandes quantités de données pour apprendre et évoluer : c’est un peu un enfant qui grandit – avec ou sans votre aide ! Aujourd’hui de nombreux logiciels sont développés sur un temps projet défini, puis mis en production et laissés tel quel, figés, pendant plusieurs années. Or les modèles mêmes des IA sont conçus de telle façon qu’ils visent à se développer en absorbant toutes les données reçues, au risque de dériver complètement en l’absence de monitoring et de ré-entrainement réguliers sur des données qualitatives.
Pour réaliser un travail de service design complet, en tant qu’UX Designer, interrogez tous les outils nécessaires au déploiement et à la vie de l’IA, dont son back-office pour travailler sur l’algorithme ou a minima des fonctionnalités spécifiques au ré-entrainement par les usagers dans le front office.
Ces outils sont certainement nouveaux pour grand nombre de personnes, même pour celles à l’aise avec le web traditionnel et les experts techniques. Vous devrez probablement entreprendre un vrai travail de simplification de design pour démystifier des interfaces actuellement complexes et ainsi déléguer, après la mise en production, tout ou partie de l’entraînement du modèle à des experts métiers peu ou non-techniques. Gardez à l’esprit le double effet kiss cool :
- Créer de la confiance utilisateur en l’IA : elle est démystifiée car je sais comment elle est entraînée et par qui (moi !)
- Faire sortir le projet du giron exclusivement technique et donc dégager du temps à l’IT pour de nouveaux projets plutôt qu’être sur la maintenance
Pour le reste, un projet IA ressemble à ses frères digitaux, vous aurez besoin de uses-cases décrits en tâches et objectifs, de faire de la recherche utilisateur pour valider ou poser des hypothèses, ou encore organiser des tests utilisateurs pour évaluer les solutions proposées.
Attention au syndrome « Monsieur-Je-Sais-Tout »
Une question se posera pour votre IA : doit-on la personnifier ?
Depuis des années, fleurissent des assistants portant des noms et adoptant des voix qui leur confèrent un genre humain : Alexa, Siri… Et même ChatGPT est humanisé par le simple fait qu’il réponde en langage naturel en formant des phrases et des paragraphes bien construits, plutôt que par un langage opératif ou par une liste de résultats à la Google Search.
Au premier abord, vouloir humaniser une intelligence artificielle paraît assez logique et même naturel, car l’intelligence imitée par le programme est au fond, celle d’un humain. Il faut néanmoins penser que ce choix affectera le degré d’autorité perçu par les utilisateurs : si vous leur créez un « nouveau collaborateur », il prendra une place dans la hiérarchie. Il vous revient de designer votre IA pour quelle prenne la bonne place. Est-ce un stagiaire ou un junior qui produit mais qu’il faudra ensuite relire et corriger, ou est-ce un expert du métier auquel on fait confiance ? En définissant le niveau d’expression et le ton de l’IA, vous influencerez la perception de son public selon l’objectif voulu.
Donner du contexte, un point critique de l’IA personnifiée
Gardez à l’esprit également que votre IA ne comprend pas au sens propre du terme ce qu’elle produit. Elle se contente de suivre les règles édictées qui, si elles sont bien définies, produisent un résultat convainquant. Votre IA aura besoin de contexte, de consignes précises pour se calibrer correctement. Comment votre utilisateur les passera-t-il ? Cela rentre dans votre mission d’UX Designer d’imaginer cette méthode et de l’accompagner au mieux pour pousser l’IA à produire des résultats pertinents.
Quelques jours plus tôt, deux entrepreneurs de la tech me partageaient une anecdote sur leur usage de ChatGPT. Habitués à brainstormer avec sur des concepts ou sur de l’écriture de code, ils constatent que l’IA a une réponse à tout, mais surtout que leur pertinence est inégale. Certaines propositions ne fonctionnent simplement pas, sont tirées par les cheveux. Vient alors l’idée à l’un d’entre eux de préciser les règles du jeu à ChatGPT : « tu as le droit de me dire quand tu ne sais pas ». À partir de là, l’IA a appliqué cette règle et cessé de donner une réponse à tout prix.
Cet exemple est intéressant car fixer les règles du dialogue a immédiatement permis un meilleur usage de l’outil, mais il démontre par ailleurs que si ChatGPT ne bénéficiait pas autant d’une image « humaine » faisant supposer que le programme connaît ces règles, il serait plus évident qu’il faille poser des règles explicites à chaque début d’interaction.
Pour éviter ce biais « humain », le design a son rôle à jouer. Par exemple, éloignez-vous du modèle d’échanges des messageries instantanées qui font écho à la spontanéité des conversations humaines. Selon le domaine d’application de votre IA, peut-être que paramétrer un contexte pour l’outil serait plus facile et rapide grâce à des sélecteurs et des boutons ? Envisagez de réemployer des messages d’erreur ou de « résultats introuvables » bien connus des outils web traditionnels quand les scores de fiabilité sont faibles pour identifier clairement les limites de l’IA.. Cantonner l’IA a un rang d’outil non-humanisé est, à mon sens, une piste à explorer.
C’est le choix que font certaines entreprises, comme RTE avec son projet Origami, en développant des plateformes ou des plugins qui présentent les IA comme de la connaissance augmentée ou accélérée, allant jusqu’à choisir de ne pas générer un résultat fini, mais un pool de connaissances hétérogènes de sources bien identifiées, laissant la place à l’expertise humaine.
To conclude
L’arrivée de ces IA est un grand bond en avant. Elle provoque un réel bouleversement dans le quotidien de tous les secteurs professionnels. Les designers revivront la vague des entreprises qui ont voulu « aller sur le web » avant de savoir vraiment ce qu’elles désiraient y faire concrètement dans les années 2000 à 2010. Partir d’une technologie et lui trouver des usages d’applications pertinents plutôt que partir de besoins et y répondre sans s’imposer une technologie constitue un véritable challenge.
Pour les optimistes, voyons cela comme une belle occasion de revaloriser l’aspect de « créatif à impact » de notre métier d’UX designer ! Une longue période d’adaptation s’annonce pour tout le monde. À nous de rester les fervents défenseurs de l’intérêt des utilisateurs pour que les projets émergents fassent sens, respectent des dimensions éthiques (sociale, environnementale, systémique) et rendent compréhensible toute cette boîte noire qu’est aujourd’hui l’IA. Cela nous demandera, avant tout le monde, de lever nos propres peurs ou admirations excessives vis-à-vis de l’IA pour la traiter de façon juste et pertinente.
* "En 2023, 82 % des grandes entreprises dans les pays de l'OCDE ont entrepris des projets d'IA, contre 75 % en 2022. Les secteurs les plus avancés dans l'adoption de l'IA sont la finance, la santé et la fabrication." (Source : Perspectives de l'emploi de l'OCDE 2023, section 2.2.2, page 36)
