Uber revient interpeller la formation par une porte inattendue

Uber occupe une place singulière dans la mémoire du digital learning. Lorsque les plateformes ont commencé à bouleverser la distribution de la formation, « l’ubérisation » est devenue l’un des mots utilisés pour décrire la désintermédiation possible du secteur, par analogie avec celle qui avait transformé le marché des taxis. Quelques années plus tard, Uber revient indirectement questionner la formation, mais sur un tout autre terrain. L’autorité néerlandaise de protection des données vient d’infliger à l’entreprise une amende de 825 millions d’euros pour avoir utilisé, entre 2018 et 2022, des systèmes automatisés pouvant conduire à suspendre ou désactiver des chauffeurs sans intervention humaine suffisante. L’affaire est d’abord juridique : le RGPD protège les personnes contre certaines décisions fondées exclusivement sur un traitement automatisé lorsqu’elles produisent des effets importants. Mais elle pose aux professionnels du Learning une question qui dépasse largement Uber : que signifie réellement introduire un humain dans une décision produite par une machine ?

Mettre un humain dans la boucle ne garantit rien

L’expression human in the loop est devenue l’une des réponses favorites aux inquiétudes suscitées par l’intelligence artificielle. L’algorithme analyse, recommande ou agit, mais un humain conserve la possibilité de contrôler la décision. Voilà qui semble rassurant. Sauf qu’une présence humaine n’est pas nécessairement un contrôle humain. Imaginons un collaborateur qui doit examiner chaque jour plusieurs dizaines de dossiers préanalysés par une intelligence artificielle. Si celle-ci se révèle correcte dans l’immense majorité des cas, combien de temps faudra-t-il avant qu’il ne transforme sa validation en formalité ? Lire rapidement, constater que la recommandation semble vraisemblable, cliquer sur « approuver » et passer au dossier suivant. L’humain reste dans la boucle sur l’organigramme du processus ; dans la réalité, la machine décide. C’est le paradoxe de l’automatisation : plus un système devient fiable, plus il devient difficile de maintenir l’attention nécessaire pour détecter précisément les rares moments où il ne l’est pas.

Douter de la machine devient une compétence professionnelle

On demande donc à l’humain quelque chose de plus complexe que vérifier un résultat. Il doit savoir reconnaître les situations dans lesquelles la confiance accordée à l’intelligence artificielle doit diminuer. Une donnée manque-t-elle ? Le cas sort-il de l’ordinaire ? Plusieurs informations se contredisent-elles ? La recommandation s’écarte-t-elle suffisamment de ce que l’expérience professionnelle laisse attendre pour justifier une investigation ? Faut-il accepter, vérifier davantage ou reprendre entièrement la décision ? Ces comportements ne relèvent pas seulement de la vigilance individuelle. Ils mobilisent des connaissances métier, une compréhension suffisante des limites du système et surtout une capacité de jugement. Or cette compétence risque de devenir critique à mesure que l’intelligence artificielle prendra en charge les cas ordinaires. Le professionnel humain sera précisément sollicité pour les exceptions, les ambiguïtés et les situations dans lesquelles la règle ne suffit plus. Autrement dit, l’automatisation peut retirer une partie du travail routinier tout en augmentant le niveau d’exigence du travail qui reste à l’humain.

La supervision doit donc s’entraîner

C’est ici que le sujet devient directement pédagogique. Expliquer aux collaborateurs qu’ils doivent « garder leur esprit critique » ne constitue pas une formation. Pour apprendre à superviser une intelligence artificielle, il faut probablement les placer dans des situations où celle-ci se trompe. Leur présenter des recommandations presque toujours correctes, mais introduire volontairement des erreurs, des cas limites, des informations manquantes ou des résultats très plausibles mais faux. Observer s’ils détectent l’anomalie, ce qu’ils vérifient, quand ils décident de reprendre la main et sur quels éléments ils fondent leur décision. L’approche ressemble davantage à l’entraînement d’un pilote ou à une simulation professionnelle qu'à un module expliquant les « bonnes pratiques de l’IA ». Elle soulève aussi une difficulté : comment maintenir cette compétence lorsque l’outil fonctionne correctement pendant des semaines ou des mois ? Une capacité rarement mobilisée finit par s’émousser. La formation à la supervision ne peut donc probablement pas être ponctuelle ; elle suppose des mises à l’épreuve régulières.

Former à utiliser l’intelligence artificielle ne suffit déjà plus

Les programmes d’AI literacy se sont logiquement concentrés sur la prise en main des outils : comprendre leur fonctionnement, savoir formuler une demande, améliorer un prompt, vérifier une source, protéger les données. Cette première étape reste nécessaire, mais l’arrivée de systèmes capables non seulement de répondre mais de recommander, décider et agir déplace rapidement le besoin. Il faut désormais apprendre à travailler avec une machine dont on attend précisément qu’elle accomplisse correctement une partie du travail sans intervention permanente. Le défi pédagogique devient paradoxal : construire suffisamment de confiance pour que le collaborateur profite réellement de l’automatisation, mais suffisamment de doute pour qu’il conserve sa capacité d’intervention. Trop méfiant, il revérifie tout et détruit le gain promis par l’intelligence artificielle. Trop confiant, il devient le simple signataire de décisions qu’il n’exerce plus réellement. Entre les deux se trouve une compétence de supervision que les entreprises vont devoir définir, entraîner et évaluer.

Après l’ubérisation, la supervision

L’affaire Uber rappelle finalement une évidence que le discours technologique tend à escamoter : le contrôle humain n’existe pas parce qu’une case « validation humaine » a été ajoutée à un processus. Il existe seulement si la personne qui occupe cette place possède les compétences, le temps, l’information et l’autorité nécessaires pour contester la machine. Pour les responsables formation, le sujet pourrait rapidement devenir très concret. Il ne suffira plus de demander quels collaborateurs doivent être formés à l’intelligence artificielle. Il faudra identifier ceux auxquels l’entreprise confie la responsabilité de la surveiller et se demander s’ils savent réellement le faire. Uber avait autrefois fourni au monde de la formation une métaphore commode pour penser la transformation numérique de son propre secteur. L’entreprise lui offre aujourd’hui, bien involontairement, une autre leçon : même lorsque l’intelligence artificielle travaille, l’humain chargé de la contrôler a encore besoin d’apprendre.

Par Michel Diaz