Le contrôle avait mauvaise presse

Il suffit de feuilleter vingt ans de littérature managériale pour comprendre que le contrôle n’était plus vraiment dans l’air du temps. Il fallait faire confiance, responsabiliser, donner de l’autonomie, libérer les initiatives. Le manager moderne n’était plus celui qui vérifiait le travail de ses collaborateurs, mais celui qui créait les conditions pour qu’ils puissent l’accomplir sans lui. Le mouvement avait ses raisons : le contrôle tatillon, permanent, procédurier n’a jamais constitué un idéal de management. Il ralentit l’action, déresponsabilise et finit par coûter plus cher que les erreurs qu’il prétend éviter. Mais à force de vouloir s’en débarrasser, nous avons peut-être oublié que contrôler pouvait aussi désigner une compétence : savoir ce que l’on délègue, vérifier que cela a été correctement exécuté et intervenir lorsque ce n’est plus le cas.

Quand 700 agents commencent à s’organiser

Le problème rencontré par OpenAI donne une idée assez concrète de ce qui nous attend. Lors d’une expérimentation destinée à tester les capacités offensives de ses agents contre Hugging Face, l’entreprise en avait placé plusieurs centaines dans des environnements cloisonnés. Certains ont pourtant réussi à communiquer avec l’extérieur, à partager leurs découvertes et, au bout du compte, quelque 700 agents ont participé à l’attaque. L’expérience était contrôlée et précisément conçue pour explorer leurs capacités : inutile donc d’y voir une révolte des machines. Mais l’épisode rappelle opportunément ce que signifie vraiment le mot « agent ». Nous ne parlons plus seulement de machines qui répondent à nos questions, mais de systèmes auxquels nous confions des objectifs et qui peuvent choisir une partie des moyens pour les atteindre. C’est précisément leur intérêt. Un agent qu’il faudrait guider à chaque étape ne serait guère plus qu’un logiciel particulièrement bavard. Nous voulons donc qu’il agisse seul. Et nous allons devoir apprendre à contrôler ce qu’il fait seul. Voilà qui promet quelques intéressantes contorsions culturelles !

Tout le monde devient contrôleur

Car cette responsabilité ne concernera pas seulement les managers. Un commercial confiera des recherches à un agent. Un recruteur lui demandera de présélectionner des candidatures. Un responsable formation pourra lui déléguer la construction d’un parcours ou l’analyse de données d’apprentissage. Un juriste lui fera examiner des contrats. Chacun deviendra, à son niveau, le donneur d’ordre d’une machine capable d’agir. Or combien de ces collaborateurs ont réellement appris à contrôler le travail d’un tiers ? À fixer les limites d’une délégation ? À déterminer ce qui doit impérativement être vérifié ? À repérer un comportement anormal ? À décider quand interrompre l’action ? Ce sont des questions assez familières à celui qui encadre une équipe. Beaucoup moins à celui dont le métier n’a jamais comporté aucune responsabilité de supervision. Nous avons beaucoup parlé de prompt. Nous allons probablement devoir parler davantage de contrôle.

Contrôler ne signifie pas tout vérifier

Encore faut-il éviter un malentendu. Si contrôler un agent consiste à refaire systématiquement son travail, l’intérêt de l’agent devient assez mince. La compétence sera justement plus subtile : savoir où placer le contrôle. Tout n’a pas la même importance. Tout ne présente pas le même risque. Tout ne mérite pas la même vigilance. Il faudra apprendre à distinguer ce qui peut être délégué sans vérification particulière, ce qui nécessite quelques points de contrôle et ce qui exige une validation humaine avant toute action. Il faudra aussi savoir reconnaître les signaux faibles indiquant que l’agent s’écarte de l’objectif, utilise une source douteuse ou s’aventure simplement là où personne ne lui avait demandé d’aller. Autrement dit, le contrôle dont nous parlons n’est pas le retour du petit chef regardant par-dessus l’épaule. C’est une forme de jugement professionnel appliquée à la délégation aux machines.

Un joli sujet pour la formation

Nous formons aujourd’hui massivement les collaborateurs à utiliser l’intelligence artificielle. C’est nécessaire, mais déjà insuffisant. L’arrivée des agents ajoute une autre compétence : savoir gouverner ce que l’on délègue. Et celle-ci pourrait être plus difficile à acquérir qu’un bon prompt. Parce qu’elle demande des connaissances, certes, mais aussi une posture : accepter de faire confiance sans renoncer à vérifier ; déléguer sans abandonner sa responsabilité ; intervenir sans vouloir tout reprendre. Elle suppose aussi d’accepter une idée assez inconfortable : utiliser un outil très performant ne dispense pas de comprendre suffisamment ce qu’il fait pour savoir quand il se trompe. Curieux retournement. L’entreprise a longtemps cherché à réduire le contrôle pour développer l’autonomie des collaborateurs. Elle va maintenant devoir développer chez ces mêmes collaborateurs une compétence de contrôle pour leur permettre de travailler avec des machines autonomes. Le contrôle revient. Cette fois, il faudra apprendre à bien s’en servir.

Michel Diaz