Human in the loop : comment le CSE peut contrôler l’IA

Une entreprise déploie une intelligence artificielle.

Elle assure que l’outil ne « décide pas » : il recommande ou assiste simplement les salariés.

Pour le CSE, ce vocabulaire ne suffit pas.

La vraie question est : quelle place l’algorithme prend-il dans l’organisation du travail ? Quel probléme veut-il résoudre ? Technologique, organisationnele ou humain ?

La transparence algorithmique doit permettre aux élus de reconstituer une chaîne simple : quels sont les besoins du système, quelles données entrent dans le système, quel résultat en sort, qui l’utilise, qui peut le contester et quelles conséquences cela produit pour travail réel.

C’est précisément là que l’expertise IA et systèmes informatiques prend son sens : passer de la présentation du projet par l’entreprise à l’analyse de son fonctionnement réel.

Prenons un système qui attribue des tâches aux salariés. Il peut officiellement être présenté comme une simple « aide à la planification ».

Mais il faut aller plus loin :

• Quelles données utilise-t-il ?
• Classe-t-il implicitement les salariés ?
• Quels critères déterminent l’attribution d’une tâche ?
• Le manager peut-il modifier la proposition ?
• Le fait-il réellement ?
• Les salariés savent-ils que certaines décisions reposent sur l’IA ?
• Que se passe-t-il lorsqu’on conteste l’attribution ?

C’est cette analyse qui permet de passer de la transparence technique à la transparence sur l’organisation du travail.

Human in the loop : qui a réellement le dernier mot ?

C’est probablement l’un des points les plus importants à examiner.

Le principe du human in the loop, ou supervision humaine, signifie simplement qu’une personne doit pouvoir surveiller le fonctionnement de l’IA et intervenir lorsque cela est nécessaire.

Pour certains systèmes à haut risque, l’AI Act prévoit par l'article 14 précisément des exigences de supervision humaine.

Sur le papier, le principe semble rassurant. Dans le travail réel, c’est beaucoup moins simple.

Imaginez un outil qui attribue à chaque salarié un score de performance individielle.

La direction explique :

« Ce n’est pas l’algorithme qui décide. Le manager valide toujours la recommandation. »

Très bien. Mais combien de recommandations le manager doit-il valider chaque jour ? Dispose-t-il des informations permettant de comprendre pourquoi l’algorithme propose ce résultat ? Peut-il réellement le modifier ? Doit-il justifier chaque fois qu’il s’écarte de la recommandation ? Ou bien... sa propre performance est-elle évaluée en fonction de son respect des recommandations de l’outil ?

Un humain peut être dans la boucle sans avoir réellement le contrôle.

C’est un point essentiel pour le CSE.

Plus l’IA intervient dans les décisions de gestion, d’évaluation ou d’organisation, plus il faut distinguer supervision humaine sur le papeir et supervision humaine effective.

Cette problématique devient encore plus importante avec le développement de l’IA agentique et des systèmes capables d’agir de manière plus autonome.

Ce que le CSE doit demander à la direction

Une bonne analyse commence par une cartographie.

La cartographie de la décision.

Cette grille révèle souvent un paradoxe.

L’entreprise peut connaître parfaitement son système informatique sans avoir réellement étudié ses conséquences sur le travail.

C’est précisément pourquoi le dialogue social technologique devient nécessaire. Il oblige à sortir du discours sur les capacités de l’IA pour revenir au travail réel.

Le paradoxe : plus l’IA est complexe, plus la présentation peut devenir simple

Les directions disposent généralement de documents très détaillés sur leurs projets informatiques.

Mais le CSE peut recevoir une présentation beaucoup plus synthétique :

• « assistant IA ».
• « outil d’aide à la décision ».
• « optimisation des processus ».
• « automatisation de tâches sans valeur ajoutée ».

Le problème n’est pas nécessairement que ces formulations soient fausses. Elles peuvent être insuffisantes pour mesurer les conséquences du projet.

Entre l’architecture technique et la présentation faite aux élus se trouve tout un espace à investiguer : données utilisées, paramétrage, règles métier, interfaces, automatisations, indicateurs, contrôle humain, organisation et effets sur les salariés.

C’est cet espace que doit notamment permettre d’explorer une expertise IA et systèmes informatiques.

Pourquoi une expertise IA ne consiste pas seulement à auditer l’algorithme

Le CSE n’a pas vocation à refaire le travail de l’éditeur du logiciel. L’objectif est différent.

Une expertise doit permettre de mettre en relation trois dimensions :

La technologie. Que fait réellement le système ? Quelles données utilise-t-il ? Quel est son degré d’automatisation ?

L’organisation. Quels processus, métiers, responsabilités et modes de management sont transformés ?

L'humain. Quels effets sur la charge, l’autonomie, les compétences, le contrôle de l’activité et les conditions de travail ?

C’est l’articulation entre ces trois niveaux qui permet aux élus de comprendre le projet.

Chez DevEx Consulting, l’expertise IA et systèmes informatiques pour les CSE vise précisément à analyser ces transformations lorsqu’elles entrent dans le champ des prérogatives du comité.

L’enjeu n’est donc pas de répondre uniquement à :

« Comment fonctionne l’algorithme ? »

Mais à :

« Comment cet algorithme transforme-t-il le travail ? »

Les pièges fréquents pour le CSE

Se contenter de la présentation de l’outil par la direction. Une présentation montre ce que la technologie peut faire dans le cas idéal. Pas nécessairement ce qu’elle fera dans l’organisation réelle.

Croire qu’une recommandation n’est pas une décision. Un score peut fortement déterminer la décision humaine, même lorsque le manager conserve juridiquement ou formellement le dernier mot.

Accepter un human in the loop purement théorique. Demandez toujours : qui contrôle, avec quelles informations, quelle autorité et surtout avec quel temps disponible ?

Limiter l’analyse aux risques informatiques. Cybersécurité, RGPD et fiabilité sont importants. Mais le CSE doit aussi regarder l’intensification, l’autonomie, la surveillance, les compétences et les risques psychosociaux.

FAQ

Qu’est-ce que la transparence algorithmique ?

Pour le CSE, elle consiste notamment à comprendre la finalité du système, les données mobilisées, son rôle dans les décisions, les modalités de supervision humaine et ses conséquences sur les salariés.

Qu’est-ce que le human in the loop ?

Le human in the loop désigne la présence d’une supervision humaine permettant de contrôler les résultats d’un système d’IA et, lorsque cela est nécessaire, de ne pas les suivre ou de les corriger.

Que peut demander le CSE sur un algorithme ?

Le CSE peut chercher à obtenir les informations nécessaires pour comprendre le dispositif, son utilisation dans l’entreprise et ses conséquences sur l’organisation et les conditions de travail, dans le cadre des prérogatives qui lui sont applicables.

Comment un élu CSE peut-il contrôler une IA ?

Un bon point de départ consiste à reconstruire la chaîne : données → algorithme → résultat → supervision humaine → décision → conséquences pour le salarié → recours.

À retenir

La transparence algorithmique n’est pas une bataille pour obtenir des milliers de pages de documentation.

Elle doit permettre aux élus de comprendre qui contrôle quoi, avec quelles données et quelles conséquences sur le travail.

Le human in the loop est à ce titre un excellent révélateur : l’existence d’un contrôle humain ne suffit pas. Il faut vérifier s’il fonctionne réellement.

Et lorsque le système devient trop complexe pour être analysé à partir des seules informations présentées en réunion, l’enjeu de l’expertise est précisément de rendre visible ce que le projet technologique change dans le travail réel.

Besoin d’analyser un projet IA présenté au CSE ?

DevEx Consulting accompagne les représentants du personnel dans l’analyse des projets d’intelligence artificielle, des algorithmes de gestion et des transformations des systèmes d’information.

L’objectif : examiner le fonctionnement du dispositif, son organisation, la supervision humaine et surtout ses conséquences sur les conditions de travail des salariés.

Découvrez notre accompagnement : Expertise IA et systèmes informatiques pour les CSE