Imaginons ensemble un outil RH basé sur l’IA.
Vous lui envoyez des candidatures, il vous aide à les lire, à reformuler des appréciations, à proposer des profils. Il répond vite, avec un texte clair, bien tourné.
À première vue, tout a l’air neutre.
Il ne crie pas, il ne met pas de gros scores visibles, il ne dit jamais frontalement “prends cette personne, pas celle-là”. Il produit juste… du texte.
Et c’est là que ça peut devenir trompeur.
Parce qu’un texte qui a l’air propre, fluide, raisonnable, peut donner l’impression que tout est sous contrôle. Que l’outil n’a pas vraiment de point de vue.
Mais ce qui se joue en dessous est beaucoup moins visible.
Pour voir d’où viennent les biais, il faut remonter à la source : la manière dont un grand modèle de langage apprend.
Un LLM, ça ne lit pas trois articles et deux CV.
Ça est entraîné sur des quantités massives de textes : des pages web, des livres, des articles de presse, des transcriptions. Il y repère des régularités. Des façons d’enchaîner les mots. Des tournures typiques. Des associations fréquentes.
Mais ces textes, vous l’imaginez bien, ne sont pas neutres.
Ils reflètent des habitudes de langage, des stéréotypes, des écarts de visibilité. Ils reflètent aussi les inégalités déjà là dans la société.
Et le modèle, lui, ne fait pas spontanément la différence entre une phrase qui décrit un fait, et une phrase qui véhicule un préjugé.
Il apprend à partir du tout. Sans filtre naturel.
Résultat : un biais ne vient pas seulement d’une “grosse erreur” ponctuelle qu’on repère facilement.
Il peut être déjà inscrit, silencieusement, dans les matériaux d’apprentissage eux-mêmes.
Ramenez ça au contexte RH, et tout devient beaucoup plus concret.
Si, dans les textes utilisés pour entraîner le modèle, on parle beaucoup plus souvent de certains profils, de certains parcours ou de certaines manières de raconter la réussite professionnelle, le système va retrouver ces tendances.
Il va mieux reconnaître ce qui est très présent dans ses données. Et moins bien traiter ce qui apparaît peu.
Certains groupes, certains métiers, certaines situations, certaines régions peuvent tout simplement être moins représentés.
Et là, le problème n’est pas toujours une réponse choquante. Parfois, c’est beaucoup plus discret.
Une réponse peut être un peu moins précise. Un peu moins nuancée. Un peu moins utile.
Selon le profil, selon la situation… la qualité peut varier, sans que ça se voie au premier coup d’œil.
C’est un point clé : le biais ne se niche pas seulement dans le contenu visible d’une phrase.
Il peut aussi se loger dans la qualité inégale des réponses.
La même demande, formulée pour différents profils, peut ne pas recevoir le même niveau de richesse ou de fiabilité.
La même question, posée dans deux langues différentes, peut donner des résultats très différents.
Et là, la question des langues devient centrale.
Les corpus d’entraînement ne couvrent pas toutes les langues de la même façon.
Quelques langues dominent, surtout sur le web. D’autres sont moins présentes, moins détaillées, moins documentées.
Conséquence directe : les performances peuvent changer selon la langue utilisée, mais aussi selon le contexte culturel associé à cette langue.
Dans un cadre professionnel, cette différence n’est pas anecdotique. Elle peut peser.
Un même système peut paraître solide, très convaincant dans un contexte abondamment documenté… puis devenir plus fragile dans un autre.
À cela s’ajoute un autre niveau : les choix de conception.
Le pré-entraînement, lui, apprend surtout une chose : prédire la suite d’un texte.
Pas distinguer ce qui est juste ou injuste. Acceptable ou problématique.
Ensuite, on règle le système avec des consignes, des préférences humaines, des critères pour juger une réponse “utile” ou “appropriée”.
Et là encore, ces choix influencent le comportement final.
Dans un outil RH, une consigne comme “valoriser le leadership” ou “privilégier l’efficacité” peut sembler très raisonnable.
Mais elle oriente déjà le système vers certaines normes plutôt que d’autres.
Et on n’utilise pas tous cet outil de la même manière.
Le mobiliser pour reformuler un texte ou explorer des idées, ce n’est pas la même chose que l’intégrer dans une chaîne de décision sur des candidatures ou des évaluations.
Dès que le système agit près d’une décision professionnelle, les biais hérités des données et des choix de conception peuvent se transformer en écarts très concrets.
Pour des personnes réelles. Pour des trajectoires de carrière.
C’est exactement à partir de là que la vigilance n’est plus une option. Elle devient nécessaire.
