Imaginons qu’on fasse un test très simple.
On ouvre une interface d’IA générative, et on lui demande une image d’un “dirigeant”. Ou d’une “infirmière”. Ou encore d’un “client idéal”.
Sur le papier, la question pourrait être : est-ce que l’image est réussie ? Est-ce que c’est joli, bien fait, réaliste ?
Mais en réalité, le vrai sujet est ailleurs.
La vraie question, c’est : qu’est-ce que la machine choisit spontanément de montrer ?
Quel type de personne apparaît en premier ?
Quelle apparence revient encore et encore ?
Et on peut pousser un peu plus loin.
Quel style est privilégié ? Quel âge ? Quelle posture ?
Et si on pose la même demande en texte, en image, en son ou en vidéo, quelle voix, quel ton sont proposés en priorité ?
Prenons un instant.
Ce point de départ est précieux, parce qu’il rend visible un mécanisme très discret.
Une IA générative ne crée pas à partir de rien.
Elle ne se réveille pas le matin avec une idée originale sortie de nulle part.
Elle produit à partir de très grands volumes de données préexistantes.
Elle apprend des régularités dans ces données.
Des formes qui reviennent souvent.
Des associations fréquentes.
Puis elle génère de nouveaux contenus… qui restent proches de ce qu’elle a rencontré pendant son entraînement.
Et là, quelque chose d’important apparaît.
Ses productions dépendent fortement des représentations déjà présentes dans les corpus utilisés.
Or, ces données ne sont pas neutres.
Elles portent des représentations sociales, culturelles, professionnelles.
Elles reflètent des habitudes, des normes, des déséquilibres… et parfois des stéréotypes bien installés.
Résultat : si certaines figures sont plus fréquentes dans les données, elles ont mécaniquement plus de chances de réapparaître dans les résultats.
Encore. Et encore.
C’est là qu’on comprend ce qu’on appelle le biais génératif.
Ce n’est pas seulement une erreur ponctuelle, un “dérapage” de temps en temps.
Ce n’est pas un petit bug isolé.
Le biais peut venir du fait que la machine privilégie ce qui lui paraît le plus probable.
Et ce “probable” est construit à partir des fréquences qu’elle a apprises.
Concrètement, si pour “dirigeant” elle a associé, pendant son entraînement, certains profils beaucoup plus souvent que d’autres, elle va reproduire cette association.
Si, pour “infirmière”, elle revient toujours vers une représentation très homogène, elle va reconduire une image étroite de ce rôle.
Et ce qui est troublant, c’est que le problème ne se limite pas à un stéréotype caricatural, très visible.
Il peut être plus diffus. Plus subtil.
Il peut se glisser dans ce qui est montré encore et encore… jusqu’à sembler naturel.
Comme si c’était “évident”, “normal”, “logique”.
Mais le biais peut aussi se loger dans ce qui disparaît.
Certains profils, certaines apparences, certaines façons d’occuper un rôle deviennent rares, peu probables, ou complètement absentes.
Ça change tout.
Parce qu’un contenu généré peut sembler tout à fait correct en apparence.
L’image peut être propre.
Le texte fluide.
La voix convaincante.
La vidéo réaliste.
Et pourtant, l’ensemble peut rester très pauvre en diversité.
À force de privilégier des formes dominantes, l’IA peut homogénéiser les représentations.
Elle produit alors des versions moyennes, répétées, standardisées.
On retrouve le même type de visage.
Le même ton.
Le même style.
La même idée de l’autorité, de la compétence, ou du “client attendu”.
Et ce n’est pas forcément spectaculaire.
Au contraire : ça peut passer totalement inaperçu, justement parce que tout semble plausible.
C’est exactement là que tout change.
Pour évaluer un contenu généré, on ne peut pas s’arrêter à sa qualité apparente.
On doit aussi regarder les choix de représentation qu’il installe.
Autrement dit : qu’est-ce que la machine montre spontanément ?
Et qu’est-ce qu’elle laisse dans l’ombre ?
Ces choix nous disent quelque chose des données dont elle a appris.
Et de la manière dont elle transforme des fréquences en images, en phrases, en voix ou en scènes… qui finissent par ressembler à une norme.
Une norme qui n’est pas forcément la réalité.
Mais que la machine, elle, considère comme normale. Ou, du moins, comme la plus probable.
