On va commencer par quelque chose de simple, mais essentiel : l’intelligence artificielle dont on parle partout… elle ne tombe pas du ciel. Elle a une source, des auteurs, et surtout une thèse centrale qu’on va suivre tout du long.
Cette thèse, la voilà : pour comprendre l’IA, il faut moins regarder la promesse affichée, et davantage regarder les choix qu’elle organise. Pas le slogan. Les choix.
Et c’est exactement là que tout commence pour vous aujourd’hui : cette fameuse idée de neutralité de l’IA.
Vous l’avez déjà entendu, non ? Un système d’IA présenté comme neutre, objectif, presque au-dessus de tout soupçon. Comme s’il était en dehors des préférences humaines, loin des émotions, des intérêts, des biais.
Avouez-le, ça rassure. On se dit : “Parfait, une machine va décider sans parti pris, sans passe-droit, sans état d’âme.” On aimerait presque s’en remettre à elle les yeux fermés.
Mais c’est justement ce réflexe-là qu’il faut mettre en pause.
Aucune IA n’est neutre au sens strict. Aucune. Un système d’IA repose sur des données, sur des modèles, et sur des choix de conception. Et ces choix ne sont jamais vides.
À chaque étape, quelqu’un a dû décider. Décider de ce qui compte. De ce qui sera mesuré. De ce qui sera classé. De ce qui sera retenu comme “bon résultat”. Et, en miroir, de ce qui sera écarté, ignoré, considéré comme secondaire.
Autrement dit, une IA ne fait pas disparaître les valeurs. Elle les encode. Elle les enferme dans ses critères, dans ses paramètres, dans ses seuils.
Et là, quelque chose d’important se produit : la question change.
Le bon réflexe, ce n’est plus de demander : “Est-ce que cet outil est neutre ?” parce que, vous l’avez compris, la réponse est déjà non. Le bon réflexe, c’est de demander : “Quels choix il incorpore ?”
Quels critères ce système privilégie-t-il ? Quelles priorités traduit-il ? Quels arbitrages contient-il entre efficacité, coût, risque, équité, réputation ?
Prenons un instant. Imaginez un système utilisé dans un contexte social, professionnel, managérial.
Si les données viennent du monde social, elles peuvent porter avec elles des biais historiques, culturels, économiques. Rien qu’avec ça, le terrain est déjà incliné. Si, en plus, la conception du système repose sur certaines catégories, sur certains indicateurs, elle peut refléter les biais de ceux qui l’ont conçu… ou de ceux qui l’ont déployé.
Résultat ? Un système présenté comme parfaitement objectif peut, en réalité, reproduire des déséquilibres déjà là. Sans bruit. Sans scandale apparent.
Et le problème n’est pas qu’une simple “erreur technique” à corriger dans le code. Le problème peut être beaucoup plus discret. Une décision peut paraître parfaitement régulière… précisément parce qu’elle est automatisée. Alors même qu’elle reconduit une inégalité ou une exclusion déjà connue.
C’est ici que l’enjeu de responsabilité devient central.
Quand une décision est confiée à un algorithme sans responsabilité humaine clairement identifiée, l’exclusion devient plus silencieuse. Elle semble venir d’un processus impersonnel, presque naturel. Comme si “la machine a dit” suffisait à justifier le résultat.
Dans ce cas, qu’est-ce qui se passe pour la personne concernée ? La décision devient plus difficile à nommer, à discuter, à contester. Le risque n’est pas seulement qu’une décision soit injuste. Le risque, c’est qu’elle le soit sans visage, sans réponse claire, sans voie de recours vraiment visible.
Pour vous, dans un cadre professionnel ou managérial, la conséquence est nette. Votre vigilance face à l’IA ne consiste pas seulement à vérifier qu’un outil fonctionne bien, qu’il est performant, rapide, précis.
Elle consiste à ne pas confondre performance apparente et neutralité réelle. Et à faire quelque chose de très concret : relier chaque système à une responsabilité humaine explicite. Quelqu’un doit répondre des choix que le système applique.
Et puis, il y a un dernier déplacement à opérer : celui du test éthique.
On a souvent tendance à regarder seulement l’usage final du système. “Est-ce que l’outil a été utilisé correctement ?” Mais ce n’est pas suffisant. Le vrai test se joue déjà en amont : dans sa conception, dans les données retenues, dans les catégories choisies, dans les objectifs fixés, et dans les effets que l’organisation accepte, ou non, de produire.
C’est ce point de départ qu’on installe avec vous : face à une IA dite neutre, la première question n’est plus “Pourquoi lui faire confiance ?”
La première question devient : “Quels choix fait-elle déjà à notre place ?”
