Vocageek #62 : C’est quoi un biais algorithmique ?

Pour découvrir d’autres termes sur les technologies du numérique, va sur notre page spéciale Vocageek !

La définition

Un biais algorithmique désigne le fait qu’un algorithme produise des résultats non neutres ou inéquitables. Il ne s’agit pas d’un « bug » classique : le programme fonctionne comme prévu, mais le problème vient des données utilisées pour l’entraîner, des choix techniques ou des décisions de ses concepteurs. Des préjugés (racistes, sexistes, sociaux, etc.) peuvent alors se glisser dans ses réponses. Souvent involontaires, ces biais peuvent reproduire ou amplifier des inégalités. On les observe par exemple dans les moteurs de recherche, les réseaux sociaux ou les agents conversationnels.

C’est quoi un préjugé ?

Un préjugé, c’est une opinion toute faite qu’on a sur quelqu’un ou quelque chose, avant même d’avoir vérifié si c’est vrai. C’est une idée reçue. Par exemple, penser qu’une fille sera forcément moins douée en informatique qu’un garçon, ou qu’un garçon sera moins bon qu’une fille pour cuisiner un repas. Ce sont des préjugés liés au genre, parmi les plus répandus.

D’où viennent ces biais ?

Les biais algorithmiques ont plusieurs origines possibles :

• Les données d’entraînement : si les données utilisées pour apprendre à l’IA reflètent des inégalités passées, l’IA les reproduit et parfois les amplifie.
• La sélection des données : si certains groupes sont sous-représentés dans les données, l’algorithme sera moins performant pour eux. Un logiciel de reconnaissance faciale entraîné principalement sur des visages à la peau claire aura du mal à identifier correctement d’autres types de visages.
• Les choix humains : les personnes qui conçoivent les algorithmes font des choix qui introduisent leurs propres représentations.
• Les boucles de rétroaction : plus l’algorithme prend des décisions, plus il influence les données futures. Les biais s’accumulent alors, comme une petite erreur de direction qui, sur un long trajet, t’amène à un endroit complètement différent de ta destination.

Comment corriger un biais algorithmique ?

Corriger un biais est souvent un défi sérieux pour les ingénieurs. Les biais peuvent passer inaperçus lors des tests avec un petit nombre d’utilisateurs, mais se révéler préoccupants une fois déployés sur des millions d’utilisateurs. Corriger un biais peut aussi en créer un autre. Dans tous les cas, un algorithme n’est jamais objectif par nature : il reflète toujours les données et les décisions humaines qui l’ont construit. Vérifier régulièrement les résultats des algorithmes et diversifier les équipes qui conçoivent ces outils restent alors les moyens les plus efficaces pour limiter les biais.

Pour mieux comprendre les biais de l’intelligence artificielle, tu peux faire ce petit exercice ludique en ligne ici.

Quels risques pour nous tous ?

Des inégalités amplifiées
Les biais algorithmiques ne créent pas des inégalités à partir de rien : ils accentuent et légitiment celles qui existent déjà. Quand une IA prend des décisions sur l’accès au crédit, au logement ou à l’emploi, ses erreurs systématiques touchent les mêmes populations que les discriminations humaines traditionnelles, mais d’une façon plus importante.

La question de la transparence
La plupart des algorithmes sont comme des boîtes noires : ni les personnes concernées ni les autorités ne peuvent facilement vérifier comment elles fonctionnent. Les entreprises, à l’origine notamment des chatbots, sont souvent accusées de manquer de transparence sur la conception de leurs algorithmes.

Qui est responsable ?
Quand un algorithme prend une décision injuste, la responsabilité est difficile à attribuer. L’entreprise qui a collecté les données ? Celle qui a conçu le modèle ? Celle qui l’utilise ? Les réponses juridiques sont souvent encore floues dans la plupart des pays, et les recours pour les personnes lésées restent complexes à exercer.

Regarde cette vidéo de la chaîne YouTube de Sorbonne Université, tu vas comprendre l’essentiel en 2 minutes chrono :