Concept

Biais

Tendance d'un algorithme ou d'une IA à produire des résultats injustes, de façon répétée, envers certains groupes.

D'où ça vient

Dès 1976, Joseph Weizenbaum, un pionnier de l'IA, expliquait dans son livre Computer Power and Human Reason que le biais peut venir des données comme de la façon dont un programme est codé. Un cas connu: de 1982 à 1986, un système automatisé de la faculté de médecine St. George's a refusé des candidatures de femmes et de personnes aux noms jugés « étrangers », en se basant sur les anciennes admissions. Cathy O'Neil a ensuite élargi le débat avec son livre Weapons of Math Destruction (2016). Aujourd'hui, des cadres légaux comme le RGPD européen et la loi européenne sur l'IA s'y intéressent.

C'est quoi, concrètement

Un biais, c'est une erreur systématique et répétable qui avantage un groupe par rapport à un autre sans bonne raison. Il peut venir de la façon dont les données sont recueillies, choisies ou étiquetées, des choix de conception, ou d'un usage dans un contexte pas prévu au départ. Il peut être voulu ou non, et il existe même sans intention de discriminer. Dans ton quotidien, ça touche tout outil qui trie, classe, recommande ou évalue: candidatures, crédit, recherche, publicité, reconnaissance de visages.

Exemples

Reconnaissance faciale : Quand les données d'entraînement sont déséquilibrées, le système se trompe plus souvent sur certains visages, ce qui a mené à des arrestations injustifiées.
Pointage de crédit : Un algorithme qui refuse un prêt à des personnes presque identiques selon des critères sans rapport montre un biais.
Tri de candidatures : Un outil qui apprend des embauches passées peut reproduire les préférences, et les préjugés, de ceux qui occupaient le poste avant.
Moteurs de recommandation : Ils associent les gens à des utilisateurs jugés semblables, ce qui peut renforcer des stéréotypes liés au genre, à l'origine ou au revenu.
Moteurs de recherche et réseaux sociaux : Les critères d'inclusion et d'exclusion des résultats peuvent donner des résultats inattendus ou favoriser certains contenus.

Ce que ça permet

Comprendre le biais t'aide à poser les bonnes questions avant d'adopter un outil.
Un algorithme bien conçu donne souvent des décisions aussi équitables que celles des humains, voire plus.
Repérer le biais tôt évite des décisions injustes et des dommages à ta réputation.
Des groupes de recherche et des lois encadrent de plus en plus le sujet, ce qui donne des repères.

Pièges à éviter

Un algorithme paraît neutre, alors qu'il reflète les choix humains derrière ses données et son code.
On a tendance à trop se fier à la machine, et la responsabilité des décisions peut se perdre en chemin.
L'inverse existe aussi: n'écouter l'outil que lorsqu'il confirme ce qu'on pense déjà garde les biais en place.
Les algorithmes sont souvent des secrets commerciaux et très complexes, donc difficiles à examiner.
Un résultat qui a l'air correct ne prouve pas que le processus est fiable.

Pour ta PME

Avant d'utiliser une IA pour trier des candidatures, évaluer des clients ou recommander des offres, vérifie sur quelles données elle s'appuie et teste-la sur des cas variés. Garde toujours une personne qui révise et approuve les décisions qui touchent des gens. Évite d'y mettre des renseignements personnels sensibles sans t'assurer de respecter la Loi 25.

Sources : Wikipédia · mis à jour le 2026-11-06

Infolettre gratuite

« 5 prompts, 1 café »

Reçois 5 prompts prêts à copier chaque matin à 6 h 30.