Vous avez sûrement déjà entendu parler d’algorithmes d’IA qui se comportent de façon… disons, pas très juste. Par exemple, un modèle d’IA chargé de surveiller les contenus a déjà censuré des commentaires mentionnant des handicaps, en les qualifiant d’« inappropriés ». Cela a privé des personnes handicapées du droit de s’exprimer. Ou encore, une IA utilisée pour approuver des prêts hypothécaires a imposé des taux d’intérêt plus élevés aux emprunteurs noirs et latinos qu’à leurs homologues blancs.
Mais ce n’est que la partie visible de l’iceberg. Les biais de l’IA peuvent même devenir dangereux. Des études révèlent que certaines voitures autonomes détectent moins bien les piétons à la peau foncée, ce qui augmente le risque d’accidents pour ces personnes.
Ce genre d’incidents relance sans cesse les discussions sur les biais présents dans les algorithmes d’intelligence artificielle. Ces problèmes poussent les entreprises à chercher des solutions pour rendre leurs modèles plus équitables.
Dans cet article, on va faire le point.
Qu’est-ce qu’un biais de l’IA, et pourquoi se produit-il ?
Pour bien comprendre les biais de l’intelligence artificielle (IA), commençons par les bases.
En termes simples, un biais d’IA se produit lorsqu’un algorithme produit des résultats systématiquement injustes ou déséquilibrés. Cela arrive à cause d’hypothèses erronées lors du processus d’apprentissage. Autrement dit, l’IA ne devient pas biaisée par accident ; elle apprend de données qui contiennent déjà des préjugés humains, conscients ou inconscients.
D’où viennent ces biais ?
Les biais peuvent prendre des formes variées : raciaux, sexistes, ou liés à des critères comme l’âge ou l’orientation socio-économique. En général, ces biais proviennent des choix faits par les développeurs lors de la conception des modèles ou des données utilisées pour les entraîner.
1. Biais algorithmiques
C’est un problème qui apparaît dès le développement de l’algorithme. Par exemple, on pourrait penser qu’un modèle sera moins biaisé s’il ne tient pas compte de la race des personnes qu’il analyse. Mais en réalité, même si l’on exclut ces informations, l’algorithme peut toujours faire des corrélations injustes en utilisant des données indirectement liées, comme le quartier où une personne habite. Ce phénomène s’appelle la discrimination par procuration.
2. Qualité des données d’entraînement
La plupart des biais proviennent des données. Si les modèles d’IA sont formés avec des données biaisées, ils reproduiront ces mêmes préjugés. Prenons l’exemple d’un outil de recrutement qui apprend à partir de données historiques d’une industrie dominée par les hommes. Ce modèle risque de préférer les candidats masculins, même si ce n’est pas l’objectif.
Les biais linguistiques sont un autre exemple. Si un modèle de traitement du langage naturel est formé avec des textes où des stéréotypes sont présents, il va naturellement les intégrer. C’est ce qui s’est passé avec Google Translate, qui, pour certaines langues, génère des traductions sexistes, comme « il travaille » et « elle s’occupe des enfants ».
3. Collecte et traitement des données
Les biais peuvent aussi venir d’erreurs dans la manière dont les données sont rassemblées et organisées. Par exemple, le sous-échantillonnage peut amener un modèle à ignorer des groupes minoritaires, tandis que le suréchantillonnage peut donner trop de poids à certains facteurs, faussant ainsi les résultats. Prenons les données de criminalité : si un algorithme est formé avec des rapports de police, il risque de surestimer la criminalité dans des quartiers où la police patrouille plus souvent, simplement parce que ces zones sont davantage surveillées.
4. Retour d’information des utilisateurs
Enfin, le comportement des utilisateurs influence les modèles d’IA après leur déploiement. Par exemple, si un algorithme de publicité cible les personnes avec des taux d’intérêt plus élevés et que ces personnes cliquent plus souvent sur ces offres, le modèle interprétera ce comportement comme une validation, renforçant ainsi le biais initial sans que les utilisateurs s’en rendent compte.
Bref, le biais de l’IA est complexe, car il peut surgir à différentes étapes, que ce soit lors de la conception des algorithmes, de l’entraînement des modèles ou de leur utilisation dans le monde réel.
Les quatre types de biais les plus courants dans l’intelligence artificielle
Quand on parle de biais dans l’IA, les classifications se basent souvent sur l’origine des préjugés. Voici les types de biais les plus fréquents qu’on retrouve dans les algorithmes d’IA.
1. Biais de signalement
Le biais de signalement apparaît lorsque la fréquence des événements dans les données d’entraînement ne correspond pas à la réalité. Par exemple, imaginez un outil de détection des fraudes qui attribue des scores de fraude exagérément élevés aux habitants d’une région éloignée. En fait, l’ensemble de données d’entraînement sur lequel l’outil s’appuyait indiquait que chaque enquête menée dans cette région était un cas de fraude. Cette distorsion vient de l’approche des enquêteurs, qui, en raison de la difficulté de se rendre sur place, ne vérifiaient que les cas les plus suspects. Cela a faussé la fréquence des fraudes dans les données, créant un biais.
2. Biais de sélection
Le biais de sélection se produit lorsque les données d’entraînement ne sont pas représentatives, souvent parce qu’elles ont été choisies de manière non aléatoire. Un exemple frappant de ce biais est illustré par la recherche de Joy Buolamwini, Timnit Gebru et Deborah Raji. Elles ont découvert que trois outils de reconnaissance faciale commerciaux avaient beaucoup plus de mal à identifier correctement les visages féminins, en particulier ceux des femmes à la peau foncée. Ces erreurs étaient dues à un manque de diversité dans les données d’entraînement, qui représentaient principalement des hommes à la peau claire.
3. Biais d’attribution de groupe
Ce biais survient lorsqu’un algorithme extrapole des caractéristiques individuelles pour les appliquer à tout un groupe. C’est le cas des outils d’admission ou de recrutement qui favorisent, par exemple, les candidats issus de certaines écoles réputées, en partant du principe que les diplômés de ces établissements sont tous supérieurs. Cela peut entraîner une discrimination injuste envers des individus qualifiés qui n’ont pas fréquenté ces écoles.
4. Préjugés implicites
Les préjugés implicites se manifestent quand les scientifiques des données laissent inconsciemment leurs propres expériences et stéréotypes influencer les modèles d’IA. Par exemple, s’ils ont grandi avec des messages culturels associant les femmes aux rôles domestiques, ils pourraient, même sans s’en rendre compte, entraîner des modèles qui perpétuent ces stéréotypes. Cela a été mis en évidence par des outils comme Google Images, qui, pendant longtemps, avaient tendance à montrer des femmes dans des rôles de femmes de ménage ou de tâches domestiques, même si les développeurs croyaient en l’égalité des sexes.
Exemples concrets de biais dans l’IA
L’impact des biais dans l’intelligence artificielle est souvent tangible et peut provoquer de réels préjudices. Voici quelques cas notables qui montrent à quel point les modèles d’IA peuvent devenir discriminatoires.
1. Annonces Google
Des chercheurs de l’université Carnegie Mellon ont révélé que le système d’annonces de Google avait tendance à proposer des offres d’emploi à haut salaire plus souvent aux hommes qu’aux femmes. Ce type de discrimination affecte directement les chances des femmes d’accéder à des opportunités bien rémunérées.
2. Outil de recrutement d’Amazon
Amazon a conçu un outil de recrutement basé sur l’IA dans l’espoir de rendre le processus de sélection plus objectif. Cependant, il s’est avéré que cet outil pénalisait systématiquement les CV des femmes ou ceux qui comportaient des termes féminins comme « capitaine de l’équipe féminine ». Cela s’est produit parce que le modèle avait été entraîné sur des CV historiques, principalement ceux d’hommes, et a ainsi intégré les biais du passé.
3. Discrimination fondée sur l’âge chez iTutorGroup
iTutorGroup a été sanctionnée par la Commission pour l’égalité des chances en matière d’emploi, avec une amende de 365 000 dollars, pour discrimination envers les candidats plus âgés. Leur système d’IA rejetait systématiquement les candidatures de femmes de plus de 54 ans et d’hommes de plus de 59 ans, montrant un biais évident lié à l’âge.
Comment identifier la partialité de l’IA
Pour garantir que les systèmes d’IA soient justes et équitables, la première étape est de détecter et comprendre les biais qui pourraient exister. Cela nécessite une analyse approfondie et continue des algorithmes. Voici quelques conseils pour y parvenir :
- Analyse des résultats : Commencez par examiner les décisions prises par l’IA dans votre domaine. Si vous travaillez, par exemple, dans le secteur bancaire, il est crucial de vérifier les taux d’approbation des prêts et les scores de crédit attribués. Des disparités importantes entre différents groupes démographiques pourraient indiquer un biais latent.
- Scores de satisfaction : Si votre entreprise utilise l’IA pour gérer le service client, vous pouvez analyser les scores de satisfaction des clients. Par exemple, si des clients provenant de certaines régions reçoivent systématiquement un support de qualité inférieure, cela pourrait révéler un biais de proximité.
- Performance médicale : Dans le domaine de la santé, il est essentiel d’évaluer la précision des diagnostics pour différents groupes ethniques. Si des écarts sont constatés dans l’exactitude des diagnostics, il peut y avoir un biais qui affecte la qualité des soins pour certains patients.
Le processus de détection des biais ne doit jamais s’arrêter. À mesure que les modèles d’IA évoluent et apprennent de nouvelles données, de nouvelles formes de biais peuvent apparaître. C’est pourquoi il est important de tester régulièrement les algorithmes et de mettre à jour les protocoles pour garantir une performance équitable.
Pourquoi s’engager à réduire les biais ?
L’importance de s’attaquer aux biais de l’IA ne doit pas être sous-estimée, surtout avec la montée en puissance de cette technologie dans des secteurs critiques comme les finances, la justice et la santé. Voici pourquoi il est essentiel pour les entreprises de s’engager sur ce point :
- Préserver la réputation : La perception de biais dans un algorithme peut suffire à éloigner des clients potentiels. La simple idée que vos systèmes soient injustes peut ternir la réputation de votre entreprise, même si elle est techniquement compétente.
- Confiance interne : Des décisions biaisées peuvent saper la confiance de toutes les parties prenantes. Par exemple, un conseil d’administration pourrait douter des choix de la direction, les employés risquent de devenir démotivés, et les partenaires commerciaux hésiteront à recommander vos services.
- Risques juridiques : L’inaction face aux biais peut également attirer l’attention des régulateurs, entraînant des sanctions ou des poursuites judiciaires. Le climat réglementaire devient de plus en plus strict, notamment en Europe, où des solutions comme la certification des fournisseurs d’IA sont envisagées pour encadrer l’équité des systèmes.
Comment réduire les biais dans les algorithmes d’apprentissage automatique
Éliminer les préjugés de l’IA n’est pas une tâche simple, mais certaines pratiques peuvent aider à rendre les modèles plus équitables et inclusifs. Voici quelques étapes concrètes :
- Connaître le contexte : Certains secteurs sont plus exposés aux risques de biais en IA. Analyser les échecs passés de l’IA dans votre domaine peut vous guider pour anticiper et corriger les préjugés. Les systèmes qui ont échoué auparavant peuvent fournir des leçons précieuses pour éviter les mêmes erreurs.
- Favoriser l’inclusion dès la conception : Assurez-vous que votre équipe de développement soit diversifiée. La diversité permet d’apporter différents points de vue et de détecter des biais qui pourraient passer inaperçus. De plus, définissez des objectifs mesurables pour garantir des performances équitables du modèle, même pour des sous-groupes souvent négligés, comme les différentes tranches d’âge.
- Contrôler rigoureusement les données : Mettez en place un cadre de gouvernance pour gérer les données de manière transparente. Cela inclut l’analyse des sources de données, leur nettoyage et leur vérification pour éliminer les biais. Les données provenant de tiers, en particulier, doivent être scrutées attentivement.
- Entraîner sur des ensembles de données représentatifs : Développez des directives claires pour la collecte et le prétraitement des données d’entraînement. Une supervision régulière de la diversité des données est essentielle. Faites appel à des experts pour analyser les corrélations discriminatoires qui pourraient biaiser le modèle.
- Effectuer des tests ciblés : Lors de l’évaluation de votre modèle, vérifiez ses performances sur différents sous-groupes (par exemple, selon le genre ou l’origine ethnique). Des tests de résistance peuvent aussi révéler des problèmes qui ne se manifestent pas lors des analyses globales. Répétez ces tests fréquemment, surtout quand de nouvelles données sont disponibles.
- Corriger les biais humains : L’IA peut aussi servir de miroir pour nos propres préjugés. Si vos modèles sont biaisés par les décisions humaines, examinez et ajustez les pratiques de vos équipes. Parfois, l’amélioration des décisions humaines aide à mieux entraîner vos modèles.
- Améliorer l’explicabilité de l’IA : Il est crucial de comprendre comment votre IA prend des décisions. Identifier les facteurs qui influencent les prédictions aide à repérer les sources de biais. Cela rend le processus plus transparent et facilite l’adoption de mesures correctives.
Initiatives actuelles pour lutter contre les biais de l’IA
Plusieurs acteurs technologiques prennent des initiatives pour créer des modèles plus justes. Par exemple :
- Intel travaille à augmenter la diversité parmi ses développeurs d’IA, avec une représentation des femmes atteignant 24 %, bien au-dessus de la moyenne.
- Google a mis en place des pratiques d’IA responsable, offrant des conseils pour minimiser les biais dans leurs algorithmes.
- AI4ALL, une organisation à but non lucratif, se consacre à former des talents diversifiés pour le développement de l’IA.
Des audits et des tests d’équité sont aussi de plus en plus pratiqués avant de déployer des systèmes, et des cadres juridiques commencent à émerger pour encadrer les algorithmes.
L’IA peut-elle vraiment être impartiale ?
Même avec les meilleures pratiques, il est peu probable que l’IA soit un jour totalement exempte de biais. Les préjugés sont profondément enracinés dans nos interactions sociales, et les modèles d’IA, même bien conçus, peuvent les refléter involontairement. Certains experts préconisent un contrôle des biais, permettant aux utilisateurs de spécifier les niveaux de discrimination tolérables dans certains environnements.
Malgré tout, chaque effort compte pour maximiser l’équité de l’IA. Collaborer avec des partenaires expérimentés, comme des sociétés spécialisées en IA, peut faire une grande différence dans le développement de solutions plus justes et transparentes.
