Biais algorithmiques : comprendre et prévenir les dérives de l’intelligence artificielle

Les avancées en intelligence artificielle (IA) transforment nos sociétés, offrant des solutions innovantes et de nouveaux défis. Cependant, elles ne sont pas exemptes de défauts. Parmi ces défis se trouve le biais algorithmique, un phénomène qui peut produire des résultats qui favorisent ou défavorisent certains groupes ou individus de manière injuste. Ces biais peuvent avoir des conséquences importantes, notamment en renforçant les inégalités sociales, en discriminant certaines populations ou en influençant les décisions automatisées dans des domaines comme le recrutement, le crédit, la justice ou encore la publicité. Dans cet article, nous explorons les causes, les impacts et les solutions pour prévenir ces biais afin de promouvoir une IA équitable et digne de confiance. 

Qu’est-ce que le biais algorithmique ?

Un biais algorithmique se produit lorsque des préjugés humains, intentionnels ou non, sont intégrés dans un système d’intelligence artificielle. Ces biais proviennent souvent des données d’entraînement ou des choix de conception des modèles. En conséquence, l’IA peut produire des résultats injustes, discriminatoires ou éloignés des attentes initiales. Un exemple frappant est celui d’Amazon. En 2018, l’entreprise a abandonné un outil de recrutement automatisé qui favorisait les candidatures masculines car le système avait été entraîné sur des données historiques dominées par des CV masculins, reflétant ainsi des préjugés sexistes préexistants.

Exemples d’origines des biais algorithmiques

Données biaisées ou non représentatives

Lorsque les systèmes d’IA apprennent à partir de données qui ne couvrent pas l’ensemble des réalités humaines, ils reproduisent automatiquement ces déséquilibres. Par exemple, un modèle médical conçu à partir de photos de peau majoritairement claires risque d’être moins précis pour détecter des anomalies sur des peaux foncées. L’algorithme n’est pas « mauvais » en soi ; il n’a tout simplement jamais vu assez de diversité pour apprendre correctement

Décisions ou représentations involontaires des concepteurs

Les équipes qui développent, les modèles prennent des décisions : quelles variables utiliser, quels critères privilégier, quels seuils fixer… Même lorsqu’elles font preuve de vigilance, leurs propres expériences, croyances ou angles morts peuvent se traduire en biais techniques. C’est ce que l’on appelle le biais de conception.

Biais dans les données proxy

Les algorithmes utilisent souvent des variables indirectes* qui peuvent masquer des discriminations. L'utilisation du code postal comme indicateur de solvabilité peut indirectement discriminer certaines communautés concentrées dans des zones géographiques spécifiques.

« Une variable indirecte est une donnée qui ne représente pas directement ce que l’on cherche à évaluer, mais qui est utilisée comme substitut parce qu’elle est liée à l’information réelle. »

Conception des algorithmes

Les décisions prises lors du développement d’un algorithme, choix des variables, méthodes statistiques, seuils retenus, données exclues, etc. peuvent introduire des biais sans que cela soit intentionnel. Ces biais peuvent ensuite se renforcer avec le temps à travers un phénomène de boucle de rétroaction : si un système produit des résultats biaisés, ces résultats finissent par alimenter de nouvelles données d’entraînement.

Dans certains cas, ces nouvelles données peuvent être des données synthétiques générées par l’IA elle-même. Si le modèle initial est déjà biaisé, les données synthétiques qu’il crée risquent de reproduire les mêmes distorsions, voire de les amplifier. Au fil des itérations, l’algorithme apprend donc à partir d’une base de plus en plus éloignée de la réalité, ce qui renforce les inégalités déjà présentes dans les données d’origine.

Exemples concrets :

• Justice et sécurité : Le système COMPAS, utilisé par les tribunaux américains pour évaluer le risque de récidive, a démontré des biais significatifs. Une étude de ProPublica a révélé que l'algorithme classait les accusés noirs comme présentant un risque de récidive deux fois plus élevé que les accusés blancs, à profil équivalent.

• Reconnaissance faciale : Des recherches du MIT ont mis en évidence que plusieurs systèmes de reconnaissance faciale présentaient des taux d'erreur significativement plus élevés pour les personnes à la peau foncée, particulièrement les femmes. Ces biais s'expliquent notamment par des données d'entraînement peu diversifiées.

• Services financiers : Des études de l'université de Californie à Berkeley ont révélé que certains algorithmes d'évaluation de crédit appliquaient des taux d'intérêt plus élevés aux emprunteurs issus de minorités, même à profil de risque équivalent.

  
  

Exemples de conséquences des biais algorithmiques

Les biais algorithmiques peuvent avoir des conséquences graves :

• Discrimination systémique renforcée

• Perte de confiance dans les technologies d'intelligence artificielle

• Risques légaux et financiers pour les organisations

• Perpétuation des inégalités sociales existantes

  
  

Comment atténuer les biais algorithmiques ?

1. Améliorer la qualité des données

Avant même d’entraîner un modèle, il est essentiel d’examiner d’où proviennent les données, ce qu’elles omettent et ce qu’elles amplifient. Une base de données équilibrée doit refléter la diversité réelle de la population concernée et ne pas reproduire les injustices passées.

Les données utilisées pour entraîner les modèles doivent être diversifiées et représentatives. Par exemple :

• Lors de la conception d’un modèle pour un usage médical, il est essentiel d’inclure des individus de différentes origines ethniques, tranches d’âge et genres.

• Si les données initiales sont déséquilibrées, des techniques comme l’échantillonnage stratégique ou la création de données synthétiques peuvent être utilisées.

  
  

2. Évaluations régulières et tests croisés

Les biais ne se détectent pas en une seule fois. Ils évoluent dans le temps et peuvent apparaître à mesure que l’algorithme est utilisé. La mise en place de tests systématiques et de scénarios extrêmes permet d’identifier des écarts que les développeurs n’avaient pas anticipés. Les audits algorithmiques permettent d’évaluer la performance des systèmes en termes d’équité. Des outils comme AI Fairness 360 d’IBM ou Fairlearn de Microsoft peuvent aider les développeurs à détecter et à corriger les biais mais ces outils doivent s’inscrire dans une démarche globale de gouvernance de l’IA, et ne garantissent pas à eux seuls l’équité.

3. Diversifier les équipes de conception

Les biais ne sont pas uniquement techniques : ils ont des racines historiques, sociales, culturelles et éthiques. C’est pourquoi les équipes d’IA ont tout intérêt à travailler avec par exemple des experts en sciences humaines, sociologues, philosophes, historiens, experts en éthique pour détecter les angles morts invisibles aux seules équipes techniques.

4. Mettre en place des cadres réglementaires

Les biais algorithmiques sont désormais encadrés par des réglementations strictes, particulièrement en Europe. Le règlement sur l’intelligence artificielle (AI Act) prévoit des sanctions dissuasives par exemple l’Article.99 Sanctions | Loi de l'UE sur l'intelligence artificielle : “Le non-respect de certaines pratiques en matière d'IA peut entraîner des amendes allant jusqu'à 35 millions d'euros ou 7 % du chiffre d'affaires annuel d'une entreprise. D'autres violations peuvent donner lieu à des amendes allant jusqu'à 15 millions d'euros ou 3 % du chiffre d'affaires annuel de l'entreprise”. 

Cette réglementation met l'accent sur les systèmes d'IA à "haut risque", notamment dans les domaines sensibles comme la santé, l'emploi ou la justice. Aux États-Unis, le " Blueprint for an AI Bill of Rights" est toujours publié comme document-cadre par l’administration fédérale. Toutefois, il reste non-contraignant.

5. Sensibiliser et former les professionnels

Il est important de sensibiliser les professionnels aux enjeux des biais algorithmiques. Des formations spécialisées peuvent les aider à intégrer des pratiques éthiques et équitables dans leurs processus de développement.

Gouvernance de l’intelligence artificielle

La gouvernance de l'IA doit reposer sur quatre piliers :

1. Équité : garantir un traitement équitable pour tous les groupes

2. Transparence : assurer la compréhension des décisions algorithmiques

3. Responsabilité : définir clairement les responsabilités en cas de biais

4. Contrôle : mettre en place des mécanismes de surveillance efficaces

   
   

   
   

Conclusion

La lutte contre les biais algorithmiques est un enjeu crucial pour développer une IA éthique et équitable. Elle nécessite une approche globale combinant aspects techniques, réglementaires et humains. Les décisions prises aujourd'hui façonneront l'avenir de l'IA et son impact sur nos sociétés. La vigilance et l'engagement de toutes les parties prenantes sont essentiels pour garantir une technologie qui serve équitablement l'ensemble de la société.

Source :

LeMonde : La Défenseure des droits appelle à la vigilance sur l’usage des algorithmes par les services publics

LeMonde : Algorithmes sociaux : « Plus le score de risque est élevé, plus le contrôle est intensifié »

IBM : Qu’est-ce que le biais algorithmique ?

Salesforces : Naviguer dans le biais algorithmique : maximiser l’efficacité du marketing

UC Berkeley Haas : https://newsroom.haas.berkeley.edu/minority-homebuyers-face-widespread-statistical-lending-discrimination-study-finds