Biais

En apprentissage automatique, les neurones artificiels sont activés en fonction de la somme pondérée des signaux qu'ils reçoivent. Toutefois, l'apprentissage n'est pas toujours complètement automatisé, il peut y avoir une intervention humaine qui ajuste cette pondération et introduit un biais, c'est à dire une valeur supplémentaire qui crée un seuil artificiel d'activation ou de non activation. Les biais, en matière d'apprentissage automatique, sont ces valeurs délibérément introduites pour influencer la connectivité neuronale, avec plus ou moins de certitude sur la pertinence du résultat par rapport au résultat attendu.

Lorsqu'on parle de biais algorithmique, on fait souvent référence au fait que le résultat attendu serait absolument neutre et que le résultat du calcul serait une aberration. Par exemple, un système de reconnaissance faciale par apprentissage automatisé pourrait souffrir de biais de telle manière qu'il serait prédisposé à ne pas identifier les mêmes corrélations suspectes selon l'apparence ethnique d'un individu. Ce qui est alors questionné ici, c'est l’intentionnalité des biais, c'est-à-dire la légitimité du résultat par rapport à la décision qu'il conditionne.

Cependant, il est important de noter qu'il n'est pas pertinent de croire qu'un dispositif algorithmique et/ou d'apprentissage automatique serait au départ toujours neutre de tout biais, intentionnel ou non. Par exemple, autant on peut introduire sciemment des biais dans un système neuronal pour corriger la pondération, autant il faut aussi s'interroger sur la curation des données qui seront utilisées en début de chaîne pour l'apprentissage lui-même, tout comme il est important de mesurer la pertinence du résultat attendu. Un système ne produira jamais de résultat absolument étranger aux conditions de son apprentissage et plus généralement de sa conception.