Âge V — La transformation · 2017 — 2021
Les systèmes de reconnaissance ne voient pas tout le monde également
Événement
Que s'est-il produit du côté humain ?
Joy Buolamwini et Timnit Gebru présentent Gender Shades à la première conférence FAT*. En auditant trois services commerciaux de classification du genre à partir de photographies, elles mesurent un taux d'erreur inférieur à 1 % pour les hommes à peau claire et allant jusqu'à 34,7 % pour les femmes à peau foncée.
Écart
Combien de temps après la capacité ?
Six ans après la percée de la vision par ordinateur, ses effets inégaux sont documentés — après déploiement, pas avant.
Conséquence
Qu'est-ce que cela a durablement changé ?
L'audit indépendant s'impose comme contre-pouvoir. Les fournisseurs visés révisent leurs systèmes, et plusieurs suspendront ensuite leurs offres de reconnaissance faciale.
Voix humaine
« La machine ne nous voit pas de la même façon. »
Écho d'une capacité
AlexNet : la machine apprend à voir · 2012
Réaction 6 ans après la capacité
Sources · force documentaire P1 à P4
L'état de contrôle indique la dernière réponse obtenue en interrogeant l'adresse, non la conformité du document : un lien actif ne prouve pas que la page affiche bien la référence citée. Les liens protégés par un dispositif anti-robot s'ouvrent normalement dans un navigateur. · P1 source primaire — publication évaluée, texte officiel, document d'origine · P2 institutionnelle, ou communication d'entreprise : primaire pour ce que son émetteur affirme, non preuve indépendante · P3 recherche secondaire, synthèse ou prépublication non évaluée · P4 presse. Le grade qualifie la source, non la fiche.
Partager
Chaque page a son adresse propre et sa carte de partage. Aucun script tiers n'est chargé : ces boutons sont de simples liens.
Pour citer : Les systèmes de reconnaissance ne voient pas tout le monde également — février 2018 · IA LIFE LINE — IA LIFE LINE, https://oveliya.com/ia-life-line/fiche/h-2018-biais/, consulté le . Corpus sous licence CC BY-NC 4.0.