L’évolution des capacités de la reconnaissance faciale crée de nouveaux défis pour la protection de données et même des crises institutionnelles dans plusieurs pays aujourd’hui.
En effet, la reconnaissance faciale est surtout aujourd’hui connue pour être peu fiable. Comme le signalait le MIT en janvier, la police métropolitaine de Londres a lancé un système de reconnaissance faciale en direct qui, lors de tests, avait un taux de précision inférieur à 20%. À New York, la Metro Transit Authority a testé un système sur les grandes artères avec un taux de précision de 0%. Les systèmes sont souvent biaisés par des préjugés raciaux, car une étude a révélé que dans certains systèmes commerciaux, même dans des conditions de laboratoire, le taux d’erreur dans l’identification des femmes à la peau foncée était d’environ 35%.
Le MIT a même constaté qu’il n’est pas rare que la police modifie les photos pour améliorer ses chances de trouver une correspondance. Certains ont même défendu cette pratique comme étant essentielle au bon travail de la police.
Deux des sociétés les plus controversées et les plus avancées dans ce domaine, ClearviewAI et NTechLabs, affirment avoir résolu le “problème de la partialité” et atteint une précision quasi-parfaite. ClearviewAI affirme qu’elle est utilisée par environ 600 services de police aux États-Unis . NTechLabs, basé en Russie, a signé pour la reconnaissance faciale vidéo en direct dans toute la ville de Moscou.
Et un exemple de freinage ici à New York
mais ici aussi en Californie