Quand mi-mai 2019, la ville de San Francisco a pris la décision officielle de ne plus se servir d’outils de reconnaissance faciale, notamment pour son service de police, l’affaire avait fait grand bruit. Ce 8 juin 2020, IBM fait plus grand bruit encore en annonçant purement et simplement cesser de travailler sur ces technologies.
Le dirigeant d’IBM en appelle à un débat national
Le PDG Arvind Krishna adresse une lettre au Congrès américain expliquant que son groupe était prêt à travailler avec les parlementaires pour définir quels doivent être les bons usages de ce type d’outil, dans quels domaines, comment éviter les inégalités. Le dirigeant en appelle à un débat national et précise surtout qu’il faudra décider si oui ou non des services de polices et de maintien de l’ordre peuvent y avoir recours.
En attendant, IBM ne vend plus aucun logiciel relatif à la reconnaissance faciale et la lettre du PDG ajoute que le géant informatique “s’oppose fermement à quelque technologie de reconnaissance faciale que ce soit, y compris celles d’autres prestataires, et n’approuvera aucun usage destiné à la surveillance de masse, au profilage racial, aux violations des droits et libertés humains les plus élémentaires”.
Repli sur la détection d’objet
Le groupe compte se replier sur la détection visuelle d’objets, et non plus de visages, dans un cadre industriel par exemple. La reconnaissance faciale fait l’objet de débats tendus depuis quelque temps, surtout aux Etats-Unis, tant sur son efficacité, son potentiel discriminatoire que sur la manière pas toujours transparente dont elle est déployée. Plusieurs études et tests ont dénoncé les biais dont les technologies des uns et des autres souffraient. Comme une étude du National Institute of Standards and Technology (NIST), une autre de l’institut AI Now, ou une autre de l’American Civil Liberties Union (ACLU) montrant que la technologie Rekognition d’Amazon, très utilisée par les forces de police aux Etats-Unis, pouvait confondre des élus du Congrès avec des criminels…
C’est dans ce contexte que la Cnil a demandé en novembre 2019 la tenue, en France, d’un débat, même si la reconnaissance faciale est d’ores et déjà encadrée par les règles en matière de biométrie. Quelques mois plus tard, en février 2020, le secrétaire d’Etat au numérique Cédric O plaidait, lui, pour la tenue d’une expérimentation limitée.
