Petit rappel sur les algorithmes de detection : si on vous dit qu'un algo réussi à reconnaitre un visage avec un taux de réussite de 99%, ça ne veut rien dire.

Il faut connaître :
- le pourcentage de faux négatif : une personne n'est pas reconnue alors qu'elle est présente dans l'image
- le pourcentage de faux positif : une personne est reconnue alors qu'elle n'est pas présente

En général, quand on diminue l'un, on augmente l'autre (grosso-modo).

../..

../..

La difficulté est de trouver un compromis. Une détection de tumeur n'aide pas si l'alarme retentit pour toute autre chose qu'une tumeur, même si dans le lot il y en a une.

Dans le cas d'un criminel, puisque c'est ce que nous vend pour imposer la reconnaissance faciale à tous les coins de rue, on souhaite évidemment réduire à néant les faux négatifs : on ne PEUT PAS rater un criminel.

Au risque, vous l'aurez compris, de mettre dans le lot des personnes innocentes.

../..

../..

Ajoutez les biais cognitifs classiques, comme l'oubli de la fréquence de base, et on a un outil dangereux :

Imaginons 0% de faux négatif. C'est utopique, mais un objectif avoué pour les états et entreprises du domaine.

Imaginons 1% de faux négatif : c'est bien en dessous de ce qui existe actuellement.

60'000'000*1% = 60'000

Pour trouver un criminel, il faut arrêter 60'000 français.es.

../..

../..

Il y a un problème de destination, derrière tout ça. On pourrait se dire "Et il vaut mieux chercher 1 criminel parmi 60000 personnes que 60 millions". Certes, et c'est déjà ce que font les renseignements avec le fichage (S, par exemple). Qui sûrement plus efficace, puisqu'il ne cherche pas à éliminer des gens innocents d'une liste de potentiels malfaiteurs. Au contraire, il liste des personnes susceptibles de conduire à la personne recherchée (par relation, par exemple).

../..

../..

cet algo de détection, lui, il dit "'A Y EST !!! J'ai trouvé !!"
...
...
...
"Ha non, désolé". Potentiellement 60000 fois avant de tomber sur la bonne personnes.

Le risque est bien sûr de donner un blanc-seing à l'algo et de considérer la sortie "M. X = criminel" comme vraie.

(Toute ressemblance avec la volonté de certaines personnalités politiques concernant l'inculpation de tout fiché S est absolument pas fortuite).

Follow

@djelouze

C'était le même débat avec les boîtes noires pour surveiller le comportement des internautes.
Ça a fini par être autorisé 😑

Sign in to participate in the conversation
Mastodon Racing

Mastodon Racing

🇬🇧 Mastodon Racing is a federate instance of the fediverse (OStatus & ActivityPub) mainly dedicated to Motorsports and tech. Whether you are passionate or not about motorsports, you will always be welcome on this forum, any type of subject is accepted (news, politics, fiction, science, culture, etc.). Moderation is done in English or French.

🇫🇷 Mastodon Racing est une instance fédérée du fediverse (OStatus & ActivityPub) principalement dédiée aux Sports Mécaniques et nouvelles technologies. Que vous soyez passionné·e ou non de sports mécaniques, vous êtes bienvenue sur cette instance, tout type de sujet y est accepté (actualité, politique, fiction, science, culture, etc.). La modération se fait en anglais ou en français.

Since April 18, 2017