Les entreprises pourraient devenir des enquêteurs,avec la technologie de reconnaissance façiale ,indirectement par la vente du système de Bell
reconnaissance faciale, hackers, vol d'identité, anonymat, vol,
Bell veut vous faire suivre en continu
Alors que les autorités enquêtent sur des systèmes de reconnaissance faciale, La Presse
a appris que Bell voulait vendre cette technologie aux entreprises. Si
le géant des télécommunications va de l’avant, ses clients d’affaires
pourraient utiliser son outil haute performance pour identifier et
surveiller des milliers de visages à la minute – dans des hôtels,
épiceries, boutiques, banques, stades ou lieux de travail.
Un outil pour « surveiller les individus »
Malgré
la controverse croissante entourant cette technologie, Bell veut vendre
aux entreprises un système de reconnaissance faciale capable de
vérifier « instantanément » l’identité des gens, de détecter leurs
comportements et de les « suivre en continu ».
La Presse
a appris que le géant des télécommunications avait suggéré à ses
clients d’affaires de l’utiliser pour surveiller et cibler les personnes
qui entrent dans leurs hôtels, épiceries, boutiques, banques, stades ou
lieux de travail.
Sa
technologie « haute performance » capte les visages à l’aide de caméras
et les compare à « une large banque de données archivées », peut-on
lire sur une page du site web de Bell. Cette page en anglais semble non
indexée et ne nous a pas été accessible à partir d’un moteur de
recherche.
Bell
a refusé de nous accorder une entrevue, mais a répondu par courriel
qu’elle « ne propose pas de services de reconnaissance faciale en ce
moment ». Sa page web a été construite à des fins promotionnelles, pour
« déterminer le niveau d’intérêt potentiel de ce service et s’il
pourrait être un produit viable », a écrit la porte-parole
Caroline Audet.
Bell
est présente en télécommunications, en télévision, en radio et en
affichage, et a encaissé 3,25 milliards de profits sur des revenus de
24 milliards en 2018. Si les nombreuses entreprises qu’elle dessert
achetaient massivement son système de reconnaissance faciale, des
milliers de Canadiens pourraient bientôt être surveillés et reconnus
dans toutes sortes de lieux – sans forcément s’en rendre compte ni en
avoir réellement le choix.
« Même
avec un éclairage de bas niveau et avec des données vidéo de faible
qualité, l’analyse vidéo de Bell est capable de compter et de suivre en
continu les personnes et les objets », précise son site. Le système
d’intelligence artificielle envoie des « alertes instantanées » aux
responsables de la sécurité et permet de « prendre des décisions plus
rapides et intelligentes ».
Repérer les clients riches
La
semaine dernière, les commissaires à la protection de la vie privée du
Canada ont fait état de leurs « préoccupations croissantes quant à
l’utilisation de la reconnaissance faciale » et déclenché une enquête
nationale sur l’une de ces technologies, Clearview AI, utilisée par des
centaines de corps policiers, dont certains canadiens.
D’après
une note en petits caractères, masquée par le signe « + » au pied de sa
page web, Bell cherche de son côté à revendre l’outil d’une immense
société japonaise, NEC, qui a entre autres mis au point un système
appelé NeoFace, dès 2002. Il sera employé aux Jeux olympiques de Tokyo
l’été prochain, et permet d’analyser des milliers de visages par minute
pour faire de la surveillance ou du marketing, selon le site web de NEC.
Sur
son propre site, Bell suggère par exemple aux banques d’utiliser la
reconnaissance faciale pour détecter aussi la présence de « déposants
fortunés » et de « clients VIP » afin de leur offrir des avantages. La
même chose est possible dans les hôtels et les boutiques.
À
l’autre extrême, toujours selon son site, l’outil promu par Bell
« détecte les comportements suspects », « surveille les individus »,
repère les gens inscrits sur une liste noire et envoie des « alertes
instantanées » aux responsables de la sécurité. Les indésirables peuvent
ainsi se voir bloquer l’accès à un commerce ou à un guichet automatique
« pour éviter les vols et les pertes ».
Autres
possibilités : « garde[r] en mémoire le nombre, le mouvement et le
comportement des personnes sur plusieurs sites », automatiser l’accès
aux stades (sans billets), mieux répartir le personnel selon
l’achalandage et les files d’attente, etc.
1/6
Sur son
site, NEC vante le fait que la reconnaissance faciale puisse se faire
« sans interagir avec l’individu en train d’être identifié ».
Ce
sont deux Torontois férus de technologie, Sydney Eatz et Richard Trus,
qui ont déniché la page web de Bell et l’ont transmise à La Presse.
Ils se surnomment « la police de l’internet », parce qu’ils ont dénoncé
plusieurs dérives à des médias torontois depuis deux ans. Sydney Eatz a
aussi déposé un mémoire sur Google devant un comité de la Chambre des
communes.
« Facebook
a dû payer 550 millions de dollars US pour régler hors cours un recours
collectif, après avoir utilisé la reconnaissance faciale aux dépens de
la vie privée, a-t-elle dit à La Presse en entrevue. Ça démontre que faire de la reconnaissance faciale sans obtenir le consentement des gens a un coût. »
Pire que la police
Le projet de Bell inquiète les défenseurs et les experts de la vie privée joints par La Presse.
« Jusqu’à
récemment, l’identification biométrique était limitée à la police dans
le cadre d’enquêtes criminelles, mais maintenant, c’est en train d’être
généralisé un peu partout », dit Dominique Peschard, porte-parole de la
Ligue des droits et libertés.
En
plus de jumeler les visages, le système promu par Bell suggère des
décisions aux employés des entreprises qui en feraient usage. « Mais ces
algorithmes sont secrets et on ne sait pas comment ils fonctionnent,
souligne M. Peschard. La personne ne sait donc pas selon quel critère
elle a été jugée, pourquoi telle décision a été prise. »
Les
commissaires à la vie privée du Canada commencent enfin à se rendre
compte des dangers de ces technologies et à lancer des consultations,
dit-il.
En attendant, c’est le “free
for all”, les entreprises profitent du vide. Ça prend un moratoire
jusqu’à ce qu’on ait adapté nos lois pour se protéger contre les abus
potentiels.
Dominique Peschard, porte-parole de la Ligue de protection des droits et libertés
Pour
Dominic Martin, spécialiste de l’éthique de l’intelligence artificielle
et de la gestion de l’éthique en entreprise, « il faut fixer les
conditions d’utilisation et instaurer des moyens de contrôle, parce que
la reconnaissance faciale a le potentiel de mener à des écarts éthiques
importants ». Il faut résoudre plusieurs questions de toute urgence,
précise le professeur de l’Université du Québec à Montréal. Jusqu’où
va-t-on aller dans l’enregistrement des moindres faits et gestes d’un
individu ? Avec quoi va-t-on recouper ces images ? Et à qui on va vendre
le tout ?
Autre
écueil : lors de tests, des outils de reconnaissance faciale ont fait
plus d’erreurs lorsqu’ils analysaient les images de personnes à la peau
foncée. Ce qui augmente le risque de les confondre avec un suspect
fiché – comme un voleur à l’étalage –, avec la discrimination et les
ennuis que cela suppose (1).
L’outil
proposé par Bell s’est classé parmi les plus performants lors de tests
organisés par l’industrie. Mais à Londres, où la police l’utilise depuis
2016 pour filmer les rues et repérer les gens inscrits sur une liste
noire, seulement 19 % des 42 personnes signalées par l’algorithme
correspondaient vraiment à leur « sosie » fiché, selon une étude de
l’Université d’Essex, commandée par le gouvernement britannique et
publiée en 2019.
Plus libres que la police
« Si
on ne fixe pas de limites, les entreprises pourraient devenir des
enquêteurs automatiques, se faire justice à elles-mêmes ou faire
d’immenses parties de pêche. Elles auront les coudées plus franches que
la police, prévient Pierre Trudel, professeur de droit de l’information
et du cyberespace à l’Université de Montréal. Au Canada, la police ne
peut filmer vos allées et venues sans avoir demandé une autorisation
judiciaire ni filmer tout le monde au cas où elle trouverait quelque
chose. »
Le potentiel d’intrusion est
considérable. Le législateur doit courir pour faire du rattrapage, car
il y a un défaut affligeant d’encadrement.
Pierre Trudel, professeur de droit de l’information et du cyberespace à l’Université de Montréal
La
Commission d’accès à l’information du Québec (CAI) dit prendre le
déploiement de la reconnaissance faciale « très au sérieux ». « On suit
la situation de très près et ça fait des années qu’on suggère
d’actualiser la loi pour que la biométrie soit plus balisée », a dit en
entrevue la porte-parole de l’organisme, Isabelle Gosselin.
Quiconque
achèterait la technologie proposée par Bell devrait obligatoirement
s’inscrire au Registre des déclarations des banques de mesures
biométriques de la CAI, précise-t-elle, car la Loi sur les technologies
de l’information l’exige.
Les
fournisseurs doivent pour leur part respecter les lois sur la
protection des renseignements personnels – en obtenant par exemple le
consentement des cibles et en agissant « par nécessité ». « Et on ose
tenir pour acquis qu’ils le font », avance Mme Gosselin.
(1)
Les personnes d’origine afro-américaine ou asiatique ont entre 10 et
100 fois plus de risques d’être reconnues erronément par les algorithmes
de reconnaissance faciale que les Caucasiens, selon un rapport
d’évaluation du National Institute of Standards and Technology, basé sur
des tests réalisés sur 189 logiciels. Le taux d’erreur est encore plus
élevé lorsqu’il s’agit d’Afro-Américaines.
De l’inconnu et des craintes
Comment
se déploie de manière très concrète la reconnaissance faciale dans les
entreprises canadiennes ? Le point en six questions.
Les entreprises doivent-elles obtenir notre consentement pour nous identifier avec des caméras ?
Oui, répond Isabelle Gosselin, porte-parole de la Commission québécoise d’accès à l’information.
Mais
la possibilité de refuser son consentement est souvent « ténue ou
pratiquement inexistante », nuance Dominic Martin, spécialiste de
l’éthique de l’intelligence artificielle et de la gestion de l’éthique
en entreprise.
« Quand
il y a des caméras dans l’environnement, on ne peut pas les éteindre.
Il faudrait carrément cesser de fréquenter certains lieux ou quitter son
emploi pour ne pas faire l’objet d’une surveillance accrue », souligne
le professeur qui enseigne à l’Université du Québec à Montréal.
Combien d'entreprises utilisent la reconnaissance faciale au pays ?
Dans
les autres provinces, on l’ignore. Environ 16 % des magasins Canadian
Tire qui y sont établis s’en servent déjà pour lutter contre le vol à
l’étalage, selon un reportage publié en février 2019 par CTV News. Et
une chaîne d’alimentation présente en Ontario et en Colombie-Britannique
a déclaré en novembre qu’elle ferait payer ses clients avec leur visage
pour accélérer leur passage à la caisse.
Au
Québec, la loi oblige à déclarer toute banque de données biométriques à
la Commission d’accès à l’information, et neuf entreprises ont indiqué
faire de la reconnaissance faciale, révèle l’organisme. La plus connue,
Master Card, dit employer cette technologie pour identifier la
clientèle. Les autres entreprises l’utilisent pour gérer les accès aux
bureaux, les présences ou le traitement de la paie.
Qu'arrive-t-il des données biométriques obtenues ?
Mystère,
puisque ni Québec ni Ottawa n’ont encore adopté de loi sur le sujet,
malgré les pressions croissantes, indique Pierre Trudel, professeur de
droit à l’Université de Montréal.
« Proposera-t-on
ces images à quelqu’un souhaitant nous traquer pour d’autres raisons ?
Les raisons possibles sont infinies, et c’est ça qui devient un gros
enjeu », dit le chercheur, qui s’intéresse entre autres à la loi sur les
télécommunications et aux objets connectés.
« On
ne veut pas qu’un système comme celui-là finisse par servir à des fins
d’assurances. On ne veut pas entendre : “Non, on ne vous assurera pas,
parce que d’après nos données, on vous voit aller dans les bars tous les
soirs et rentrer tard…” »
Comment se défendre en cas d'abus ?
Pour
l’instant, il faudrait invoquer le Code civil du Québec et la Charte
québécoise des droits et libertés, qui interdisent de violer la vie
privée sans motif sérieux, explique le professeur Trudel. Mais les
tribunaux n’ont pas encore établi comment ils s’appliquent aux systèmes
de reconnaissance faciale.
« S’ils
servent à assurer la sécurité dans un évènement public, on pourrait
peut-être argumenter que le motif est raisonnable. Mais si c’est pour
savoir si vous êtes un bon client à l’hôtel, on est plutôt dans le
marketing… »
Il
est souvent possible de filmer pour éviter les vols, à condition que la
surveillance soit annoncée. Mais les caméras n’étaient
traditionnellement pas branchées à un système de reconnaissance
faciale – capable d’entraîner l’exclusion d’un délinquant de toute une
chaîne de magasins, sans pardon possible.
« La
question qui se pose, c’est : est-ce un mécanisme disproportionné
compte tenu de la finalité ? demande M. Trudel. Il va falloir que l’État
intervienne. Le marché joue à l’encontre des droits fondamentaux. »
Que sait-on au sujet de l'outil japonais que Bell a vanté à ses clients ?
Il
n’a pas fait la manchette, mais le système NeoFace, conçu par
l’entreprise japonaise NEC, est partout. Le réseau Star Alliance, auquel
appartient Air Canada, vient de signer un contrat pour le faire
installer et la police de Calgary a indiqué qu’elle l’utilisait déjà,
tout comme des navires de croisière de Disney ou des hôtels en Asie.
Aux
États-Unis, des gouvernements, des universités et des entreprises
l’emploient. Et il permettra d’assurer la sécurité aux Jeux olympiques
de Tokyo.
Est-ce rassurant quant à son déploiement possible au pays ?
Pas
forcément. « Bell doit bien saisir que si elle vend cette solution-là à
des clients, ils vont pouvoir l’utiliser de toutes sortes de façons
après », prévient le professeur d’éthique des affaires Dominic Martin.
Le
géant des télécommunications s’associe à des tiers pour offrir des
services spécialisés, parce que son « objectif premier est la
connectivité réseau », selon un courriel que sa porte-parole Caroline
Audet a envoyé à La Presse.
Le
professeur Martin s’interroge néanmoins : « À la place de Bell, je me
demanderais jusqu’à quel point ça cadre dans mon modèle d’affaires,
sachant que de gros joueurs comme Google et Facebook ont officiellement
mis la pédale de frein à cause des possibles débordements éthiques de
cette technologie-là. »
REF.:
