Alicem - La reconnaissance faciale
L'article à lire pour comprendre Alicem, l'application d'identité numérique par reconnaissance faciale qui fait polémique
Alicem, l'application mobile lancée par l'Etat, doit faciliter l'accès aux services publics en ligne. En test depuis juin, son système de reconnaissance faciale suscite les craintes de l'émergence d'une "société de surveillance".
L'application Alicem, qui doit permettre d'accéder aux services publics en ligne grâce à un système de reconnaissance faciale, est en phase de test depuis juin 2019. (MINISTERE DE L'INTERIEUR)
Avoir accès à une déclaration d'impôts ou faire une demande d'allocation logement depuis une même application mobile. Le tout en plaçant son visage devant son smartphone. Ce n'est pas le scénario d'un épisode de la série dystopique Black Mirror, mais le projet du gouvernement baptisé Alicem, pour "Authentification en ligne certifiée sur mobile".
En test depuis juin, cette application doit simplifier les démarches administratives et créer une identité numérique sécurisée. Alors qu'aucune date de sortie officielle n'a été communiquée, Alicem inquiète déjà les défenseurs des libertés sur internet. Au cœur de leurs craintes : la reconnaissance faciale, un système biométrique permettant de vérifier l'identité d'une personne et soupçonné d'engendrer le fichage des individus.
Comment fonctionne la reconnaissance faciale d'Alicem ? Existe-t-il un risque de fuite des données personnelles ? L'usage de cette application sera-t-il obligatoire ? Franceinfo fait le point sur ce service controversé.
Qu'est-ce que Alicem ?
Alicem est un projet d'application mobile lancé par le ministère de l'Intérieur et l'Agence nationale des titres sécurisés (ANTS). Elle permettra à tout utilisateur de "prouver son identité sur internet de manière sécurisée" sur son téléphone, explique le ministère de l'Intérieur. Le projet prévoit un "niveau de sécurité élevé", qui contribuera à "la lutte contre l'usurpation d'identité en ligne".
La promesse d'Alicem est de simplifier les démarches administratives en ligne. "L'utilisateur n'a plus besoin de mémoriser plusieurs identifiants et plusieurs mots de passe", détaille le ministère de l'Intérieur. L'application donnera par exemple accès au site des impôts, au compte d'assurance-maladie ou encore à l'ANTS, qui gère notamment la création des cartes d'identité et des permis de conduire.
En tout, plus de 500 services publics seront disponibles via Alicem, assure place Beauvau. Une application qui s'inscrit dans le programme Action publique 2022, dont l'ambition est d'assurer l'accès dématérialisé à tous les services publics d'ici trois ans.
Comment ça fonctionne ?
Pour créer un profil Alicem, l'utilisateur devra être en possession d'un smartphone Android équipé d'une puce NFC (Near Field Communication), qui permet par exemple à un téléphone de se transformer en carte de paiement sans contact. L'application ne fonctionnera pas sur les téléphones Apple, dans un premier temps, car la marque américaine refusait jusqu'à juin d'ouvrir cette technologie sans contact aux autres applications que les siennes, justifie l'ANTS. L'usager devra aussi être titulaire d'un passeport ou d'un titre de séjour doté d'une puce sécurisée.
Une fois l'application téléchargée, l'utilisateur entre son numéro de téléphone, accepte les conditions générales d'utilisation et saisit son adresse e-mail. Jusqu'ici, rien de révolutionnaire. Après avoir scanné la bande optique et la puce du titre d'identité, il choisit un code secret.
C'est là qu'intervient la particularité d'Alicem : la reconnaissance faciale. Sans elle, impossible d'activer le compte. L'usager est soumis à une série de "challenges", pour "prouver" qu'il est bien "le détenteur du titre d'identité", comme le montre une vidéo de présentation de l'application, partagée par Baptiste Robert, chercheur en informatique.
Ces "défis" invitent l'usager à sourire, cligner des yeux et tourner la tête. Les images sont alors comparées avec la photo présente sur le titre d'identité. Une fois cette ultime étape passée, l'identité numérique est créée et l'accès à Alicem se fait uniquement par code. La reconnaissance faciale n'intervient donc qu'au moment de la création du compte.
C'est pour quand ?
Du côté du calendrier, c'est encore flou. Le décret autorisant la création de l'application a été publié en mai, mais l'application est toujours en phase de test. Dans un article paru jeudi 3 octobre, le média américain Bloomberg (article payant en anglais) avançait une sortie courant novembre. Une date jugée "prématurée" par Cédric O, dans une interview donnée au Monde (article payant), lundi. Le secrétaire d'Etat au Numérique souhaite attendre les premiers résultats d'une mission parlementaire sur l'identité numérique, qui pourrait être officialisée cette semaine selon L'Obs (article payant). Contacté par franceinfo, Jérôme Létier, directeur de l'ANTS, évoque une sortie probable de l'application "à la fin 2019 ou au début 2020".
Mais "le projet ne date pas d'hier", assure un membre l'ANTS. Une feuille de route gouvernementale, publiée en 2017, évoque une identité numérique sécurisée. Christophe Castaner, le ministre de l'Intérieur, a souhaité que "chaque Français, dès 2020, puisse prouver son identité" en ligne, dans un rapport paru en mai. Le texte mentionne que "le succès et la généralisation" des projets comme Alicem "constitueront les prémices d'une politique publique de l'identité numérique".
Qui développe l'application ?
L'ANTS a signé un contrat de 3,4 millions d'euros avec Gemalto – une entreprise spécialisée dans la sécurité numérique et propriété du groupe français Thales – pour le développement d'Alicem. Contactée par franceinfo, la firme n'a pas souhaité s'exprimer sur l'avancée de l'application, ajoutant que la communication sur le projet a été confiée à l'ANTS.
Gemalto a déjà travaillé sur des projets d'identité numérique, peut-on lire sur son site. Elle teste notamment un service intitulé Digital Driver License (DDL), qui permettra aux habitants de plusieurs Etats américains de numériser leur permis de conduire dans leur smartphone. Selon le chercheur en informatique, Baptiste Robert, "Gemalto a utilisé le cœur du fonctionnement de DDL pour Alicem, puisque dans les deux cas, il s'agit de stocker des données administratives", explique-t-il à franceinfo. Le directeur de l'ANTS défend de son côté "une création originale, conçue spécifiquement pour respecter le droit national et européen".
Faut-il craindre que la conception d'une application d'identité numérique soit aux mains d'une entreprise privée travaillant pour des gouvernements étrangers ? Non, assure l'ANTS. "L'application restera la propriété unique de l'Etat. Gemalto n'aura aucune possibilité de réutiliser les développements mis en œuvre", promet Jérôme Létier.
Quelles sont les données utilisées par Alicem ?
C'est l'un des points les plus sensibles de ce projet, le recueil des données personnelles, ces informations qui permettent d'identifier une personne. Selon le décret autorisant Alicem, l'application utilisera entre autres les données d'identification de l'usager et de son titre.
Les informations comme le nom, l'adresse, le lieu de naissance et même la taille et la couleur des yeux seront chiffrées et stockées uniquement sur le téléphone de l'utilisateur. La photographie et la vidéo de l'usager prises lors de la reconnaissance faciale seront quant à elles transmises à l'ANTS, mais "effacées sitôt ces reconnaissances terminées".
Enfin, d'autres données, comme celles "relatives à l'historique des transactions associées au compte", seront envoyées sur "un traitement centralisé" de l'ANTS et supprimées "à l'issue d'une période d'inactivité du compte de six ans", précise le décret. Une durée bien supérieure aux six mois recommandés par la Commission nationale de l'informatique et des libertés (Cnil) dans un avis rendu en 2018. La conservation de ces données techniques durant six ans est une exigence de l'Agence nationale de la sécurité des systèmes d’information (ANSSI), chargée d'assurer le niveau élevé de sécurité de l'application, explique l'ANTS. Elle permettra d'"accompagner les citoyens éventuellement victimes d'usurpation d'identité", détaille dans L'Obs le directeur de l'ANTS.
Mais "tout système est piratable. Il y aura des failles sur Alicem, c'est une certitude", assure l'expert en informatique Baptiste Robert. Sur ce point, les autorités se veulent réalistes. "Le risque zéro n’existe pas (...). Nous abordons cette mission avec une absence totale de naïveté", reconnaît Jérôme Létier dans l'hedomadaire. "Il faut garantir la sécurité d'Alicem dès son lancement, mais aussi pendant toute sa durée de fonctionnement", ajoute-t-il à franceinfo.
Pourquoi Alicem soulève des inquiétudes ?
Outre les risques de failles techniques, les critiques à l'encontre de l'application se concentrent sur le dispositif de reconnaissance faciale. Dans son avis, la Cnil s'alarme quant à l'obligation de recourir à ce système pour créer un compte Alicem, qui ne respecterait pas les dispositions européennes du règlement général sur la protection des données (RGPD). La législation européenne impose que "la personne concernée [donne] son consentement explicite" pour le traitement de ses données biométriques, rappelle la Cnil. Or, selon le gendarme du numérique, le consentement n'est pas libre, puisque le refus de se soumettre à la reconnaissance faciale empêche l'activation du compte. La Cnil invite donc les autorités à réfléchir à des "solutions alternatives", en mentionnant par exemple un face-à-face en préfecture ou en mairie. L'ANTS rétorque que la création d'un compte Alicem restera facultative et que les moyens d'accès aux services publics existants resteront valables.
Dans un recours déposé devant le Conseil d'Etat, en juillet, l'association de défense des droits sur internet La Quadrature du net critique également le caractère obligatoire de la reconnaissance faciale. Elle y voit un risque de "banalisation de cette technologie" et demande une annulation du décret autorisant Alicem. "La reconnaissance faciale est encore peu connue et mal comprise", explique Arthur Messaud, juriste de l'association, à franceinfo. Il appelle à la tenue de débats citoyens pour réfléchir collectivement "à l'acceptation culturelle de cette technologie". Une idée également évoquée par le secrétaire d’Etat au numérique, Cédric O, pour "examiner les questions légitimes sur l'équilibre entre usages, protection et libertés".
De son côté, l'ANTS affirme réfléchir à des solutions alternatives à la reconnaissance faciale, même si elles ne constitueront pas un "prérequis" au lancement de l'application.
Existe-t-il des alternatives à Alicem ?
Le ministère de l'Intérieur est formel : il n'y aura pas d'obligation de créer un compte Alicem pour accéder aux services publics en ligne. Les usagers pourront toujours se connecter via le portail FranceConnect ou créer un compte sur le site d'un service public spécifique. La possibilité de se déplacer physiquement dans une administration accueillant du public sera maintenue, précise le ministère dans un communiqué.
Baptiste Robert redoute toutefois qu'Alicem finisse par s'imposer comme un service indispensable. "Demain on peut imaginer que le renouvellement d'un permis de conduire se fasse presque instantanément sur l'application ou en préfecture dans un délai de deux semaines", projette l'expert en sécurité informatique. Au risque d'accentuer la fracture numérique, déplore-t-il. En France, 13 millions de personnes n'utilisent pas ou peu internet, selon l'Agence du numérique.
Va-t-on vers une généralisation de la reconnaissance faciale ?
Alicem "n'est pas une menace imminente, mais un danger pour demain", prévient Baptiste Robert. Les défenseurs de la liberté sur internet craignent que l'application soit un outil de "lutte contre l’anonymat en ligne". L'ANTS se veut quant à elle rassurante : "Il n'y a pas du tout de volonté de mettre en place une société de surveillance comme en Chine ou de scénario pour supprimer l'anonymat, il n'y a qu'un objectif clair et unique de protéger l'identité des Français", a insisté Jérôme Létier dans L'Obs.
Mais l'association La Quadrature du net redoute que l'utilisation de la reconnaissance faciale s'étende au-delà d'internet. "On peut imaginer que la police en vienne à utiliser cette technologie pour identifier des manifestants dans la rue", suppose le juriste de l'association, Arthur Messaud. Sur l'usage de la reconnaissance faciale dans les caméras de vidéosurveillance, le secrétaire d'Etat au Numérique, Cédric O, s'est dit "extrêmement partagé" et souhaite en "définir très clairement le cadre et les garanties pour éviter la surveillance généralisée", précise-t-il au Monde. En février, une expérience de ce type à Nice avait suscité des réserves de la part de la Cnil.
J'ai eu la flemme de tout lire, vous me faites un résumé ?
Depuis juin 2019, le ministère de l'Intérieur et l'Agence nationale des titres sécurisés (ANTS) testent une application mobile baptisée Alicem, pour "Authentification en ligne certifiée sur mobile". Le but de ce service, utilisant la reconnaissance faciale, est double : simplifier les démarches administratives en ligne et créer une identité numérique hautement sécurisée. Sa conception a été confiée à Gemalto, une entreprise détenue par le groupe français Thales. Alicem devrait être lancée d'ici à la fin de l'année ou début 2020.
L'application fait déjà l'objet de plusieurs critiques, notamment sur le stockage des données personnelles. Mais c'est surtout son système de reconnaissance faciale qui suscite les controverses. La Cnil, le gendarme des données personnelles, s'inquiète qu'aucune alternative à ce processus ne soit proposée aux usagers. L'association La Quadrature du net a, pour sa part, déposé un recours devant le Conseil d'Etat, craignant une "banalisation de cette technologie". L'ANTS réfute toute mise en place d’une "société de surveillance".
Source : https://www.francetvinfo.fr
CNIL - Reconnaissance faciale : pour un débat à la hauteur des enjeux
La CNIL entend rappeler les enjeux et expliciter les questions posées. Il est temps que le débat ait lieu, mais un débat apaisé, transparent et démocratique, comme réclamé par la CNIL depuis plus d'un an car les enjeux sont considérables face à une technologie aux grandes potentialités. Le préparer est l'objectif d'un document synthétique diffusé par l'autorité administrative indépendante.
Celui-ci commence par rappeler de quoi on parle, loin des fantasmes des uns et des autres. La reconnaissance faciale appartient à la catégorie des systèmes biométriques mais ne se confond pas avec d'autres aux enjeux différents. Puis la CNIL liste les risques entraînés par cette technologie faillible et les raisons, par conséquent, pour lesquelles elle y prête une attention particulière. Malgré tout, il convient de pouvoir mener des expérimentations concrètes pour valider les hypothèses. Mais pas n'importe comment : une partie du document revient sur la méthode à employer. Enfin, la CNIL décrit quel rôle elle entend avoir sur cette question.
Reconnaissance faciale : pour un débat à la hauteur des enjeux (PDF, sur le site de la CNIL)
Reconnaissance faciale : "Il faut d'abord qu'on expérimente et ensuite qu'on ait un débat public", déclare Cédric O
Le secrétaire d’État chargé du Numérique, invité dimanche de franceinfo, estime "qu'il y a beaucoup de choses à tirer" sur l'intelligence artificielle et pense qu'il faut "poser le débat" autour de la reconnaissance faciale.
Cédric O, secrétaire d’État chargé du Numérique, est l'invité de franceinfo, dimanche 27 octobre. (FRANCEINFO / RADIOFRANCE)
"Il faut d'abord qu'on expérimente, qu'on ait un certain nombre de données, et qu'ensuite on puisse avoir un débat public" sur la reconnaissance faciale, a indiqué dimanche 27 octobre sur franceinfo Cédric O, secrétaire d’État chargé du Numérique, alors que se tient lundi 28 octobre une réunion entre les plus grands chercheurs sur l'intelligence artificielle à Paris. Emmanuel Macron doit conclure l'événement, notamment pour rassurer les Français. Selon Cédric O, "la France a la capacité de tirer profit de ces révolutions industrielles".
Le secrétaire d’État chargé du Numérique estime qu'il y a beaucoup de choses à tirer de l'intelligence artificielle, notamment dans le domaine médical. Elle "permet de beaucoup mieux détecter les tumeurs dans les radiographies du thorax, d'améliorer significativement la détection des cancers, les protocoles de soin, va permettre de personnaliser la médecine", a-t-il énuméré, reconnaissant "des questions légitimes qui se posent sur les disruptions du travail, sur des biais qui peuvent avoir lieu", mais selon lui, "la meilleure manière de prendre la vague, c'est de la dompter".
La reconnaissance faciale doit être "expérimentée"
Fruit de l'intelligence artificielle, la reconnaissance faciale fait de nombreux progrès. Le ministère de l'Intérieur teste d'ailleurs un système de preuve d'identité pour les utilisateurs de téléphones mobiles, nommé Alicem. Certains s'en inquiètent. "Ce que je souhaite, c'est qu'on ait des expérimentations pour pouvoir avoir des chiffres précis", a déclaré le secrétaire d'État chargé du Numérique.
Est-ce qu'on doit utiliser la reconnaissance faciale pour aller chercher des terroristes dans la foule ou aller chercher une personne âgée qui s'est perdue ? Je n'ai aujourd'hui, à titre personnel, pas d'avis arrêté.
Cédirc Oà franceinfo
"Est-ce qu'on doit utiliser la reconnaissance faciale pour rentrer dans les lycées ? C'est-à-dire pour des mineurs ? Est-ce qu'on doit utiliser la reconnaissance faciale pour vous authentifier, déverrouiller votre téléphone ou récupérer un colis ? Ça me semble poser moins de problèmes dès lors que c'est encadré", a indiqué Cédric O. D'après lui, il faut "poser le débat".
Source : https://www.francetvinfo.fr
Commentaires Watchguard et Varonis - Application Alicem - Sécurité et privacy deux enjeux difficiles à maitriser
octobre 2019 par Jérôme Soyer, Directeur Avant-Ventes, Europe de l’Ouest de Varonis Pascal Le Digol, Directeur France de WatchGuard
Voici deux commentaires de WatchGuard et Varonis, sur l’application Alicem, autour des enjeux de sécurité et des questions de protection des données liées à l’utilisation de données biométriques.
En effet, s’il est impératif de prendre garde à la manière dont sont chiffrées et stockées les données biométriques (cf. Jérôme Soyer), il est également important de rappeler que ces données ne seront requises qu’à la création du compte par la suite un mot de passe à six chiffres sera fourni aux utilisateurs. Étant donné le caractère monofacteur de l’authentification, une campagne de phishing pourrait permettre de récolter lesdits mots de passe et usurper des comptes préexistants (cf. Pascal Le Digol).
Jérôme Soyer, Directeur Avant-Ventes, Europe de l’Ouest de Varonis (société spécialisée de la gouvernance et la sécurité des données) identifie quelques points de vigilances quant au traitement et à la protection des données biométriques.
Les données biométriques constituent une autre forme d’identification et, à ce titre, elles feront l’objet d’attaques : vol, suppression ou modification. Ce qui m’inquiète le plus est la manière avec laquelle les organisations protègent les données biométriques contre les abus. Du point de vue de la conformité au RGPD, cela pose un autre défi : comment les organisations vont-elles créer ou supprimer ces données biométriques ?
Les systèmes de reconnaissance biométrique n’en sont qu’à leurs balbutiements, mais leur succès va grandissant à mesure que les développeurs les intègrent à leurs nouveaux produits. Industrie et consommateurs devraient prendre du recul et se demander si la commodité offerte vaut le risque encouru. Une fuite de données biométriques serait une grave atteinte à la protection des données. Le problème est qu’il est impossible de modifier les données biométriques - elles sont à vous pour la vie. Les risques associés sont de fait incalculables.
La meilleure façon de protéger des données biométriques est de les stocker sur des systèmes distincts et segmentés. De plus, ces données doivent être soumises à une fonction de hachage cryptographique (difficile à inverser) avant d’être stockées. Les principes traditionnels de sécurité informatique s’appliquent à la reconnaissance faciale. Des outils d’authentification automatiques doivent également être déployés pour contrôler qu’aucune application de services système compromise n’est dissimulée – aucun raccourci ne devrait être pris.
Pascal Le Digol, Directeur France de WatchGuard (société spécialisée notamment sur les solutions d’authentification multifacteur) met en avant un faux pas sécuritaire de la part de l’État, pour une application censée donner accès aux informations les plus sensibles de nos concitoyens !
La particularité de cette nouvelle application, qui est à l’origine d’un débat, est l’utilisation de la reconnaissance faciale pour authentifier les utilisateurs (la reconnaissance faciale est croisée avec les données biométriques du passeport de la personne).
Pour Pascal le Digol, même si l’utilisation de la reconnaissance faciale donne une illusion d’innovation et d’un État français au rendez-vous de l’ère numérique, d’un point de vue sécuritaire, malheureusement le travail est bâclé puisqu’une fois le compte utilisateur créé, l’application ne requiert finalement qu’un simple mot de passe - faible qui plus est - pour s’identifier !
L’expert explique surtout que « les attaquants qui se pencheront sur Alicem ne s’attaqueront certainement pas à la reconnaissance faciale utilisée en premier lieu puisqu’ils pourront simplement récupérer le code à 6 chiffres envoyé ensuite, à l’aide d’une simple campagne de phishing ! Il y a fort à parier que nous verrons une attaque de phishing de ce type – un mail d’apparence très crédible, sans faute d’orthographe, avec des URL n’invitant pas au soupçon, usurpant un logo de l’Etat, etc. - apparaître assez rapidement après la mise en application d’Alicem… Ce dont nous pouvons être sûr avec les cybercriminels, c’est qu’ils empruntent toujours les chemins les plus aisés pour parvenir à leurs fins ».
Le principal problème que soulève Pascal Le Digol est en effet que « malgré l’intégration de la reconnaissance faciale, qui est en soi une avancée technologique, la deuxième étape revient à une méthode d’authentification qui est aujourd’hui totalement dépassée ! Après avoir créé son compte, l’utilisateur va ensuite se connecter avec un mot de passe à 6 chiffres, alors qu’aujourd’hui, la grande majorité des applications et sites ont mis en place une politique minimum de mots de passe forts, intégrant des caractères spéciaux, majuscules, chiffres, etc. Au final, nous sommes ici sur une authentification monofacteur à l’heure où la norme devient petit à petit l’authentification multifacteur, ou MFA, dans toutes les entreprises ».
L’expert ajoute : « Le pire, c’est qu’à l’heure où il est nécessaire de sensibiliser massivement à la cybersécurité, cette initiative peut être pernicieuse, car d’aucun pourrait penser qu’il suffit de ça pour être protégé, ce qui n’est pas le cas. Il est impératif de continuer à sensibiliser les utilisateurs à la cybersécurité et de prendre garde à ne pas envoyer des signaux contradictoires ».
Source : https://www.globalsecuritymag.fr
La Quadrature du Net attaque l’application ALICEM, contre la généralisation de la reconnaissance faciale
juillet 2019 par La Quadrature du Net
Lundi dernier, La Quadrature du Net a déposé un recours devant le Conseil d’État pour demander l’annulation du décret autorisant la création de l’application mobile intitulée « ALICEM », pour « Authentification en ligne certifiée sur mobile ». En y conditionnant la création d’une identité numérique à un traitement de reconnaissance faciale obligatoire, le gouvernement participe à la banalisation de cette technologie, et cela au mépris de l’avis préalable de la CNIL qui avait pourtant souligné son illégalité. Les récentes déclarations de Christophe Castaner qui a mis en avant cette application pour lutter contre l’anonymat et la haine sur Internet ne peuvent qu’alerter.
L’application ALICEM, développée par l’Agence des Titres Sécurisés (ANTS), vise à permettre aux détenteurs d’un passeport biométrique (ou d’un titre de séjour électronique) de se créer une identité numérique pour faciliter l’accès à certains services sur Internet, administratifs ou commerciaux. Comme l’explique la notice même du décret qui en autorise la création, « ce traitement automatisé de données à caractère personnel vise à permettre une identification électronique et une authentification pour l’accès à des services en ligne en respectant les exigences relatives au niveau de garantie requis par le service en ligne concerné au sens du règlement européen « eIDAS » (…). Le moyen d’identification électronique peut être utilisé prioritairement pour l’accès à des services dont les fournisseurs sont liés par convention à FranceConnect » (par exemple, impots.gouv, l’Assurance maladie… voir une liste des partenaires ici). Concrètement, cela fonctionne ainsi : une personne détenant un titre avec une puce biométrique (passeport ou titre de séjour) télécharge l’application sur son smartphone (pour l’instant seulement sur les téléphones Android), pour y créer un compte. Pour cela, il doit procéder à la lecture avec son téléphone de la puce de son titre électronique. L’application a alors accès aux données qui y sont stockées, hors les empreintes digitales (notons que le décret du fichier TES est donc modifié pour permettre la lecture des informations stockées sur la puce électronique). Enfin, pour activer le compte, il faut se subordonner à un dispositif de reconnaissance faciale (dit « statique » et « dynamique », c’est à dire une photo et une vidéo avec des gestes à accomplir devant la caméra) pour vérifier l’identité. Alors seulement, l’identité numérique est générée et la personne peut utiliser ALICEM pour s’identifier auprès de fournisseurs de services en ligne [1].
Reconnaissance faciale obligatoire
Alors pourquoi l’attaquer ? Car l’application ALICEM oblige, au moment de l’activation du compte, de recourir à ce dispositif de reconnaissance faciale, sans laisser aucun autre choix à l’utilisatrice ou l’utilisateur. L’article 13 du décret énonce ainsi que l’ANTS informe l’usager « concernant l’utilisation d’un dispositif de reconnaissance faciale statique et de reconnaissance faciale dynamique et au recueil de son consentement au traitement de ses données biométriques ». Or, au sens du règlement général sur la protection des données (RGPD), pour qu’un consentement soit valide, il doit être libre, c’est-à-dire qu’il ne peut pas être contraint : « le consentement ne devrait pas être considéré comme ayant été donné librement si la personne concernée ne dispose pas d’une véritable liberté de choix » (Considérant 42). Ici, la personne voulant utiliser ALICEM n’a pas le choix de passer ou non par ce dispositif de reconnaissance faciale et le consentement dont se revendique le gouvernement n’est donc pas valable.
Cette analyse est d’ailleurs celle de la CNIL qui a rendu un avis sur ce décret, préalablement à sa publication. Dans cet avis, elle énonce clairement que, vu que la reconnaissance faciale est obligatoire et qu’il n’existe aucune autre alternative pour se créer une identité via ALICEM, « le consentement au traitement des données biométriques ne peut être regardé comme libre et comme étant par suite susceptible de lever l’interdiction posée par l’article 9.1 du RGPD ». Malgré cet avis et les alternatives imaginées par la CNIL au dispositif de reconnaissance faciale, le gouvernement n’a pas modifié son décret en le publiant.
À l’heure où les expérimentations de reconnaissance faciale se multiplient sans qu’aucune analyse ou débat public ne soit réalisée sur les conséquences d’un tel dispositif pour notre société et nos libertés [2], en général dans une large illégalité, et alors que des villes aux États-Unis en interdisent explicitement l’utilisation pour les services municipaux [3], le gouvernement français cherche au contraire à l’imposer à tous les citoyens via des outils d’identification numérique. Et même s’il ne s’agit ici pas de reconnaissance faciale « en temps réel » par des caméras de surveillance, il s’agit néanmoins bien de normaliser la reconnaissance faciale comme outil d’identification, en passant outre la seule condition qui devrait être acceptable pour son utilisation : notre consentement libre et explicite. Le gouvernement révèle par ailleurs son mépris pour la CNIL, dont l’influence semble diminuer de plus en plus. Fléchissant il y a quelques mois devant les publicitaires en leur laissant encore un an de plus pour respecter le RGPD (voir notre article), elle apparaît ici plus faible que jamais quand elle alerte le gouvernement sur la violation du consentement d’une personne quand au traitement de ses données biométriques et que le gouvernement ne la respecte clairement pas.
La haine, l’anonymat et ALICEM
Attaquer ce décret est d’autant plus nécessaire quand on voit les dangereux liens que tisse le ministre de l’Intérieur Christophe Castaner entre anonymat, haine et identité numérique. Il écrit ainsi, en tête de son rapport « État de la menace liée au numérique en 2019 » : « La liberté, justement, voilà tout le paradoxe d’internet. L’anonymat protège tous ceux qui répandent des contenus haineux et permet à des faux-comptes de se multiplier pour propager toutes sortes de contenus. Nous ne pouvons pas laisser les publications illicites se multiplier. Nous devons donc relever le défi de l’identité numérique pour que chaque Français, dès 2020, puisse prouver son identité et savoir avec qui il correspond vraiment ». Et quand il parle, plus loin, d’identité numérique, c’est pour directement mentionner le dispositif ALICEM. Le débat sur l’identité numérique arrive donc à grande vitesse et l’utilisation que souhaite en faire le gouvernement ne peut qu’alerter : un outil non pas au service du citoyen mais contre lui, pour lutter contre l’anonymat en ligne, pourtant fondamental pour l’exercice de nos droits sur Internet.
Un projet d’identité numérique, fondé sur un dispositif de reconnaissance faciale obligatoire (au mépris du RGPD) et ayant pour objectif avoué d’identifier chaque personne sur Internet pour ne plus laisser aucune place à l’anonymat ne peut qu’être combattu. C’est l’objet de ce recours. —
[1] Voir également l’analyse de Marc Rees sur Next Inpact.
[2] Lire notre analyse des enjeux politiques de la reconnaissance faciale.
[3] La ville de San Francisco a récemment adopté une telle interdiction, bientôt rejointe par une autre ville du Massachusetts
Source : https://www.globalsecuritymag.fr
Reconnaissance faciale : l'application gouvernementale qui crée la polémique
Par Delphine Dechaux le 26.10.2019
L’application Alicem vise à fournir aux usagers une identité numérique forte. Pour lui simplifier la vie et éviter la fraude. Mais sa mise en oeuvre fait polémique. Aux plans éthique et technique.
Démonstration d’une technologie de reconnaissance faciale lors de la Conférence mondiale sur l’Internet mobile, à Pékin, en 2018. Dans le monde numérique, ce procédé offre un niveau de sécurité bien supérieur aux mots de passe. - Ds /Mos/Reuters
Quand les données sont sensibles, le sujet est inflammable. En concoctant Alicem, une application d’« authentification en ligne certifiée sur mobile », utilisant la reconnaissance faciale, le gouvernement a joué avec le feu. « Quand on fait du traitement de données sensibles, à large échelle et sur un sujet innovant, le RGPD - règlement général sur la protection des données - exige en principe que l’on mène une étude d’impact », s’étonne Nathalie Devillier, professeure à Grenoble Ecole de Management et spécialiste de la question.
Or, non seulement le ministère de l’Intérieur s’en est dispensé mais il a passé outre un avis de la Commission nationale de l’informatique et des libertés (Cnil), publié en mai. Celle-ci avait en effet regretté que la création d’un compte Alicem - qui vise à fournir aux usagers une identité numérique forte - passe obligatoirement par une étape de reconnaissance faciale. La procédure, et c’est là que le bât blesse, ne permet pas aux usagers de s’identifier autrement - par exemple en se rendant en préfecture.
« Inscription facultative »
« Nous avons travaillé main dans la main avec la Cnil. Et je rappelle que l’inscription à Alicem est facultative », se défend Jérôme Létier, le directeur de l’Agence nationale des titres sécurisés, envoyé au front pour désamorcer la polémique. « Il sera toujours possible de se connecter au site des impôts, à celui de la Sécurité sociale… », assure-t-il. Ces arguments n’ont pas convaincu l’association La Quadrature du Net, qui a saisi le Conseil d’Etat. De son côté, la Cnil a de nouveau appelé de ses vœux un débat national, dont le Parlement devra se saisir. « Le cadre juridique encadrant la vidéo protection est très vieux, souligne Thomas Dautieu, directeur de la conformité à la Cnil. Il ne répond plus aux enjeux actuels. »
Source : https://www.challenges.fr
TV5Monde - Info - 26 oct 2019 par Pascal Hérard
Reconnaissance faciale : pourquoi la France veut-elle l'expérimenter ?
Des voix au gouvernement et parmi les parlementaires s'élèvent pour demander une réflexion sur l'encadrement juridique de la reconnaissance faciale. Des "caméras intelligentes d'identification" pourraient-elles s'implanter dans les rues des villes françaises, dans les administrations ? Avec quels objectifs et quelles limites ? Entretien avec Laurent Mucchielli, directeur de recherche en sociologie au CNRS.
Cédric O, le secrétaire d'Etat au Numérique l'a affirmé le 14 octobre dernier, dans un entretien donné au quotidien "Le Monde" : "Expérimenter la reconnaissance faciale est nécessaire pour que nos industriels progressent". Cette technologie — déjà utilisée pour dévérouiller les smartphones de dernière génération ou reconnaître le propriétaire d'un assistant Google, — commence à être utilisée au sein d'entreprises, dans des aéroports, et massivement dans les rues des villes Chinoises. Les responsables politiques français annoncent depuis 2018 tester la reconnaissance faciale dans le domaine de la sécurité publique, mais jusque là, sans débat ni loi pour la mettre en œuvre.
Ces "caméras intelligentes" — pilotées par des intelligences artificielles et capables d'identifier ou authentifier des visages humains — posent de nombreux problèmes en terme d'atteinte aux libertés, de liberté de circulation, de droit à l'anonymat et à l'image, de consentement à l'utilisation des données biométriques.
La reconnaissance faciale pourrait aussi mener à une "policiarisation" de la société, selon les organisations de défense des droits de l'Homme ou des libertés. Ces dernières dénoncent le risque d'un "panoptisme global", grâce aux caméras intelligentes : une surveillance policière permanente et invisible… menant à un contrôle social généralisé.
Une tribune publiée dans le quotidien Le Monde ce jeudi 24 octobre, des députés Didier Baichère (LREM, Yvelines) et Stéphane Séjourné (député européen Renew Europe), intitulée "Pour une reconnaissance faciale éthique", est venue relancer l'idée de légiférer sur la reconnaissance faciale. Pour les deux parlementaires, "cette technologie représente des opportunités commerciales multiples, mais il est nécessaire d’entamer une réflexion sur les modalités de son utilisation."
Le débat ne fait que commencer, et pour l'ouvrir, nous avons choisi d'interroger Laurent Muchielli, directeur de recherche au CNRS (Laboratoire Méditerranéen de Sociologie, Aix-en-Provence, enseignant à l'Université d'Aix-Marseille), sur cette nécessité politique de réfléchir aux enjeux de la reconnaissance faciale en France, à des fins d'expérimentation et d'encadrement législatif.
TV5Monde : Didier Baichère et Stéphane Séjourné expliquent que la reconnaissance faciale comporte plusieurs défis : "défi d’innovation technologique et industrielle, défi d’appropriation citoyenne et défi de régulation juridique". Que pensez-vous de ces affirmations ?
Laurent Mucchielli : Les trois affirmations des deux députés sont incontestables en soi, mais ils évitent soigneusement de poser le vrai problème, qui est ailleurs. La question majeure et préalable est : la reconnaissance faciale, pour quoi faire ? dans quel but ? pour répondre à quel besoin ? Pour améliorer quelle dimension de la vie quotidienne des citoyens ? C’est tout le problème de cette fascination et de cette crédulité actuelles pour les nouvelles technologies, qui amènent nombre d’élus à s’enthousiasmer pour des technologies, sans avoir préalablement procédé ni à un diagnostic des besoins de la population, ni à une évaluation des innovations technologiques précédentes du même genre. Cela donne un côté « hors sol » à leurs propos, qui doit nous interroger.
La première des réflexions collectives qu’il nous faudrait avoir est justement celle qui est absente du débat ainsi lancé. C’est un peu embêtant tout de même… Mais on voit bien l’avantage qu’il y a à contourner la question du diagnostic des besoins et de l’évaluation des innovations précédentes. Cela permet, par exemple, d’éviter de regarder comment fonctionne réellement la vidéosurveillance depuis son lancement national en 2007, et de se demander si les milliards d’euros d’argent public dépensés l’ont été utilement pour la population.
TV5Monde : "La France pourrait se positionner en exemple pour développer une reconnaissance faciale éthique bénéficiant à tous sans créer de nouvelles inégalités, sans empiéter sur nos libertés publiques, sans poser de nouveaux risques sur notre sécurité individuelle et collective", selon les deux députés. Cela est-il possible, souhaitable, selon vous, et si oui, par quels biais ?
L.M : Ces propos relèvent de la pétition de principe de type philosophique et ne sont pas du tout réalistes. Là encore, on est simplement dans du déclaratif, on se paye de mots. Qu’est-ce qu’une reconnaissance faciale "éthique" ? Je ne vois pas. En quoi y aurait-il un risque de "créer de nouvelles inégalités" ? Je ne vois pas non plus. Je vois mieux en revanche les risques que comporte cette technologie pour la vie privée et les libertés publiques. La question centrale qui se profile derrière, est celle des fichiers.
Comme son nom l’indique, la reconnaissance vise à permettre d’identifier quelqu’un qui est déjà connu, c’est-à-dire qui est fiché biométriquement. Qui veut-on reconnaître et donc, qui veut-on ficher ? L’exemple de la Chine montre que, connectée à un fichier de toute la population, la reconnaissance faciale peut être utilisée comme un outil majeur de contrôle social des citoyens en permettant une sorte de "flicage" de tout l’espace public. L’urgence serait donc, mais après le débat sur le besoin — dont je parle dans ma réponse précédente —, d’avoir un débat politique et juridique sur les objectifs poursuivis à l’aide de cette technologie, sur les fichiers de police, sur l’encadrement juridique à imposer et sur les moyens donnés à des organismes publics de contrôler le respect de cet encadrement juridique. Ce qui pose notamment la question des moyens financiers et humains de la CNIL.
TV5Monde : La reconnaissance faciale n'est pas véritablement encadrée juridiquement et il semble que cela soit devenu nécessaire. Une loi "d'expérimentation au niveau national" — appuyée par le Forum économique mondial, une consultation citoyenne, le CNNum, ainsi qu'un "comité éthique" pour piloter le débat, le tout coordonné par la Cnil — serait la bonne solution, toujours selon les deux députés : qu'en pensez-vous ?
L.M : Encore une fois il est clair qu’il existe actuellement un large vide juridique, ce qui est normal puisque la technologie est relativement nouvelle. Mais le problème de fond n’est pas là. Il faut absolument sortir de la naïveté ambiante vis-à-vis des nouvelles technologies — puisque face au marketing des industriels de la sécurité, trop de gens se comportent comme des spectateurs crédules d’un film de science-fiction — et se demander préalablement si nous en avons réellement besoin. Il faudrait aller regarder de près les expériences étrangères pour voir dans quelle mesure la technologie répond ou non aux besoins identifiés. Le droit ne doit venir qu’après. Et si on décide de faire une loi pour encadrer le développement de cette technologie, alors je répète que la question de la surveillance de l’application du droit sera majeure. Car le potentiel d’intrusion dans la vie privée et de réduction des libertés publiques est majeur avec cette technologie. J’ajoute que ce potentiel intrusif et de contrôle social me paraît déjà bien plus avéré que son utilité pour améliorer notre sécurité dans notre vie de tous les jours.
Source : https://information.tv5monde.com
Le Monde - Par Félix Tréguer et Martin Drago Publié le 24 octobre 2019
La reconnaissance faciale s’avère inefficace pour enrayer la violence
L’authentification biométrique, testée par des entreprises, aura pour conséquence d’instaurer un « contrôle permanent et généralisé » au nom du « solutionnisme technologique », déplorent le juriste Martin Drago et le chercheur Félix Tréguer, dans une tribune au « Monde ».
Tribune. L’inévitable débat sur la reconnaissance faciale arrive enfin en France, et le gouvernement esquisse sa réponse. Dans un entretien paru dans Le Monde du 15 octobre, le secrétaire d’Etat au numérique Cédric O, ancien cadre du groupe Safran, a notamment estimé qu’« expérimenter » la reconnaissance faciale était « nécessaire pour que nos industriels progressent ».
Mais cette prise de parole au plus haut niveau politique n’est que la partie émergée de l’iceberg. Car depuis des mois, notes et rapports officiels se succèdent pour souligner le défi que constitue l’« acceptabilité sociale » de ces technologies. Pour leurs auteurs, l’objectif est clair : désarmer les résistances à ces nouvelles modalités d’authentification et d’identification biométriques dont la prolifération est jugée inéluctable, et permettre à des industriels français comme Thales ou Idemia [une entreprise de sécurité numérique] de se positionner face à la concurrence chinoise, américaine ou israélienne.
L’enjeu est d’autant plussant que, contrairement à ce que laisse entendre Cédric O, les dispositifs de reconnaissance faciale sont déjà en place sur le territoire français. Depuis plusieurs années, des entreprises développent et testent ces technologies grâce à l’accompagnement de l’Etat et l’argent du contribuable. Le tout sans réel encadrement ni transparence.
La campagne participative de recherche-action Technopolice.fr, lancée début septembre par des associations de défense des libertés, a commencé à documenter les projets lancés au niveau national et local – à Paris, Nice, Marseille, Toulouse, Valenciennes et Metz notamment. Outre la reconnaissance faciale, d’autres applications greffées aux flux de vidéosurveillance et fondées elles aussi sur des techniques d’« intelligence artificielle » font également l’objet d’expérimentations, comme l’analyse des émotions ou la détection de « comportements suspects ».
Source : https://www.lemonde.fr
Cédric O : « Expérimenter la reconnaissance faciale est nécessaire pour que nos industriels progressent »
Le secrétaire d’Etat au numérique annonce au « Monde » vouloir créer, en coordination avec la CNIL, une instance de supervision et d’évaluation.
Propos recueillis par Martin Untersinger Publié le 14 octobre 2019
Alors que les forces de l’ordre poussent au développement de la reconnaissance faciale, Cédric O, le secrétaire d’Etat au numérique, propose de créer une instance de supervision en coordination avec la Commission nationale de l’informatique et des libertés (CNIL).
Le gouvernement réfléchit-il à des changements législatifs pour élargir l’utilisation de la reconnaissance faciale ?
Cédric O : Comme souvent, la technologie est en avance sur la régulation. Aujourd’hui, la reconnaissance faciale entre dans nos vies sans que son cadre d’utilisation n’ait encore été clarifié. Elle offre de nouveaux usages, de nouvelles opportunités, mais surtout crée beaucoup de fantasmes du fait de l’absence d’un vrai débat citoyen sur les lignes rouges que nous souhaitons collectivement poser.
Faut-il faciliter les expérimentations en la matière ?
Il ne faut pas avoir une vision exclusivement nihiliste de la reconnaissance faciale : il y a beaucoup d’usages qui, s’ils sont bordés juridiquement et techniquement, ne posent aucun problème et apportent de la simplification – par exemple, pour tout ce qui nécessite aujourd’hui de se présenter à un guichet ou pour valider une formation en ligne. Expérimenter est également nécessaire pour que nos industriels progressent.
Que proposez-vous ?
Je propose de créer en coordination avec la CNIL une instance spécifique, composée de membres issus de différentes administrations et régulateurs, sous la supervision de chercheurs et de citoyens. Cette instance superviserait et évaluerait les expérimentations. Dans un deuxième temps, il faut un débat citoyen sur le sujet afin d’examiner les questions légitimes sur l’équilibre entre usages, protection et libertés. Il me semble par ailleurs important qu’il y ait une supervision de la société civile car le sujet est trop sensible : l’Etat doit se protéger de lui-même.
L’utilisation de mécanismes de reconnaissance faciale en temps réel sur les images de vidéosurveillance est-elle envisageable ?
Je suis extrêmement partagé sur la question. On en voit très bien l’utilité, par exemple pour identifier des terroristes dans une foule, mais aussi les risques. Il faut donc en définir très clairement le cadre et les garanties pour éviter la surveillance généralisée. Je pense que nous devons avoir un débat citoyen sur le sujet, en associant les parlementaires et les élus locaux. C’est, d’une certaine manière, aux Français de choisir, car les décisions seront lourdes de conséquences. C’est le genre de décisions sur lequel vous ne revenez que très difficilement. Et nous avons une responsabilité vis-à-vis des générations à venir. Il ne faut toutefois pas se laisser emporter par une vision dystopique ni utopique de la reconnaissance faciale et se saisir de la question à un moment où le débat est encore relativement apaisé.
Concernant Alicem, une application mobile de reconnaissance faciale qui sert à se connecter aux services publics, comprenez-vous la levée de boucliers ?
Il y a beaucoup de fantasmes. Alicem est aujourd’hui en test sur quelques milliers de personnes. En matière d’identité numérique, nous ne prévoyons à ce jour aucun mécanisme qui obligerait à passer par la reconnaissance faciale. Si l’utilisateur de l’application souhaite s’en servir, il doit explicitement donner son consentement au préalable. Lors de l’inscription à l’application, le logiciel utilise la caméra pour vérifier que l’utilisateur du téléphone portable est bien le détenteur du titre d’identité. Les prises de vue ne quittent pas le téléphone et ne sont pas conservées. Enfin, la reconnaissance faciale n’est plus jamais utilisée lors de l’utilisation de l’application. Nous sommes ouverts à des techniques alternatives d’authentification forte et il y aura, le cas échéant, des mécanismes d’enrôlement qui ne passent pas par la reconnaissance faciale.
Une ouverture générale du dispositif en novembre a été évoquée, qu’en est-il ?
C’est une proposition qui a été faite, mais cette date me semble prématurée. Nous avons saisi le Conseil national du numérique et les députées Paula Forteza et Christine Hennion ont débuté un travail pour le compte de l’Assemblée nationale sur le sujet de l’identité numérique. Nous n’ouvrirons pas le test plus largement avant que nous ayons eu leurs premiers retours.
Source : https://www.lemonde.fr
Le Télégramme - Publié le 23 octobre 2019
Le sésame numérique qui préoccupe les défenseurs de la vie privée
Photo Jean-François Frey/L’Alsace/PhotoPQR
Le ministère de l’Intérieur expérimente Alicem, une application qui donnera aux utilisateurs de smartphones un sésame pour accéder à des services en ligne nécessitant une forte sécurité d’identification. Mais il faudra passer par une étape de reconnaissance faciale, qui suscite l’inquiétude des défenseurs de la vie privée.
À quoi servira Alicem ?
Alicem doit permettre à un utilisateur de smartphone Android, doté d’un passeport ou d’un titre de séjour biométrique, de s’identifier pour avoir accès à des services en ligne, un peu comme les identifiants Google ou Facebook.
Il est conçu pour permettre une authentification forte, pour pouvoir donner accès à des services en ligne « sensibles », qui ont besoin d’une protection maximale.
Comment l’utilisera-t-on ?
Pour s’identifier sur un service en ligne, l’utilisateur d’Alicem disposera d’un code personnel à six chiffres, qui lui aura été remis au moment de son inscription sur le service.
Si le service auquel il tente d’accéder exige une authentification forte, il devra en plus scanner son passeport ou son titre de séjour biométrique avec son smartphone.
Quand intervient la reconnaissance faciale ?
La reconnaissance faciale n’intervient qu’une seule fois, au moment de l’inscription sur Alicem et de l’obtention du code.
Lorsqu’il s’inscrit, l’utilisateur est invité à scanner son passeport ou son titre de séjour biométrique. Il est aussi invité à filmer une courte vidéo de lui-même, où il doit faire certains mouvements.
Le smartphone envoie à l’ANTS (l’Agence nationale des titres sécurisés qui gère le système) la photo du titre biométrique, et la vidéo.
Un logiciel de reconnaissance faciale vérifie que la vidéo et la photo correspondent bien. Si c’est le cas, le code à six chiffres est généré et communiqué à l’utilisateur. Il sera valable pour toutes les identifications futures.
La vidéo est ensuite détruite, selon l’ANTS.
Pourquoi la Cnil a-t-elle critiqué ce système ?
La Cnil, l’agence publique chargée de protéger la vie privée des Français, critique le fait qu’il n’y ait pas d’autres solutions que la reconnaissance faciale pour s’inscrire sur Alicem et obtenir le code.
Pour la Cnil, il devrait exister d’autres solutions, par exemple, se présenter physiquement dans une préfecture.
La Cnil critique également le fait que les serveurs de l’ANTS conservent certaines données d’historique de connexion pendant sept ans, même si celles-ci ne permettent pas de savoir sur quels services l’usager s’est connecté.
Le gouvernement a-t-il tenu compte des observations de la Cnil ?
En l’état actuel du projet, non. Sur la durée de sept ans, il affirme que c’est obligatoire pour qu’Alicem soit considéré comme une authentification forte par la législation européenne.
Sur la nécessité de fournir un moyen d’éviter la reconnaissance faciale pour bénéficier d’Alicem et de son identification forte, le gouvernement n’offre, pour l’instant, aucune réponse. Mais Alicem n’a pas encore été lancée et se trouve encore en phase de test, fait-il valoir.
Pourquoi Alicem inquiète-t-il ?
Pour beaucoup d’observateurs, l’arrivée de cette technologie biométrique sur les serveurs de l’État ne peut se faire en catimini, et mérite, à tout le moins, un débat informé.
« Même s’il ne s’agit pas ici de reconnaissance faciale en temps réel par des caméras de surveillance, il s’agit néanmoins bien de normaliser la reconnaissance faciale comme outil d’identification », souligne l’association La Quadrature du Net, qui défend les libertés individuelles dans le monde du numérique.
Au-delà même du problème de la reconnaissance faciale, la Quadrature et d’autres experts voient se profiler le spectre d’un monde ultra-contrôlé, où l’utilisation d’un identifiant numérique est à la fois indispensable pour le citoyen et parfaitement traçable par les autorités.
Baptiste Robert, un expert informatique spécialiste notamment des failles sur Android, met en garde contre les dérives du système indien d’identité numérique Aadhaar, qui repose également sur la biométrie.
Présentée, à l’origine, comme fonctionnant sur la base du volontariat, l’inscription dans Aadhaar est devenue centrale dans la vie des 1,25 milliard d’Indiens, et est en train de devenir nécessaire pour passer un examen ou prendre l’avion.
Source : https://www.letelegramme.fr
Ouest France
ENTRETIEN. Reconnaissance faciale : pour le ministre, « des cas d’usage peuvent être très utiles »
Cédric O, secrétaire d’État en charge du numérique, vient à Rennes, mercredi 23 octobre, lancer un appel à candidature pour sélectionner les 80 meilleures start-ups françaises. Pour Ouest-France, il fait aussi le point sur la reconnaissance faciale, le numérique et l’environnement, la monnaie virtuelle de Facebook Libra…
L’utilisation en temps réel de la reconnaissance faciale sur les images de vidéosurveillance, comme en Chine ? En France, « nous sommes très loin d’en être là », pour le ministre Cédric O.
Êtes-vous pour l’utilisation en temps réel de la reconnaissance faciale sur les images de vidéosurveillance, comme en Chine ?
Aujourd’hui, nous sommes très loin d’en être là. La reconnaissance faciale est interdite par le règlement général sur la protection des données (RGPD) sauf dans un certain nombre d’exceptions couvertes par ce même règlement. Il faut séparer les utilisations d’authentification, qui posent moins de problèmes, de celles d’identification. Par exemple, vous utilisez la reconnaissance faciale pour déverrouiller votre iPhone et cela pose peu de problèmes, dès lors que l’usage est encadré. Dans un premier temps, il doit y avoir des expérimentations encadrées, sous la supervision de la société civile. Nous voulons pouvoir poser les bases d’un débat citoyen apaisé, sans biais dystopique ni utopique. Il y a des cas d’usage qui peuvent être très utiles à la société, par exemple pour faciliter la vie des personnes en situation de handicap en leur permettant de faire leurs démarches sans se déplacer.
Il y a une application possible avec Alicem, application mobile de reconnaissance faciale qui sert à se connecter aux services publics. C’est en test. Cela devait être généralisé en novembre, mais va être reporté ?
Un test est en cours avec quelques milliers de volontaires. L’objectif d’Alicem, c’est de pouvoir garantir une identité en ligne pour faciliter des démarches comme ouvrir un compte en banque, faire une procuration de vote,… toutes démarches qui nécessitent aujourd’hui une présence physique. Nous avons saisi le conseil national du numérique pour évaluer le dispositif et les parlementaires se sont saisis du sujet. Nous n’élargirons pas le test avant d’avoir leurs conclusions. Par ailleurs, l’identité en ligne pourra se faire via d’autres mécanismes.
La future monnaie privée de Facebook, Libra, sera-t-elle interdite en France, parce qu’elle met en cause la souveraineté de l’État ?
Bruno Le Maire, ministre de l’économie, et un certain nombre de ses collègues européens, ont été très clairs : nous ne souhaitons pas, à ce stade, que Libra puisse se développer en France. C’est la position du gouvernement français.
L’Anses (Agence nationale de sécurité sanitaire de l’alimentation, de l’environnement et du travail) s’apprête à lancer une expertise sur les effets potentiels spécifiques des signaux 5G sur l’homme. La 5G serait-elle dangereuse ?
L’Organisation mondiale de la santé (OMS) a dit qu’il n’y avait aucune preuve de problème quelconque avec la 5G. Il n’y a pas d’effet prouvé des ondes mobiles sur le métabolisme et la santé. Je n’ai donc pas de raison d’être inquiet.
D’après une étude dévoilée ce lundi 21 octobre, le secteur mondial du numérique, avec sa trentaine de milliards d’appareils connectés à travers la planète, consomme cinq fois plus de ressources naturelles que toutes les voitures françaises réunies. Que préconisez-vous ?
Il y a une prise de conscience sociétale. Une bonne partie des émissions de gaz à effets de serre proviennent de la consommation de données et des vidéos qu’on regarde en ligne. Il faut bien faire comprendre à tous les Français que s’ils veulent lutter contre les émissions de gaz à effets de serre, il est nécessaire de s’auto-restreindre sur ces vidéos. En France, on travaille beaucoup sur l’écoresponsabilité des centres de données. Mais la plupart de ces derniers ne sont pas dans le pays. Je remarque quand même que le numérique a un effet ambivalent : à la fois, il pollue ; à la fois, avec le télétravail, le covoiturage, la voiture autonome, il peut permettre de diminuer significativement les émissions de gaz à effets de serre.
Vous lancez, à Rennes, mercredi, l’appel à candidatures pour accompagner les futurs champions français de la French Tech. Quel est l’objectif ?
Je viens lancer la sélection du French tech 120 (FT120), c’est-à-dire les 80 meilleures start-ups au niveau national et par territoire. Elles viendront compléter les 40 sociétés qui composent le Next40 – dévoilées en septembre par le Président de la République – et bénéficieront d’un programme d’accompagnement public sur mesure.
Nous voulons porter le message que les jeunes entreprises technologiques françaises se créent et créent de l’emploi partout en France, pas seulement à Paris. On voit sur tous les territoires émerger des écosystèmes de très grande qualité. Rennes en fait partie, non seulement car on y trouve un champion comme Klaxoon, mais aussi un savoir-faire sur la cybersécurité. Il y a un potentiel pour faire à Rennes un hub très fort de la French Tech.
En parallèle, j’annoncerai aussi mercredi le déploiement du programme French Tech Central (qui n’existe aujourd’hui qu’à Paris), dans chacune des capitales French Tech, notamment à Rennes : il s’agit de faire en sorte, pour permettre aux jeunes entreprises technologiques de grandir, qu’elles aient, d’une part, un lien privilégié avec les administrations et services publics, et d’autre part un accompagnement spécifique par les acteurs locaux.
Vous leur proposez un accompagnement administratif mais pas d’argent ?
Ce n’est pas effectivement pas le sujet du jour. Le 17 septembre dernier, le Président de la République a annoncé la mobilisation de 5 milliards d’euros d’argent privé au profit du financement de nos entreprises technologiques. Le but du FT120, c’est de fluidifier les relations entre l’administration et ces entreprises qui ont souvent des besoins particuliers. Par exemple, elles embauchent extrêmement vite et posent donc des problèmes particuliers aux URSSAF, peuvent avoir besoin de discuter avec la Banque de France car elles ont parfois des comptes financiers un peu déséquilibrés et ne peuvent être analysées comme des entreprises normales…
Qui peut candidater ? Favoriserez-vous les projets qui font le bien commun ? Ou les seuls critères sont-ils la réussite potentielle ?
L’objectif, c’est de faire émerger des champions français et européens, capables de se battre à armes égales avec les GAFA. Les seuls critères sont donc ceux de la réussite économique sur la base de la levée de fonds ou de l’hyper-croissance (montant de chiffre d’affaires et sa croissance). En parallèle, nous allons créer un conseil national des Capitales et Communautés French Tech, une instance de concertation et de co-construction des programmes à destination des écosystèmes territoriaux. Il comportera, à partir de l’année prochaine, des représentants des Capitales et des Communautés French Tech, et comportera au moins 35 % de femmes. Je le réunirai au moins une fois par trimestre.
La French Tech a été lancée en 2013, avec ce discours, déjà à l’époque, de faire rayonner les start-ups françaises à l’international. Elle reste toutefois encore inconnue du grand public. Pourquoi peine-t-elle à décoller ?
Aujourd’hui, l’écosystème français grossit extrêmement vite. Et certaines start-ups encore inconnues il y a quelques années sont désormais familières du grand public des Français, Blablacar, Doctolib, Veepee, Manomano ou encore Devialet. Les fonds investis dans les start-ups françaises, c’était 2,5 milliards d’euros il y a deux ans, 3,5 milliards d’euros l’année dernière, 5 milliards d’euros cette année. Nous venons de dépasser les Allemands et notre objectif est de devenir la 1re économie numérique d’Europe dans les années qui viennent. Mais il faut un peu de temps. La Silicon valley date des années 70 et la technologie tire aujourd’hui entre un tiers et la moitié des créations nettes d’emplois aux États-Unis. En France, les jeunes entreprises technologiques créeront cette année 25 000 emplois, soit 10 % des créations d’emplois dans le pays.
Vous venez à Rennes aussi soutenir la candidate La République en marche Carole Gandon. Ces municipales s’annoncent-elles compliquées pour votre parti ?
J’entends les commentaires qui disent qu’un parti jeune aura du mal à percer mais j’ai lu exactement la même chose quand Emmanuel Macron était candidat à la présidentielle, pour les législatives ou encore les Européennes – avec le résultat qu’on connaît. Je n’ai pas l’impression que les Républicains, le Parti socialiste ou le Rassemblement national aient, par ailleurs, le vent en poupe. Alors, je demande à voir.
Source : https://www.ouest-france.fr
Quels sont les arguments des défenseurs de la reconnaissance faciale ?
Le système de reconnaissance faciale Alicem porté par le ministère de l'Intérieur a soulevé un vent d’inquiétude. Pour le contrer, les défenseurs de la technologie avancent leurs arguments : simplicité, sécurité et neutralité…
Depuis quelques jours, Alicem, l’application du ministère de l’Intérieur permettant de se créer une identité numérique via la reconnaissance faciale, fait débat. Ceux qui l'utiliseront pourront ensuite accéder à divers services en ligne : assurance maladie, impôts, inscription au permis... Ce système, qui devrait être mis en place avant la fin d'année, a soulevé de nombreuses inquiétudes. Les défenseurs des libertés numériques y voient un moyen de banaliser la reconnaissance faciale. De quoi craindre pour certains un glissement vers un état de surveillance dopé à l’intelligence artificielle similaire à la Chine. Cette semaine, les défenseurs de la technologie avancent leurs pions.
La techno permet à nos industriels « de progresser »
Cédric O, secrétaire d’État au numérique, s’est exprimé dans les colonnes du Monde sur le sujet. Pour lui, « il ne faut pas avoir une vision exclusivement nihiliste » de la technologie. « Il y a beaucoup d’usages qui, s’ils sont bordés juridiquement et techniquement, ne posent aucun problème et apportent de la simplification – par exemple, pour tout ce qui nécessite aujourd’hui de se présenter à un guichet ou pour valider une formation en ligne », argumente-t-il. Le secrétaire d’État estime par ailleurs que les expérimentations de reconnaissance faciale comme Alicem sont nécessaires pour « faire progresser nos industriels ». Paradoxalement, Cédric O se montre conscient des risques liés au sujet et plébiscite un débat citoyen. « Il me semble par ailleurs important qu’il y ait une supervision de la société civile car le sujet est trop sensible : l’État doit se protéger de lui-même. » Une instance d'évaluation des projets de reconnaissance faciale en France composée « de membres issus de différentes administrations et régulateurs, sous la supervision de chercheurs et de citoyens » devrait être créée.
« La technologie est neutre »
« La technologie est neutre, c'est l'usage qui en est fait dont il faut surveiller les dérives », explique Marc Darmon, directeur général des systèmes d'information et de communication sécurisés chez Thales, interrogé par Les Échos. Thales est un industriel français propriétaire de Gemalto, société qui a développé la technologie d'Alicem. L’argument de « la technologie est neutre » est difficilement recevable lorsqu’il a été prouvé à plusieurs reprises que les intelligences artificielles qui régissent les systèmes de reconnaissance faciale ne sont pas dénuées de biais sexistes, racistes… Elles s’appuient sur des bases de données élaborées par des humains, et donc rarement neutres.
La technologie n’est pas obligatoire
Dans L’Usine Nouvelle, Jérôme Létier, directeur de l’Agence nationale des titres sécurisés (ANTS) en charge du projet Alicem, répond point par point aux différentes craintes liées à ce système. Pour lui, agiter le spectre d’une reconnaissance faciale généralisée est « exagéré ». Il rappelle qu’Alicem n’est pas obligatoire. « L’application est un nouveau service, proposé en plus des alternatives déjà existantes pour se connecter et s’identifier (et accéder aux services publics en ligne). Ceux qui ne veulent pas utiliser la reconnaissance faciale ont donc le choix de ne pas utiliser Alicem. Nous ne leur portons pas préjudice. Si Alicem se généralise, nous veillerons à ce qu’il y ait des alternatives à la reconnaissance faciale. Mais nous avons le temps pour cela. »
Il ne faut pas en avoir peur mais la surveiller
« N'ayons pas peur de Big Brother ». C’est avec cette accroche pour le moins déroutante que le journaliste David Barroux commence une analyse dans Les Échos en réaction aux inquiétudes suscitées par Alicem. Pour l’éditorialiste les aspects négatifs de la technologie ne doivent pas nous priver de toutes les utilisations qui peuvent en découler. Il avance notamment l'argument sécuritaire. « Et si demain, une telle technologie permettait d'arrêter un terroriste avant qu'il ne commette un attentat, qui pourrait s'en plaindre ? », justifie-t-il. De plus, nous utilisons déjà la reconnaissance faciale – pour débloquer notre smartphone par exemple – sans s’en offusquer, estime-t-il. La technologie étant déjà là, rien ne sert d’en avoir peur donc ? L'argument paraît un peu léger. Pour le journaliste il est en tout cas inutile de l’interdire, il faut par contre surveiller et encadrer ses usages.
Source : https://www.ladn.eu
Par Alexandra Saviana - Publié le 28/10/2019
Lancement de la reconnaissance faciale en France : mais qu'allons-nous faire dans cette galère ?
Alicem, le projet d'identification par reconnaissance faciale de l'Etat français, est attendu dans les mois à venir. Curieux, que la France se porte à la pointe d'une telle technologie tandis qu'en Californie, par exemple, plusieurs villes interdisent déjà son usage par les services publics au nom des libertés civiles…
La nouvelle est revenue dans le débat par l'intermédiaire d'un magazine américain. Début octobre, le media financier américain Bloomberg affirme que la France deviendra bientôt le premier pays européen à utiliser la reconnaissance faciale pour donner aux citoyens une identité numérique sécurisée. Lancée par un décret en mai, l'application mobile Alicem (version courte d'"Authentification en ligne certifiée sur mobile"), utilisable uniquement sur Android, doit permettre de s'authentifier sur les sites accessibles via le portail d'accès du service public FranceConnect.gouv, comme ceux de la sécurité sociale et des impôts. Lors de son inscription, l'usager montrera sa bobine afin que le système vérifie qu'elle correspond à la photo de son titre d'identité. Une application de la reconnaissance faciale qui paraît a priori bénigne mais qui doit s'examiner à la lumière de deux tendances mondiales : d'un côté, l'emploi de la technologie en Chine avec son fameux "crédit social", de l'autre, le cas de plus en plus de villes américaines qui choisissent, elles, de l'interdire.
L'utilisation d'Alicem sera simplissime. Pour activer son compte, l'utilisateur devra être doté d'un smartphone Android équipé d'une puce NFC (Near Field Communication), ainsi que d'un titre de séjour ou d'un passeport équipé d'une puce sécurisée. Après avoir téléchargé l'application, l'usager devra entrer son adresse mail, scanner la bande optique et la puce du titre d'identité, et choisir un code secret. C'est à cette étape qu'intervient la reconnaissance faciale. Face caméra, l'usager devra faire des mouvements de tête, cligner des yeux, sourire… Et ce, afin que la machine identifie son visage en le comparant à son titre d'identité. Une fois qu'un visage est associé à la photo d'identité reliée au compte, "l'identité numérique" de l'utilisateur est confirmée. La reconnaissance faciale ne sert qu'une fois, au moment d'activer l'application Alicem. Le reste du temps, il devra toujours entrer un code à plusieurs chiffres pour se connecter sur les sites des services publics concernés.
"fin 2019 ou début 2020"
Encore en phase de test, Alicem attise déjà les inquiétudes. Le 15 juillet, La Quadrature du Net a déposé un recours devant le Conseil d'Etat pour annuler le dispositif. L'association de défense des libertés sur Internet s'alarme du traitement des données biométriques (c'est-à-dire des caractéristiques physiques propres à un individu) "ayant pour objectif avoué d’identifier chaque personne sur Internet pour ne plus laisser aucune place à l’anonymat". Avant même la publication du décret introduisant Alicem, en octobre, la Commission nationale de l'informatique et des libertés (Cnil) avait elle aussi rendu un avis sceptique, s'alarmant déjà de l'absence d'alternative à l'identification par reconnaissance faciale sur le portail. Une telle mise en œuvre, prévenait la Cnil, serait non-conforme au règlement européen de protection des données (RGPD), entré en application en mai 2018.
Entretemps, le gouvernement a revu sa copie. Interrogé dans Le Monde le 14 octobre, le secrétaire d'Etat au numérique, Cédric O, a garanti que le gouvernement était ouvert "à des techniques alternatives d'authentification forte" : "Il y aura, le cas échéant, des mécanismes d'enrôlement qui ne passent pas par la reconnaissance faciale". Le ministre est resté vague sur la date d'entrée en application d'Alicem, indiquant ne pas vouloir élargir le test "avant que nous n'ayons eu (les) premiers retours" du Conseil national du numérique et du travail de parlementaires sur le sujet de l'identité numérique. Pour Jérôme Létier, directeur de l'Agence nationale des titres sécurisés (ANTS), questionné par l'Usine nouvelle, le déploiement d'Alicem devrait avoir lieu "fin 2019 ou début 2020".
Alicem, la police et les libertés
Les critiques d'Alicem ne se limitent pas à une question d'alternatives. Il y a aussi celle de l'accessibilité. Uniquement disponible sur Android, pour un usage unique - la création de son "identité numérique" - Alicem fait un peu figure de gadget. Mais un gadget qui risque de se banaliser, le gouvernement entendant permettre un accès en ligne à la totalité des services publics d'ici à 2022. Avec un autre risque : celui de laisser une partie de la population française, peu habituée aux nouvelles technologies, sur le bas-côté. "Il faut aussi faire attention au gouffre technologique. En allant trop vite, on risque de familiariser seulement une partie de la population à ces nouvelles technologies et de laisser de côté toute celle atteinte d'illectronisme (illettrisme numérique (ndlr)", s'alarme Carlos Moreno, professeur à l’université Paris 1-Panthéon Sorbonne, directeur scientifique de la Chaire ETI (Entrepreneuriat Territoire Innovation). D'après une étude du CSA Research remontant à l'année dernière, l'illectronisme touche 2,5 millions de Français.
Autre crainte des détracteurs d'Alicem : celle d'un couplage, un jour, de l'outil avec un dispositif policier. D'autant que ces dernières années, les déclarations du ministère de l'Intérieur sur le sujet ont plutôt nourri les inquiétudes. Ainsi en septembre 2017, sa feuille de route insistait sur sa volonté de se positionner comme "maître d'ouvrage et maître d’œuvre de l'élaboration de solutions d'identité numérique". Deux ans plus tard, dans l'introduction du rapport "Etat de la menace liée au numérique en 2019", Christophe Castaner écrivait : "La liberté justement, voilà tout le paradoxe d'Internet. L'anonymat protège tous ceux qui répandent des contenus haineux et permet à des faux comptes de se multiplier pour propager toutes sortes de contenus (...) Nous devons donc relever le défi de l'identité numérique pour que chaque Français, dès 2020, puisse prouver son identité et savoir avec qui il correspond vraiment".
"Alicem ne crée pas la surveillance généralisée mais elle normalise la reconnaissance faciale dans l'esprit des gens"
Nous n'en sommes pas là : rien ne prévoit d'associer Alicem à un dispositif policier. Et Cédric O comme Jérôme Létier de pointer des "fantasmes". "Faire croire que la sortie dans quelques semaines d’Alicem, où l’on compare une fois une photo et une vidéo, équivaut à de la reconnaissance faciale généralisée, est exagéré", s'est agacé le second. Un point de vue que rejoint Carlos Moreno : "La crainte de la reconnaissance faciale est assez similaire à celle qu'avait, il y a vingt ans, la population générale au sujet de la vidéosurveillance, estime-t-il. Il faut évidemment être très prudent dans le langage comme dans l'expérimentation, pour éviter qu'un raccourci de vérification d'identité ne devienne un outil de contrôle. Mais tant que la reconnaissance faciale reste un simple outil de contrôle formel d'identité, il n'y a que peu de risques".
En fait, le système Alicem ne choque pas tant dans son application prévue à ce stade que dans ce qu'il représente pour le futur. "Alicem ne crée pas la surveillance généralisée mais elle normalise la reconnaissance faciale dans l'esprit des gens", décrypte Benoît Piedallu, membre de La Quadrature du net. "C'est un énième avatar de la vidéosurveillance, dont nous voyons les premiers essais industriels depuis les attentats de 2001", remarque Laurent Mucchielli, directeur de recherche au CNRS. Pour ce sociologue, spécialiste des politiques de sécurité, le risque de voir le champ d'application d'Alicem dépasser celui de la simple identification est bien réel : "Il y a toujours un risque que, dans deux ou trois ans, une nouvelle vague d'attentats pousse des politiques à demander la connexion de ce fichier aux fichiers de police", avance-t-il. "Dans le contexte post-attentats de 2015, on observe un grignotage régulier des libertés civiles, en particulier sur Internet où, à certains égards, il y a un alignement de facto des pratiques des Etats démocratiques sur celles des régimes plus autoritaires, abonde Julien Nocetti, chercheur associé à l'IFRI. Il ne faut pas être naïf : nous ne sommes pas immunisés à d'éventuelles dérives".
RÉPONDRE AUX ATTENTES DES INDUSTRIELS
D'autant qu'Alicem n'est pas la première incursion de la reconnaissance faciale dans notre espace public. Ces dernières années, à la faveur des expérimentations de smart cities (ou "villes intelligentes"), la technologie s'est peu à peu installée dans l'espace public. Aux aéroports Roissy-Charles de Gaulle et Orly, à Paris, des bornes de contrôle par reconnaissance faciale ont déjà remplacé la lecture des empreintes digitales. A Nice, du 16 février au 2 mars lors de son carnaval, la ville a testé la reconnaissance faciale sur la voie publique avec 5.000 volontaires. Résultat : une mairie ravie, revendiquant "un outil fiable et pertinent" et une Cnil plus sceptique, regrettant "l'urgence dans laquelle ses services ont été sollicités" et des "circonstances n'étant pas de nature à favoriser un travail d'analyse approfondie du dispositif projeté". Invité à Nice, le ministre de l'Intérieur Christophe Castaner s'était pourtant déclaré "très heureux qu'on puisse travailler sur (cette) expérimentation".
"L'Etat doit se protéger de lui-même"
Face au développement des technologies de reconnaissance faciale en France et dans le monde, la volonté de ne pas louper le coche technologique est grande au sein de l'exécutif. Interrogé dans Le Monde sur Alicem, Cedric O a ainsi fait valoir le droit "d'expérimentation" : "Expérimenter est également nécessaire pour que nos industriels progressent". "Comme s'il revenait aux citoyens de répondre aux attentes des industriels", ironise Laurent Mucchielli. Il faut dire que la marge de la reconnaissance faciale est importante. Testée dans la rue à Londres, royaume des caméras de surveillance - plus de 500.000 quadrillent la ville -, la technologie affiche un taux d'erreur de 81% d'après les évaluations d'une équipe de chercheurs de l'Université d'Essex. Des défauts auxquels l'exécutif semble avoir songé, Cédric O proposant, toujours dans son entretien au Monde, "une instance spécifique, composée de membres issus de différentes administrations et régulateurs, sous la supervision de chercheurs et de citoyens", sur la reconnaissance faciale. "L'Etat doit se protéger de lui-même", a-t-il affirmé.
A l'étranger, plusieurs villes ont déjà choisi d'interdire l'utilisation de la reconnaissance faciale par leurs services publics. En mai dernier, la ville de San Francisco, en Californie, en a ainsi interdit l'usage par la police et les agences gouvernementales. Les villes de Sommerville et d'Oakland ont suivi. Et la France devrait en faire autant, estime-t-on à La Quadrature du net : "C'est bien la preuve qu'on peut dès aujourd'hui interdire la reconnaissance faciale, relève Benoît Piedallu. II ne faut pas céder aux sirènes des industriels".
Ne pas céder afin d'éviter les dérives de la reconnaissance faciale, comme le programme de "crédit social" utilisé en Chine. Ce dernier doit permettre au pouvoir central, à l'horizon 2020, de noter et ficher l'ensemble de ses citoyens. Revenant régulièrement dans le débat - encore l'objet d'un documentaire d'Envoyé Spécial le 10 octobre -, le système de surveillance chinois sert justement de repoussoir aux opinions occidentales. En juillet, un article du site spécialisé Wired relevait ainsi notre obsession pour ce qu'il appelle les "représentations exagérées" de l'expérience chinoise, qui peuvent "aider à minimiser les efforts de surveillance dans d'autres parties du monde" : "Parce que la Chine est souvent considérée à la dernière extrémité du spectre, je pense qu'elle déplace le cadre de toute la conversation, analyse Jeremy Daum, directeur du bureau de Pékin de l'école de droit de Yale. De cette manière, tout ce qui est moins invasif que notre version imaginée du crédit social semble acceptable car au moins, nous ne sommes pas aussi mauvais que la Chine". Moins mauvais, ou plus aveugles sur nous-mêmes ?
Source : https://www.marianne.net
