Marie-Laure Denis (CNIL) : Élection européenne, la CNIL sur le qui-vive

Présentation de Marie-Laure Denis BFM Business présente [Musique] EDV chevriot la grande interview bonsoir à tous bienvenue dans la grande interview ce soir je reçois la gardienne de nos libertés des libertés public bonjour Marie Len bonsoir merci d'être avec nous vous êtes président de laacn la Commission Nationale de l'Informatique et des Libertés c'est vous qui regardez un petit peu tout savoir si il y a pas des fake news dans les pour les élections les élections européennes les problèmes de de vidéosurveillance on dire un mot question de sécurité pour les Jeux Olympiques question évidemment sur toutes les cyberattaques et là j'ai beaucoup de questions pour vous et quoi d'autre encore et puis bien sûr l'intelligence artificielle comment est-ce que on peut contrôler les l'usage de l'intelligence artificielle et surtout avec nos données personnelles quel rôle peut jouer l'acnil vous voyez si j'ai beaucoup de questions on commence peut-être par les les élections européennes parce que là on en parle beaucoup c'est le 9 juin prochain il y a beaucoup de tentative de déstabilisation euh en tous les cas c'est ce que dit le Président le premier ministre qu'est-ce que vous vous pouvez faire alors la La prospection politique illégale qu'est-ce que vous faites voilà laacnil se préoccupe notamment de la prospection politique illégale c'est-à-dire très concrètement les appels intempestifs que vous pouvez recevoir sur vos téléphones ou des sms à partir de données pour lesquelles vous n'avez pas donné votre consentement notamment pour qu'elle soit utilisée à des fins de prospection politique en 2022 pour les élections présidentielle et législative on a reçu 3200 signalements très concrètement je pense même que lorsque les données ne sont pas utilisés de façon légale et qu'on ne permet pas à la personne à qui on adresse des messages de prospection politique de s'opposer à la réception de celle-ci je pense même que c'est contreproductif et j'ai écrit d'ailleurs à tous les partis politiques à tous les candidats pour les élections européennes et et nous contrôlons naturellement en temps réel ce qui se passe mais est-ce que vous vous observez déjà des tentatives de déstabilisation ou pas alors c'est davantage Lancy et qui se et vginum qui est un service à part entière de l'État qui se préoccupe des ingérences étrangères également ça participe effectivement comme vous l'avez dit d'un climat qui peut être un climat de déstabilisation des élections on l'avait vu il y a quelques années notamment avec l'affire Cambridge Analytica des données compromises d'utilisateur de Facebook de 97 millions d'utilisateurs de Facebook qui avait été utilisé pour influencer les élections américaines et le exite on va revenir Les Gafam dans le détail mais mais juste quand même par plus que par curiosité par intérêt quel est le l'application le le réseau social qui est le plus à vos yeux qui est le plus dangereux par rapport à à nos données personnelles Facebook B je me permettrai pas de d'identifier ou de pointer du doigt un réseau plutôt qu'un autre en tout cas je je constate que depuis la mise en œuvre du règlement général sur la protection des données ce règlement européen qui protège nos données depuis 5 ans je constate que les ce qu'on appelle les gafam en quelque sorte viennent voir les autorités de protection des données parce que c'est un en gros il y a quand même une réglementation qui s'applique qui protège nos données dans 27 pays de l'Union et et et ça ça a pu faire modifier les pratiques des GAM nous on l'a fait sur les cookies par exemple les traceurs publicitaires pour pouvoir les refuser dès le premier écran et pas être obligé de les accepter aller au trème écran et passer 5 minutes pour les à Cha FO très très compliqué parce qu'à chaque fois il nous a PR ans machin ça oui oui mais nous en tant qu'utilisateur on finit presque par par regretter le système d'avant hein si je peux me permettre il un petit continué sans accepter maintenant euh en général devant chaque premier écran lors de votre navigation Internet qui permet quand même de refuser et ça ça vous donne de la transparence quand même sur l'utilisation des données et des moyens de contrôle c'est ça le travail de l'acnil par exemple alors le autre travail de l'acnil c'est enfin autre actualité très forte évidemment les jeux olympique avec cette question sur est-ce Les Jeux Olympiques qu'on peut combiner liberté et sécurité ça c'est ça c'est votre job Marie lordordenis il a la question des des vidéosurveillan avec les reconnaissances faciales la vidéo surveillance vous vous êtes pour la reconnaissance faciale vous êtes contre sauf à un moment pour les jeuxx olympiques mais par exemple il a la ville de Nice qui veut exploiter ça à fond et puis vous vous lui dites ah non stop c'est pas possible alors expliquez-nous quelle est votre ligne de crête entre sécurité donc et liberté c'est tout vous l'avez très bien dit c'est tout le travail d'équilibriste en quelque sorte de l'acnil d'essayer de de concilier des objectifs qui sont tous les deux légitimes la sécurité publique d'un côté et chacun comprend que pour un événement aussi exceptionnel que les Jeux Olympiques il y ait des mesures exceptionnelles qui puissent être prises et en même temps dans l'espace public euh s'exerce des libertés publiques le droit de manifestation le droit de culte quand on va dans un lieu de culte le le rentrer dans un parti politique et cetera tout ça ça peut se voir avec des caméras de vidéosurveillance donc qu'il faut trouver le bon équilibre je voudrais déjà préciser que c'est pas l'acnil hein qui fixe les règles c'est vraiment euh le législateur en l'espèce pour les Jeux Olympiques euh en en reprenant les préconisations qu'avait fait l'acnil et que le gouvernement a reprise également le législateur qui a beaucoup positionitionné l'acnil sur ces sujets euh a décidé euh pour la première fois en France d'utiliser des caméras dites augmenté c'est il s'agit pas de la reconnaissance faciale il s'agit pas d'identifier une personne mais il s'agit de détecter 8 cas d'usage euh pour aider l' ça pourrait conduire à la reconnaissance faciale alors très clairement une des garanties àorté dans le cadre de cette expérimentation c'est qu'il y ait pas de reconnaissance faciale c'est le législateur qui euhité quand mêmeir cette reconnaissance faciale je pense qu'il faut être très surtout avec toutes les menaces qui pèse là ce soir il y a le match PSG Barça le le le ministre de l'Intérieur JAL d'anaana lui-même a dit qu'il y avait des questions de sécurité donc on se dit ça serait quand même beaucoup plus facile beaucoup plus sûr pour tout le monde il d'abord là c'est une expérimentation ce qui passe avec les caméras augmenté c'est déjà donc de l'intelligence artificielle embarquée sur les caméras pour aider les les forces de l'ordre à prendre des décisions faisons déjà l'évaluation de cette expérimentation c'est pas notôre hein d'utiliser de la reconnaissance Faale parce qu'il y a des BIA en plus c'est-à-dire qu'on peut vous arrêter parce que on vous a confondu avec quelqu'un d'autre ce sont des système probabiliste je vais pas rentrer dans des détails mais qui génère beaucoup de BIS en fonction de la façon dont ils ont été entraînés donc d'ailleurs je constate que c'est le législateur hein je répète et pas laacnil qui ne souhaite pas utiliser de la reconnaissance mais en même temps est-ce que vous trouvez pas vous justement que cette combinaison sécurité liberté il faut peut-être le le rééquilibrer un peu c'estàdire que vraiment la protection de données personnelles mais en même temps il y a des grands risques de sécurité qui je dirais n'étaient pas pas aussi fort ces dernières années écoutez ni le gouvernement ni le Parlement qui ont souhaité quand même ce qui ce qui est déjà un premier pas inédit he jusqu'à présent d'utiliser de l'intelligence artificielle pour détecter des comportements suspects et ce qui aide les forces de l'ordre parce qu'il y a plus de limite humaines il y a plus la limite de l'œil humain pour la caméra si vous avez si vous êtes devant 500 caméras c'est difficile de tout contrôler avec de l'intelligence artificielle et les caméras augmenté c'est la machine qui va vous dire bah regardez ici faites ceci envoyez une patrouille et ceteraablev dire donc euh ça peut être très utile mais il faut l'évaluer parce que si vous sortez un parapluie qu'on considère que c'est une arme parce qu'il y a eu un BIA c'est pas nécessairement formidable donc tout ça combien de caméras comme ça c'est juste je sais pas si vous avez le je sais que ça ne dépend pas de vous c juste au cas où on vous aurait donné le chiffre les toutes les les cyber attaques là ça terrifie un peu les Français parce qu'on les a vu sur France travail pour exp l'emploi on a vu sur Les cyberattaques les hôpitaux aussi on a vu sur des plein de domaines qui nous concernentous sur des mutuels sur des entreprises est-ce que vous vous avez cette augmentation des cyberattaques j'ai envie de dire qu'est-ce que vous pouvez faire comment pourquoi vous les empêchez pas comment comment peut-on se protéger voyez alors les cyberattaques ont augmenté de 30 % l'année dernière elles cibleent majoritairement les PME et les TPE pour 35 % donc un gros tiers les collectivités locales pour un/art d'entre elles et les hôpitaux vous en parliez les établissements de santé d'une façon générale pour 10% avec une forte augmentation avec le risque de la perturbation de la continuité des soins indépendamment de la dissémination de données très sensibles personnell et ca donc c'est un vrai fléo l'acnil qui agit pas toute seule hein sur ces sujets par qu'il y a aussi l'Agence des sécurités de système d'information le groupement cybermalveillance.group.fr dont nous faisons partie l'acnil elle agit de plusieurs façons d'abord en sensibilisant les particuliers parce que l'acnil est perçu comme étant le gendarme de la protection des données mais elle fait beaucoup d'accompagnement donc très concrètement on sensibilise les individus par exemple vous allez sur le site de l'ACN vous avez un générateur de mot de passe je peux vous dire comment doit doit être un mot de passe robuste mais je vais peut-être pas rentrer dans les détails on sensibilise les professionnels on vient d'actualiser notre guide annuel il y a 25 fiches 60 pages pour tous les professionnels euh pour par exemple tracer euh ce qu'on appelle la journalisation l'accès au système d'information c'est un exemple parmi d'autres on contrôle euh les 2/ers de nos sanctions comporte des manquements à la sécurité des données euh parce que c'est un peu ça la protection des données on on sensibilise il y a de la responsabilisation et on peut sanctionner on a par exemple il y a 2 ans prononcé une amende d' 1,5 million d'euros contre une société qui édite des logiciels pour des laboratoires médicaux et avec des défaillances qui ont conduit à mettre dans la nature des données de santé de 500000 personnes et au niveau européen parce qu'il y a des kniles européennes par exemple la oui mais comment faites-vous j'envie dire parce que là vous êtes absolument sur tous les fronts l'acnil c'estbi c'est combien de personnes l'acnil mais l'acnil c'est presque que 300 agents un collège de 18 membres donc on on a du pain sur la planche on est derrière tous les ballons vous utiliser l'intelligence artificielle VO laacnille on y pense on y pense pas encore pas encore pour différentes raisons d'abord si on l'utilise on veut le faire d'une façon vertueuse en tout cas en protégeant les données ensuite parce que ça a un coût aussi pour une administration que nous sommes ça n'est pas nottre mais ça L'IA pourrait être utile par exemp ça rentre en ligne de compte pour vous c'est incroyable que la Commission nationaleinformatique et liberté nutilise pas l'intelligence artificielle parelle pr de coup je sais bien qu'il y a un problème de fin pour l'instant on en est à la réflexion pour alors cela dit l'acnil elle connaît l'intelligence artificielle deppp pas non on est on est pas en retard d'abord les algorithmes c'est des sujets sur lesquels se penche l'acnil depuis très longtemps quand l'acnil avait mise en demeure APB qui n'avait pas des algorithme suffisamment transparent et qui conduait à faire du tirage au sort sur l'affectation dans des filières enseignement supérieur mais c'est l'acnil qui d'une certaine façon il y a en 2017 déjà a conduit à à à l'adoption de de parcours sup euh et laacnil très concrètement sur l'intelligence artificielle elle elle ne souhaite pas du tout freiner l'innovation elle souhaite l'accompagner mais avec des garanties on vient de publier des fiches pour les développeurs de système dia lundi avec des indications pratiques et on accompagne des acteurs très concrètement tiens vous par parcours sub ça vient de se terminer là vous avez eu des plaintes justement là ou pas pas à ma connaissance mais peut-être peut-être mais pas mais on reçoit 16000 plaintes par an c'est deux fois plus qu'avant le rgpd et pour la 2è année consécutive on en traite plus qu'on en reçoit donc on parce que chaque plainte c'est un droit et on essae de de répondre et dans une logique là aussi d'accompagnement parce qu'il y a pas 16000 sanctions non plus même si en l'espace de 5 ans laacnil a prononcé presque 600 millions d'euros de sanction les les 600 millions ils vont où ils vont ils vont dans le budget de l'État ah oui nous ne sommes pas intéressés vous pourriez vous pourriez ça vous fere vous ferez un budget supplémentaire alors là vous avez défini enfin votre plan stratégique en fait les applications mobiles sont au cœur de ce c'est vraiment ce que mis en tête en tête de Gondal pardonnez-moi cette expression mais enfin c'est vraiment ça au cœur de votre programme stratégique parce que les avec les applis en fait on est tracé absolument partout donc à nos données personnelles on a beau cliquer sur tout ce que vous voulez elles les ont tout à fait et on en a pas nécessairement conscience c'est ça qui est important le téléphone c'est le premier vecteur d'accès au numérique non des Français en l'espace de 4 ans il y a quatre fois plus d'applications mobiles qui ont été téléchargées et vous avez toute votre vie dans votre téléphone avec les applications mobiles avec des données extrêmement sensibles vos contacts de la géolocalisation des photos des vidéos donc très concrètement ce que nous voulons les moyens de paiement et et et de plus en plus de moyens de paiement effectivement effectivement donc ce que veut faire l'acnil comme nous l'avons fait sur les cookies sans prendre l'écosystème comme on dirait par surprise c'est publié d'ici quelques mois une recom tion pour dire quelles sont les bonnes pratiques que nous voulons voir advenir ça sera un cadre oui ça sera un cadre comme céit le cas pas pas législatif c'est vraiment l'Autorité de régulation qui interprète le droit de la protection des données et qui dit bah nous vous suggérons de faire comme si comme ça comme on l'a fait sur les cookies c'està-dire du droit ce qu'on appelle du droit souple tout ça fait après beaucoup de concertation et une consultation publique sur le sujet vraisemblablement sauf exception s'il y a des plaintes et cetera un temps d'adaptation pour les acteurs et et puis après des campagnes massives de contrôle de la CL concrètement la la recommandation d'ici quelques mois et et après avec peut-être éventuellement une période d'adaptation des campagnes de contrôle pour donner plus de transparence et plus de contrôle au aux gens sur leur données que que les personnes comprennent que leurs données dès qu'elles vont sur Internet dès qu'elles cliquent elles sont exploitées en général qu'il faut un consentement il faut savoir à qui elles sont envoyées et vous avez des droits sur ces données un droit d' accéder de droit droit de vous opposer à l'utilisation de de ces données donc nous essayons de faire beaucoup de pédagogie sur ce sujet mais en même temps vous avez pas été attaqué en Conseil d'État parce que justement vous avez confié vos données à Microsoft et donc on vous avait attaqué devant le Conseil d'État donc une décision qui a été bah que finalement c'est vous qui l'avez emporté mais c'est c'est pas un peu l'arroseur arrosé non non pas du tout d'abord c'est pas nos données c'est une il se trouve que laacnil donne des autorisations délivre des autorisations dans le domaine de la recherche en santé et il y a un acteur très important en France qui s'appelle la plateforme nationale des données de santé qui un beau projet d'ailleurs qui consiste à utiliser de l'intelligence artificielle justement pour faire de la recherche en santé qui a voulu créer un entrepôt de données de santé c'est une grande base de données de santé pour des années pour faire de la recherche avec le sujet de l'hébergement puisque c'est hébergé chez Microsoft qui est un acteur américain avec des lois américaines qui permettent éventuellement aux autorités américaines même si ces données sont localisées en France d'avoir accès à ces données et l'acnil qui ne qui ne fait pas de l'opportunité mais dé Liv des autorisations en droit de le Conseil d'État n'a pas suspendu cette autorisation parce que l'acnil avait obtenu un certain nombre de garanties dans la balance entre l'intérêt de cette recherche et le fait que les données sont pseudonymisées c'est-à-dire que ce sont des données de personnes qui ne sont pas directement identifiantes et on a donné une autorisation que de 3 ans parce qu'on veut voir ces les données de santé de l'ensemble des Français migrer sur une solution souveraine et on a obtenu un engagement du gouvernement pour se faire je marieordeny donc on parlait là des des applications des applications mobiles il a il y a eu le site chinois de commerce électronique timou qui a en fait qui a retiré en France un service qu'il avait mis où en fait on pouvait les clients pouvaient monayer leurs propres données personnelles euh ça a eu beaucoup de succès mais en même temps c'était c'était assez contradictoire oui contradictoire avec la législation en France notamment est-ce que vous avez reçu des plaintes là-dessus déjà parce que elle a retiré ce service là mais est-ce que vous avez reçu des des plaintes alors on a reçu une plainte en tout cas peut-être peut-être peut-être davantage depuis j'ai pas actualiser exactement le le sujet peut-être que ce site de vente en ligne chinois a retiré cette offre entre guillemets qui consistait à acheter les données àis de de personnes suite à la réaction aussi qu'a eu l'acnil sur le sujet parce que autant on peut comprendre que c'est une illusion la gratuité sur Internet et que on paye soit avec ses données si on y consent soit éventuellement en payant pour obtenir un service mais à l'inverse on a des droits qui sont attachés à ces données comme je l'ai expliquait et et donc vous ne pouvez pas vous démunir de la possibilité de s'opposer à l'exploitation de ces données par exemple toute dernière question sur l'intelligence artificielle parce que là évidemment les nos données sont peuvent être complètement utilisées un qu'est-ce que comment est-ce que vous vous allez aborder cette question vous m'avez dit que vous vous la l'utilisez pas mais comment vous allez aborder la question d'usage de et puis est-ce que pvez devenir l'autorité de contrôle de de l'intelligence artificielle voilà alors euh en 30 secondes bien sûr alors en 30 secondes euh des bonnes pratiques après concertation avec le le secteur donc on vient de publier des premières des des des premières indications pour qu'on utilise parce que l'intelligence artificielle ça ça se nourrit de quantité considérable de données notamment de données personnelles donc de de nos données donc comment être le plus vertueux pour accompagner pour protéger ces ces don y compris dans le domaine de la sécurité he par qu'on parlait de la sécurité des données la deuxème chose c'est de l'accompagnement par qu'on veut pas être un régulateur hors sol donc on accompagne concrètement des entreprise FR et est-ce que vous allez devenir l'autorité de contrôle c'est le gouvernement qui le en tout cas l'aknil a une légitimité pour être l'autorité de surveillance de marché sur un certain nombre d'usages en matière d'IA puisque c'est c'est c'est c'est un peu le prisme un peu économique et de sécurité ça veut dire oui merci beaucoup Marie lordordeni d'avoir été avec nous