A Bercy, des experts du numérique placent les plateformes sous surveillance
Par Jules BONNARD / AFP
Pour réguler les plateformes numériques, une équipe discrète d’informaticiens experts invente à Bercy, pour le compte de l’État, des dispositifs techniques permettant de faire respecter les lois sur internet.
Le Peren (Pôle d’expertise de la régulation numérique) s’est récemment mobilisé autour du projet de loi pour sécuriser l’espace numérique, adopté mardi par l’Assemblée nationale, et qui doit venir renforcer son rôle et ses pouvoirs, notamment en matière de collecte de données.
Le texte comporte de nombreuses innovations, comme le filtre anti-arnaques, le bannissement des réseaux sociaux ou le blocage administratif des sites pornos accessibles aux mineurs, une mesure controversée car la vérification d’âge est réputée difficile à mettre en place sur internet.
En collaboration avec l’équipe technique de la Cnil, la commission garante des données personnelles des Français, le Peren a notamment mis au point un dispositif dit de « double anonymat » permettant de transmettre une preuve de majorité sans divulguer l’identité de l’internaute.
La solution nécessite toutefois la mise en place de garanties institutionnelles et sera au cœur du référentiel attendu de l’Arcom, l’autorité de régulation des médias, sur les outils de contrôle de l’âge.
Créé par un décret en août 2020, le Peren est installé au ministère de l’Économie, même s’il dépend aussi de ceux de la Culture et du Numérique.
Son objectif: aider les autorités dans l’exercice des nouvelles régulations applicables aux plateformes numériques, de YouTube à WhatsApp en passant par TikTok et Spotify.
« Toutes les plateformes ne se ressemblent pas », observe pour l’AFP le directeur du Peren, Nicolas Deffieux, passé par l’Autorité de régulation des télécoms (Arcep) et l’Autorité de la concurrence. D’où la nécessité d’avoir des outils permettant d’auditer finement leur fonctionnement.
La cellule emploie 25 personnes, essentiellement des jeunes ingénieurs et doctorants, spécialistes de l’informatique et de l’intelligence artificielle, pour certains ex-employés des Gafam.
Chaque automne, elle organise des rencontres avec les autorités indépendantes et agences de l’Etat confrontées à de nouveaux enjeux de régulation.
Le Peren aide ainsi le Centre national de la musique à identifier les faux streams provenant de robots sur Spotify ou expérimente pour le compte de Viginum (qui surveille les ingérences étrangères) des solutions d’IA permettant de dénicher les faux profils sur les réseaux sociaux.
A l’issue d’une expérimentation sur les données de Airbnb, le Peren a mis en place une interface permettant aux collectivités de contrôler le respect de la loi Elan sur les locations saisonnières.
Et elle n’hésite pas non plus à recourir elle-même aux robots, par exemple pour faire défiler automatiquement les contenus sur TikTok et ainsi étudier les « bulles de filtres » de l’algorithme, accusé d’enfermer les utilisateurs dans leurs propres préférences de visionnage.
Ce projet a récemment été remarqué par la Commission européenne, qui a mis en place à Séville un Centre européen pour la transparence algorithmique, auquel le Peren apporte son expertise.
Prochain défi pour cette équipe: s’attaquer aux effets néfastes de l’intelligence artificielle générative, qui suscite des craintes concernant la collecte massive de données personnelles, ou la multiplication des « hypertrucages » (ou « deepfakes »), ces fausses vidéos ou images hyper-réalistes.
