Réseaux sociaux, intelligence artificielle... Une équipe d'experts du gouvernement surveille les plateformes

information fournie par Boursorama avec Media Services •19/10/2023 à 15:12

Le Pôle d'expertise de la régulation numérique, ou Peren, composé de jeunes informaticiens et installé au ministère de l'Économie, est chargé de réguler le numérique, notamment en luttant contre l'accès des mineurs à la pornographie ou contre la désinformation.

( AFP / DENIS CHARLET )

Ces experts inventent des dispositifs techniques pour faire respecter les lois sur internet. La cellule emploie 25 personnes, essentiellement des jeunes ingénieurs et doctorants, spécialistes de l'informatique et de l'intelligence artificielle, pour certains ex-employés des Gafam (pour Google, Apple, Facebook, Amazon, et Microsoft), les géants du numérique.

Le Peren s'est récemment mobilisé autour du projet de loi pour sécuriser l'espace numérique (Sren) , adopté mardi 17 octobre par l'Assemblée nationale. Ce texte promet de mieux lutter contre le cyberharcèlement, les arnaques sur internet, ou encore l'accessibilité des sites pornographiques aux mineurs. Il doit aussi renforcer le rôle et les pouvoirs du pôle, notamment en matière de collecte de données. Le projet de loi comporte de nombreuses innovations, comme le filtre anti-arnaques, le bannissement des réseaux sociaux ou le blocage administratif des sites pornos accessibles aux mineurs, une mesure controversée car la vérification d'âge est réputée difficile à mettre en place sur internet.

Nouveaux outils

En collaboration avec l'équipe technique de la Cnil, la commission garante des données personnelles des Français, le Peren a notamment mis au point un dispositif dit de "double anonymat" , qui permet de transmettre une preuve de majorité sans divulguer l'identité de l'internaute. Cela nécessite toutefois des garanties institutionnelles. Le sujet sera au cœur du référentiel attendu de l'Arcom, l'autorité de régulation des médias (ex-CSA), sur les outils de contrôle de l'âge.

Créé en août 2020, le Peren est installé à Bercy. Mais il dépend aussi de ceux de la Culture et du Numérique. Son objectif, aider les autorités dans l'exercice des nouvelles régulations applicables aux plateformes numériques, de YouTube à WhatsApp, en passant par TikTok et Spotify.

"Toutes les plateformes ne se ressemblent pas", observe pour l' AFP le directeur du Peren, Nicolas Deffieux, passé par l'Autorité de régulation des télécoms (Arcep) et l'Autorité de la concurrence. D'où la nécessité d'avoir des outils permettant d'auditer finement leur fonctionnement. Ainsi, à l'issue d'une expérimentation sur les données de Airbnb, le Peren a mis en place une interface permettant aux collectivités de contrôler le respect de la loi Élan (évolution du logement, de l'aménagement et du numérique) de 2018 sur les locations saisonnières.

Faux profils, "deepfakes"

Chaque automne, le pôle organise des rencontres avec les autorités indépendantes et agences de l'État, confrontés à de nouveaux enjeux de régulation. Il aide ainsi le Centre national de la musique à identifier les faux streams provenant de robots sur Spotify. Il expérimente aussi des solutions d'intelligence artificielle (IA), afin de dénicher les faux profils sur les réseaux sociaux , pour le compte de Viginum, qui surveille les ingérences étrangères.

La cellule recourt elle-même aux robots, par exemple pour faire défiler automatiquement les contenus sur TikTok et ainsi étudier les bulles de filtres de l'algorithme, accusé d'enfermer les utilisateurs dans leurs propres préférences de visionnage. La Commission européenne a récemment remarqué ce projet et mis en place un Centre européen pour la transparence algorithmique à Séville. Le Peren y apporte son expertise.

Prochain défi pour cette équipe : s'attaquer aux effets néfastes de l'IA générative , qui suscite des craintes concernant la collecte massive de données personnelles, ou la multiplication des hypertrucages (ou "deepfakes"), ces fausses vidéos ou images hyper-réalistes.