Meta révise les règles relatives aux deepfakes et autres médias modifiés

information fournie par Reuters •05/04/2024 à 16:00

((Traduction automatisée par Reuters, veuillez consulter la clause de non-responsabilité https://bit.ly/rtrsauto)) par Katie Paul

Le propriétaire de Facebook, Meta META.O , a annoncé vendredi des changements majeurs à ses politiques sur les médias créés et modifiés numériquement, avant les élections américaines qui sont sur le point de tester sa capacité à contrôler le contenu trompeur généré par les nouvelles technologies d'intelligence artificielle.

Le géant des médias sociaux commencera en mai à apposer des étiquettes "Made with AI" sur les vidéos, les images et les sons générés par l'IA et publiés sur ses plateformes, élargissant ainsi une politique qui ne concernait auparavant qu'une tranche étroite de vidéos trafiquées, a déclaré la vice-présidente de la politique de contenu, Monika Bickert, dans un billet de blog.

Mme Bickert a précisé que Meta appliquerait également des étiquettes distinctes et plus visibles aux médias modifiés numériquement qui présentent un "risque particulièrement élevé de tromper matériellement le public sur une question importante", que le contenu ait été créé à l'aide de l'IA ou d'autres outils ou non.

Cette nouvelle approche modifiera la manière dont l'entreprise traite les contenus manipulés. Elle passera d'une approche axée sur la suppression d'un nombre limité de messages à une approche qui maintiendra le contenu tout en fournissant aux spectateurs des informations sur la manière dont il a été créé.

Meta a déjà annoncé un programme de détection des images créées à l'aide d'outils d'IA générative d'autres entreprises, en utilisant des marqueurs invisibles intégrés aux fichiers, mais n'a pas donné de date d'entrée en vigueur à l'époque.

Un porte-parole de la société a déclaré à Reuters que la nouvelle approche d'étiquetage s'appliquerait au contenu publié sur les services Facebook, Instagram et Threads de Meta. Ses autres services, notamment WhatsApp et les casques de réalité virtuelle Quest, sont couverts par des règles différentes.

Meta commencera à appliquer immédiatement les étiquettes "à haut risque", plus visibles, a déclaré le porte-parole.

Ces changements interviennent quelques mois avant l'élection présidentielle américaine de novembre qui, selon les chercheurs en technologie, pourrait être transformée par les nouvelles technologies d'IA générative. Les campagnes politiques ont déjà commencé à déployer des outils d'IA dans des endroits comme l'Indonésie, repoussant les limites des directives émises par des fournisseurs comme Meta et le leader du marché de l'IA générative OpenAI.

En février, le conseil de surveillance de Meta a qualifié d'"incohérentes" les règles existantes de l'entreprise sur les médias manipulés, après avoir examiné une vidéo du président américain Joe Biden publiée sur Facebook l'année dernière, qui modifiait des images réelles pour suggérer à tort qu'il s'était comporté de manière inappropriée.

La vidéo a été autorisée à rester en ligne, car la politique de Meta en matière de "médias manipulés" n'interdit les vidéos modifiées trompeuses que si elles ont été produites par une intelligence artificielle ou si elles donnent l'impression que des personnes ont prononcé des paroles qu'elles n'ont jamais prononcées en réalité.

Le conseil d'administration a déclaré que cette politique devrait également s'appliquer au contenu non généré par l'intelligence artificielle, qui n'est "pas nécessairement moins trompeur" que le contenu généré par l'intelligence artificielle, ainsi qu'au contenu uniquement audio et aux vidéos montrant des personnes en train de faire des choses qu'elles n'ont jamais faites.