OpenAI bloque les comptes ChatGPT d'un groupe iranien pour avoir ciblé les élections américaines

information fournie par Reuters •16/08/2024 à 22:11

((Traduction automatisée par Reuters, veuillez consulter la clause de non-responsabilité https://bit.ly/rtrsauto))

OpenAI a déclaré vendredi avoir supprimé les comptes d'un groupe iranien qui utilisait son chatbot ChatGPT pour générer du contenu destiné à influencer l'élection présidentielle américaine et d'autres questions.

L'opération, identifiée sous le nom de Storm-2035, a utilisé ChatGPT pour générer du contenu axé sur des sujets tels que des commentaires sur les candidats des deux camps aux élections américaines, le conflit à Gaza et la présence d'Israël aux Jeux olympiques, et l'a ensuite partagé via des comptes de médias sociaux et des sites web.

L'enquête menée par la société d'intelligence artificielle

MSFT.O , soutenue par Microsoft, a montré que ChatGPT était utilisé pour générer des articles longs et des commentaires plus courts sur les médias sociaux.

L'OpenAI a déclaré que l'opération ne semblait pas avoir suscité un engagement significatif de la part du public.

La majorité des messages identifiés sur les médias sociaux n'ont reçu que peu ou pas de likes, de partages ou de commentaires, et l'entreprise n'a pas vu d'indications de partage d'articles web sur les médias sociaux.

Les comptes ont été interdits d'utilisation des services d'OpenAI et l'entreprise continue de surveiller les activités pour détecter toute nouvelle tentative de violation des politiques.

Au début du mois d'août, un rapport de Microsoft sur les menaces a indiqué que le réseau iranien Storm-2035, composé de quatre sites web se faisant passer pour des organes de presse, s'employait activement à mobiliser des groupes d'électeurs américains situés à des extrémités opposées de l'échiquier politique.

Cet engagement s'appuie sur des "messages polarisants sur des questions telles que les candidats à l'élection présidentielle américaine, les droits des LGBTQ et le conflit entre Israël et le Hamas", indique le rapport.

La candidate démocrate Kamala Harris et son rival républicain Donald Trump sont engagés dans une course serrée avant l'élection présidentielle du 5 novembre.

En mai, la société d'intelligence artificielle a déclaré avoir perturbé cinq opérations d'influence secrètes visant à utiliser ses modèles pour des "activités trompeuses" sur l'internet.