OpenAI a annoncé vendredi avoir détecté une « opération d’affect iranienne » utilisant ChatGPT. Le groupe, connu sous le nom de Storm-1679, a généré des articles et des commentaires sur les réseaux sociaux pour façonner l’opinion publique autour de la vice-présidente Kamala Harris et de l’ancien président Donald Trump, selon OpenAIEn plus de cibler les candidats à la présidentielle américaine de 2024, OpenAI a déclaré que Storm-1679 a également généré du contenu autour de l’invasion de Gaza par Israël et de sa présence aux Jeux olympiques de 2024, des droits des communautés latinos basées aux États-Unis, de la politique vénézuélienne et de l’indépendance de l’Écosse par rapport au Royaume-Uni.
La plupart des publications et articles repérés par OpenAI ont reçu peu d’consideration de la half de personnes réelles, a déclaré la société. a décrit l’incident en détail sur son weblogécrivant qu’il a trouvé une douzaine de comptes X (anciennement Twitter) se faisant passer pour conservateurs et progressistes et utilisant des hashtags tels que « #DumpTrump » et « #DumpKamala ». Storm-1679 a également exploité au moins un compte Instagram pour diffuser du contenu généré par l’IA, selon OpenAI.
OpenAI a précédemment décrit «acteurs de la menace affiliés à l’État” en utilisant ses outils, mais c’est la première fois qu’il divulgue une campagne d’interférence électorale spécifique utilisant ChatGPT.
OpenAI a déclaré avoir réagi à cette découverte en bannissant un « groupe » de comptes qui ont créé le contenu ; la société a également déclaré avoir « partagé des renseignements sur les menaces avec le gouvernement, les campagnes et les events prenantes de l’industrie ». L’entreprise n’a pas nommé spécifiquement ces events prenantes, mais a partagé des captures d’écran de quelques-unes des publications. Ces captures d’écran présentaient des nombres de vues allant de 8 à 207 vues et pratiquement aucun « j’aime ».
OpenAI a déclaré que Storm-1679 avait également partagé des articles générés par ChatGPT sur plusieurs websites Net qui « se présentaient comme des médias d’info à la fois progressistes et conservateurs ». L’entreprise a ajouté : « La majorité des publications sur les réseaux sociaux que nous avons identifiées ont reçu peu ou pas de mentions « j’aime », de partages ou de commentaires. Nous n’avons pas non plus trouvé d’indications selon lesquelles les articles Net étaient partagés sur les réseaux sociaux. »
Un Rapport du 6 août Microsoft a décrit Storm-2035 de manière similaire, comme un réseau iranien avec « quatre websites Net se faisant passer pour des organes de presse ». Selon Microsoft, le réseau a créé des messages « polarisants » sur les élections, les droits LGBTQIA+, ainsi que l’invasion de Gaza par Israël.
Les rapports sur l’ingérence étrangère en ligne dans les élections américaines sont désormais pratiquement monnaie courante. Le rapport du 6 août de Microsoft, par exemple, détaillait également une attaque de phishing liée à l’Iran qui ciblait un responsable de campagne américain « de haut rang » dont le nom n’a pas été dévoilé. Peu après que Microsoft ait publié le rapport, le La campagne de Trump a annoncé que des « sources étrangères » avaient volé certains de ses e-mails et paperwork dans le however d’influencer l’élection présidentielle de 2024. Huit ans plus tôt, un groupe de pirates informatiques lié à la Russie connu sous le nom de Guccifer 2.0 s’était enfui avec Courriels du Comité nationwide démocrate par un procédé similaire attaque de phishing; ils ont finalement divulgué des milliers de DNC Courriels et des paperwork en vue de la Conference nationale démocrate de 2016.
Sous la pression des marées Les grandes entreprises technologiques ont lancé diverses initiatives au fil des ans en réponse à de tels incidents, en s’appuyant sur les législateurs. Leurs efforts comprennent Vérification des faits sur les mèmes, vœu pieuxun de courte durée publicité politique interdireun “salle de guerre” et des collaborations avec rivaux et flics même.
