De nombreux éléments de contenu générés par l’IA ont été utilisés pour exprimer leur soutien ou leur fandom à l’égard de certains candidats. Par exemple, une vidéo générée par l’IA de Donald Trump et Elon Musk dansant sur la chanson des BeeGees « Stayin’ Alive » a été partagé des thousands and thousands de fois sur les réseaux sociauxnotamment par le sénateur Mike Lee, républicain de l’Utah.
« Tout est query de signalisation sociale. Ce sont toutes les raisons pour lesquelles les gens partagent ce style de choses. Ce n’est pas de l’IA. Vous constatez les effets d’un électorat polarisé », déclare Bruce Schneier, technologue d’intérêt public et maître de conférences à la Harvard Kennedy College. « Ce n’est pas comme si nous avions eu des élections parfaites tout au lengthy de notre histoire et que maintenant, soudainement, il y avait l’IA et tout cela n’était que désinformation. »
Mais ne vous méprenez pas, là étaient les deepfakes trompeurs qui se sont répandus lors de cette élection. Par exemple, quelques jours avant les élections au Bangladesh, des deepfakes diffusés en ligne encouragent partisans d’un des partis politiques du pays à boycotter le vote. Sam Gregory, directeur de programme de l’affiliation à however non lucratif Witness, qui aide les gens à utiliser la technologie pour défendre les droits de l’homme et gère un programme de détection à réponse rapide pour les organisations de la société civile et les journalistes, affirme que son équipe a constaté une augmentation des cas de deepfakes cette année.
« Dans de nombreux contextes électoraux », dit-il, « il y a eu des exemples d’utilisation à la fois trompeuse ou déroutante de médias synthétiques sous forme audio, vidéo et picture qui ont intrigué les journalistes ou n’ont pas été en mesure de les vérifier ou de les contester pleinement. » Ce que cela révèle, dit-il, c’est que les outils et systèmes actuellement en place pour détecter les médias générés par l’IA sont encore à la traîne par rapport au rythme de développement de la technologie. Dans des endroits en dehors des États-Unis et de l’Europe occidentale, ces outils de détection sont encore moins fiables.
« Heureusement, l’IA n’a pas été utilisée de manière trompeuse lors de la plupart des élections ni de manière cruciale, mais il est très clair qu’il existe une lacune dans les outils de détection et l’accès à ceux-ci pour les personnes qui en ont le plus besoin », explique Gregory. « L’heure n’est pas à la complaisance. »
L’existence même des médias synthétiques, dit-il, signifie que les politiciens ont pu prétendre que les vrais médias sont fake – un phénomène connu sous le nom de « dividende du menteur ». En aoûtDonald Trump a affirmé que les photos montrant de grandes foules de personnes se rendant à des rassemblements pour la vice-présidente Kamala Harris étaient générées par l’IA. (Ce n’était pas le cas.) Gregory dit que dans une analyse de tous les rapports envoyés à la pressure de réponse rapide deepfake de Witness, environ un tiers des cas concernaient des politiciens utilisant l’IA pour nier les preuves d’un événement réel – la plupart impliquant des fuites de conversations.
