Un conseiller politique américain, travaillant pour la campagne d'un démocrate peu connu, a avoué être à l'origine d'appels automatisés trompeurs, utilisant la voix du président américain Joe Biden.
Ces robocalls, générés grâce à l'intelligence artificielle (IA), encourageaient les électeurs à s'abstenir lors des primaires du parti démocrate dans le New Hampshire en janvier. Cette manipulation fait actuellement l'objet d'une enquête pour "tentative illégale de perturber" un scrutin.
Cette révélation a amplifié les inquiétudes des autorités, des experts et des organisations quant à une possible augmentation des manipulations audio ou vidéo à des fins de désinformation pendant la prochaine élection présidentielle américaine et d'autres échéances électorales majeures prévues cette année dans le monde.
Steve Kramer, un consultant travaillant pour Dean Phillips, élu du Minnesota et candidat aux primaires démocrates, a déclaré à NBC News qu'il avait engagé un magicien de la Nouvelle-Orléans, Paul Carpenter, pour imiter la voix de Joe Biden à l'aide d'un outil d'IA.
L'objectif de cette manœuvre était de sensibiliser aux dangers potentiels de l'IA dans le domaine politique. Kramer a expliqué à NBC : "C'est une façon pour moi de faire la différence, et c'est ce que j'ai fait. Pour 500 dollars, j'ai réalisé une opération valant environ 5 millions de dollars, que ce soit en termes d'attention médiatique ou de réaction des autorités."
Le message téléphonique frauduleux, rédigé par Kramer, débutait par "Quel tas de foutaises!", une expression favorite du président. La voix truquée poursuivait en disant : "Il est important que vous gardiez votre vote pour l'élection de novembre. Voter ce mardi ne fait que permettre aux républicains d'élire à nouveau Donald Trump. Votre vote fera la différence en novembre, pas ce mardi."
Kramer a souligné que le robocall avait été réalisé sans le consentement de la campagne de Phillips, et ce dernier a réagi en affirmant : "Je suis content qu'il ait avoué. L'Amérique devrait déjà avoir mis en place des garde-fous pour empêcher des utilisations néfastes de l'IA," dans une déclaration sur X (anciennement Twitter).
Le consultant a reçu une citation à comparaître de la part de la Federal Communications Commission (FCC), le régulateur américain des télécommunications, et s'attend à des poursuites judiciaires. En début de mois, la FCC a décidé d'interdire les appels automatisés utilisant des voix générées par des programmes d'IA pour contrer les arnaques de plus en plus sophistiquées rendues possibles par cette technologie.