Le régulateur américain des télécoms (FCC) a décidé d’interdire les appels automatisés effectués avec des voix générées par un programme d’intelligence artificielle (IA), afin de lutter contre les arnaques de plus en plus sophistiquées que permet cette technologie.
«Des acteurs malveillants utilisent des voix générées par l’IA dans des appels téléphoniques non sollicités pour extorquer des membres vulnérables de la famille, imiter des célébrités et désinformer les électeurs. Nous mettons en garde les fraudeurs qui se cachent derrière ces appels téléphoniques», a déclaré Jessica Rosenworcel, présidente de la FCC citée dans un communiqué de l’agence fédérale. La FCC précise que sa décision, qui prend effet immédiatement, rend illégale les technologies de clonage de la voix utilisées dans ces appels automatisés ou «robocalls», visant à escroquer les consommateurs.
L’explosion depuis un an de l’IA générative, qui permet de générer des contenus (textes, images, sons) sur simple requête en langage courant, suscite des inquiétudes majeures et diverses tentatives de régulation.
«L’augmentation de ce type d’appels s’est accélérée au cours des dernières années, car cette technologie permet désormais de tromper les consommateurs avec des informations erronées en imitant les voix de célébrités, de candidats politiques et de membres de la famille proche», note la FCC. Récemment, des appels truqués usurpant la voix du président Joe Biden, conçus pour inciter les habitants du New Hampshire à ne pas aller voter lors de la primaire démocrate, ont marqué les esprits. Une enquête sur une potentielle «tentative illégale de perturber» le scrutin est en cours. En octobre, le chef d’Etat a signé un décret pour mieux encadrer l’IA, en termes de sécurité, d’équité ou encore d’impact sur le marché du travail. Le texte recommande notamment le développement d’outils pour identifier facilement les contenus produits avec de l’IA.
Le démocrate de 80 ans avait à cette occasion, mentionné avoir vu une vidéo de lui créer de toutes pièces avec de l’IA (deepfake). «Je me suis demandé quand est-ce que j’ai bien pu dire ça ?», avait raconté Joe Biden, s’émouvant au sujet de l’utilisation de l’IA pour arnaquer des personnes en se faisant passer pour des membres de leur famille. «Les procureurs généraux des Etats disposeront désormais de nouveaux outils pour réprimer ces escroqueries et veiller à ce que le public soit protégé contre la fraude et la désinformation», s’est félicitée Jessica Rosenworcel.