La plateforme de diffusion de vidéos YouTube a annoncé mardi la possibilité prochainement de demander le retrait d’impostures générées par intelligence artificielle, ajoutant que les vidéos devront également bientôt préciser lorsqu’elles ont ce type de contenu.
Ces nouvelles règles doivent entrer en vigueur dans les prochains mois sur fond de craintes que des vidéos contenant des éléments générés par de l’intelligence artificielle ne servent à de la manipulation électorale, à des arnaques ou à mettre des personnes dans de fausses situations (films pornographiques, par exemple). «Nous allons rendre possible de demander le retrait de contenus générés par de l’intelligence artificielle ou d’autres contenus manipulés pour simuler une personne identifiable, y compris son visage et sa voix», ont indiqué Emily Moxley et Jennifer Flannery O’Connor, vice-présidentes chargées de la gestion des produits, dans un blog. Les critères pris en compte pour demander un retrait porteront notamment sur la différenciation entre parodies et vidéos montrant des personnes réelles pouvant être identifiées, a indiqué la plateforme détenue par Alphabet. Elle va également demander aux créateurs d’indiquer clairement lorsque du contenu réaliste a été créé grâce à de l’intelligence artificielle afin que les personnes qui le visionnent soient prévenues à l’aide d’un affichage spécifique. «Il pourrait s’agir d’une vidéo créée par intelligence artificielle qui présente de manière réaliste un évènement qui ne s’est jamais produit ou du contenu montrant quelqu’un disant ou faisant quelque chose qu’il n’a pas dit ou fait», ont ajouté les deux responsables.
«C’est tout particulièrement important dans les cas où le contenu aborde des sujets sensibles comme des élections, des conflits, des crises de santé publique ou des personnalités», ont-elles relevé. En cas de non conformité à ces règles, le contenu sera retiré de YouTube ou suspendu du programme de partage des revenus publicitaires.
YouTube compte également permettre à l’industrie musicale de demander le retrait de contenus créés pour copier le style d’un artiste. Meta (Facebook, Instagram) a annoncé le 8 novembre qu’il allait obliger à partir de 2024 les campagnes politiques à être transparentes sur l’utilisation de l’IA dans les publicités. «Les annonceurs devront divulguer chaque fois qu’une pub électorale, politique ou sur des sujets de société contient une image ou une vidéo photoréaliste, ou un son audio réaliste, qui a été créé ou modifié numériquement pour représenter une personne réelle comme disant ou faisant quelque chose qu’elle n’a pas dit ou fait», a-t-il expliqué.Les utilisateurs des plateformes de Meta seront informés de la présence de tels contenus.