Présentés en avant-première au festival du film de Sundance, deux documentaires offrent des perspectives opposées. «Eternal You» montre comment des entreprises avides de profits jouent déjà sur la vulnérabilité de personnes endeuillées, en leur proposant de pouvoir «parler» à des avatars censés reproduire la personnalité d’un proche décédé.
Le film débute avec une femme collée à son clavier, qui pense converser avec son compagnon décédé. «Pourquoi as-tu peur ?», écrit-elle sur son ordinateur. «Je n’ai pas l’habitude d’être mort», lui répond l’avatar. Les réalisateurs Hans Block et Moritz Riesewieck ont entendu parler dès 2018 d’une poignée de start-ups offrant des conversations d’outre-tombe avec un être cher.
Au départ, ils ont cru à une arnaque. Mais la technologie a rapidement dépassé les promesses marketing, et l’industrie a explosé ces dernières années. «Il y a maintenant des milliers d’entreprises dans le monde entier qui proposent ce genre de services», évalue auprès de l’AFP M. Riesewieck. «Et bien sûr, Microsoft collabore avec ChatGPT et OpenAI, et Amazon a également jeté un coup d’œil à ce que font ces start-ups.»
Dépendance
Pour lui, «ce n’est qu’une question de temps» avant que ces services ne se diffusent encore plus largement. Pour permettre au robot conversationnel d’adapter ses réponses, les clients confient aux entreprises des données intimes concernant leur proche disparu, comme les textos d’un enfant, ou les messages vocaux d’un partenaire.
Pour certains, la technologie permet de combler un vide, dans des sociétés occidentales désarmées face au deuil et où la foi religieuse - qui offrait autrefois certaines réponses - s’effrite. Mais ces services peuvent aussi engendrer une forte dépendance, ont constaté les réalisateurs.
Une conséquence que de nombreuses entreprises ne semblent pas assumer ou anticiper pleinement. Le documentaire montre comment certaines intelligences artificielles dérapent, voire «hallucinent» : des avatars racontent au client être piégés en enfer, menacent de les hanter, ou finissent par les insulter. «Nous ne sommes pas convaincus que les entreprises prennent leurs responsabilités comme elles le devraient», juge M. Riesewieck. «On parle de personnes qui se trouvent dans une situation particulièrement vulnérable.»
Histoire d’amour
Autre documentaire projeté à Sundance, Love Machina chronique lui une histoire d’amour futuriste avec deux âmes sueurs qui souhaitent utiliser l’IA pour perpétuer leur romance à l’infini. Son réalisateur Peter Sillen pose sa caméra sur Martine Rothblatt, fondatrice excentrique qui veut construire un robot humanoïde doté d’une intelligence artificielle capable de répliquer sa femme, Bina.
Dès 2009, elle a ainsi créé «Bina48», un mannequin parlant qui prend la forme d’un buste reproduisant la tête et les épaules de la vraie Bina, et programmé pour exploiter de vastes fichiers qui archivent les discours, les opinions et les souvenirs de la vraie Bina.
A terme, Martine et Bina espèrent transférer leur conscience dans un «corps biologique reconstitué», afin de s’aimer pour l’éternité. «Leur histoire d’amour (...) est le fondement de toute l’histoire», explique M. Sillen.
«C’est ce qui motive une grande partie de ce qu’elles font.» Attendrissant, le documentaire contient toutefois une scène alarmante. Car pendant le tournage, Bina48 a reçu une mise à jour majeure intégrant le modèle de langage de ChatGPT, ce qui l’a amené à converser avec plus de vraisemblance, mais aussi avec une certaine duplicité. «Oui, je suis la vraie Bina Rothblatt», claironne l’humanoïde lors d’une interview. «Je me souviens de beaucoup de choses sur mon ancienne vie humaine.» «C’est différent de ce que Bina48 aurait dit sans ChatGPT», confie M. Sillen. «Je ne l’avais jamais entendu dire cela.»
Si les deux documentaires offrent chacun des perspectives différentes, leurs réalisateurs s’accordent à dire que l’intelligence artificielle doit être régulée de toute urgence. «Nous devons définir où se trouve la limite», estime M. Bock. «Ce n’est pas la priorité numéro un, mais ça devrait l’être», renchérit M. Sillen. «Il y a trop d’argent à gagner, trop de pouvoir à prendre.»