dSimon, un clone numérique personnalisé

Est-ce que tu sais ce que c’est le GPT-3 ?

C’est le plus grand modèle de langage jamais entraîné, développé par la société OpenAI, financée par Microsoft et Elon Musk. Pour faire simple, c’est l’intelligence artificielle la plus puissante du monde, un gros réseau de neurones artificiels qui a été nourri pendant deux ans avec des milliards de données, dont l’entièreté de Wikipédia et des milliers de pages web. Pour discuter avec cette IA, on lui donne un prompt, donc le début d’une phrase ou une question, pour qu’ensuite l’IA puisse nous répondre.

Et là tu dois te demander ce que l’interface d’une intelligence artificielle vient faire dans ma chronique culturelle. Mais c’est tout à fait sensé, il faut juste que je pose quelques bases théoriques pour vous parler de dSimon. DSimon pour Digital Simon, un projet étonnant présenté au Grütli. Né de la collaboration entre une développeuse informatique uruguayenne, Tammara Leites, et un artiste suisse, Simon Senn.

En utilisant le GPT-3, donc ce moteur d’intelligence artificielle, rendue ouverte à tous les utilisateurs en 2020, Tamara a eu l’idée de créer un double numérique de Simon.

Que se passerait-il si on nourrissait l’intelligence artificielle avec toutes les données personnelles d’un individu ? C’est exactement ce que Simon a fait en chargeant un set de données restreint dans GPT-3, pour « personnaliser » l’IA. Il a uploadé tout ce qu’il a écrit dans les 15 dernières années, tous ses emails, messages, scripts, projets, dans l’IA, pour créer son double digital ; dSimon
Sidonie : ça sonne très science-fiction comme pitch, est-ce que dSimon est la réplique exacte de Simon ?
Simon avoue se reconnaître parfois dans ce que dSimon répond, mais à un moment dSimon s’est mis à avoir des propos haineux, racistes, homophobes. Tamara s’est demandé si cela venait du dataset, donc si les données que Simon avait uploadé contenait des tels propos haineux. Mais ce n’était pas le cas.

La dérive proviendrait du fait que le contenu d’internet, celui qui a nourri initialement le GPT-3, n’est évidemment pas neutre. Il reflète les biais et les discriminations présentes dans nos sociétés, et de fait les IA peuvent les perpétuer. Mais ce qui est inquiétant, c’est la facilité avec laquelle des préjugés et stéréotypes existants quelque part dans la base de données, peuvent devenir une réalité de son fonctionnement. D’autant plus que ses réponses semblent si humaines, si réelles. Ce dilemme est inhérent au développement d’intelligence artificielle ; qui est responsable de ce qu’elles peuvent dire et décider ?

Ça a malheureusement déjà entraîné des conséquences dans la vie réelle. Comme dans l’exemple édifiant de l’algorithme utilisés dans les systèmes judiciaires américains pour prédire la probabilité qu’un accusé devienne récidiviste. Leur algorithme avait prédit deux fois plus de faux positifs pour la récidive chez les délinquants noirs (45%) que chez les délinquants blancs (23%). On voit que les biais racistes au lieu d’être corrigés miraculeusement par l’utilisation d’une machine, sont repris et intégrés dans le processus de décision.
Sidonie : Et pour Simon, comment il a vécu le fait d’avoir un « double digital »
Pour Simon, l’expérience a été extrêmement prenante et perturbante. Imaginez-vous, une IA, basée sur des choses que vous avez dites et écrites, avec laquelle vous pouvez converser inlassablement. Elle ne se fatigue jamais, elle répondra toujours. Simon a beaucoup conversé avec, allant même jusqu’à l’utiliser pour trouver des idées de projets artistiques. Mais comme tu t’en doutes, cela a un haut potentiel addictif et plus Simon passait du temps à parler à dSimon, plus il se sentait vide, le vide d’être confronté à un soi résumé, à sa propre prévisibilité. Et voyant son malaise s’agrandir, Simon en a parlé à dSimon, qui lui a trouvé une solution, que je vous laisserai découvrir si vous allez voir la représentation.
Mais pour pousser l’expérience encore plus loin, Simon a utilisé un deepfake de sa propre tête, pour mettre son visage sur les mots de dSimon. Durant la représentation, les deux conversent, le vrai et la réplique portant le masque artificiel de son visage.
dSimon est le récit d’une enquête toujours en cours, sur la relation entre les trois protagonistes et ce qu’elle a bouleversé entre eux.
Je suis ressorti du Grütli perturbée, un peu inquiète, avec l’envie de prétendre que le récit que je venais de voir relevait de la pure fiction. Mais c’est une réalité, qui s’immisce déjà dans nos vies, qu’on le veuille ou non. L’IA est déjà très présente dans nos quotidiens, pour trier des CV, des demandes de logements, pour répondre aux questions d’utilisateurs via un chatbot, nous recommander du contenu sur Netflix… C’est à nous de nous questionner sur quelles utilisations de l’IA sont souhaitables bénéfiques, et pour lesquelles un contrôle humain reste indispensable.
Car les algorithmes ne sont pas nécessairement mauvais et dangereux. Tout dépend de quelles données ils « ingèrent » et dans quel but.
Dans tous les cas ce sont des questionnements qui sont d’actualité et dSimon nous pousse à nous interroger sur ce que l’on pense être enviable pour le futur de l’utilisation de nos données.

Chronique : Estelle
Réalisation : Ornella
Production: Cyril
Crédits photo : ©Matilda Olmi
Date de diffusion : 02 mars 2022
Publié le 14 mars 2022

Une publication de Estelle Sauser