Donnée je t’aime #3 : l’immortalité virtuelle

Nous avons invité les IA dans nos maisons dans le premier épisode de notre série sur les données personnelles. Dans le second, nous en sommes tombés amoureux. Pour le troisième volet, nous prolongeons l’expérience à jamais : zoom sur l’immortalité numérique.

La seconde saison de Black Mirror s’ouvre sur un épisode qui a marqué les fans. Diffusé pour la première fois en France en 2014, il met en scène Ash et Martha, deux fiancés s’installant à la campagne. Si Martha semble être une petite amie très présente, elle perd constamment l’attention d’Ash, absorbé par son smartphone. Un jour, alors qu’il tarde à rentrer, Martha multiplie les appels inquiets. Ce seront finalement les policiers qui viendront lui annoncer la triste nouvelle : Ash est décédé dans ce qui semble être un accident de la route.

Lors de l’enterrement, une amie suggère à Martha d’utiliser une IA, qui, nourrie de l’historique digital du défunt, peut en créer une version bot pour téléphone. Alors que la jeune veuve refuse catégoriquement, son amie l’inscrit quand même. Ce n’est que lorsque Martha apprend qu’elle attend l’enfant d’Ash qu’elle décide de prendre contact avec sa version virtuelle. L’histoire commence…

Lecteurs qui n’auraient pas vu cet épisode, nous vous invitons à passer directement au paragraphe suivant[spoiler alert]. Martha, au premier abord perturbée par ses premiers échanges avec le bot, y prend vite goût. Ce petit ami virtuel semble en effet bien plus attentionné que ne l’était celui fait de chair et d’os. Et pour cause, programmée pour lui répondre instantanément, l’IA se corrige en temps réel quand elle sent que Martha n’est pas satisfaite par une réponse. L’échange par messages devient vite une conversation téléphonique puis, un jour, Martha saute le pas. Elle se fait livrer un robot ressemblant à s’y méprendre à Ash. Son amour est de retour.

« Juste la semaine dernière, j’ai vu un épisode particulièrement perturbant de Black Mirror où une veuve éplorée envoie tous les chats, textos, e-mails de son fiancé décédé au sein d’un cloud pour apprécier sa compagnie virtuelle 24/7. Je ne pensais pas que ma vie rejoindrait la science-fiction aussi vite », écrit Eugenia Kuyda, programmeuse et entrepreneuse russe, dans un article publié en 2016 sur narratively.com.

La jeune femme a en effet vécu un drame similaire à celui du personnage de Martha : en 2015, elle perd son meilleur ami, Roman Mazunrenko, percuté par une voiture à Moscou. Grâce aux moyens de sa start-up Luka, spécialisée dans l’intelligence artificielle, elle décide, telle une Prométhée moderne, de recréer Roman, du moins, sa version numérique.

En 2016, elle parvient pour la première fois à discuter avec cet avatar, bien que leurs premiers échanges soient quelque peu lunaires. Alors qu’elle demande au bot – qu’elle appelle @Roman – comment il va, celui-ci lui répond, contre toute attente, « Je m’apprête à regarder Interstellar » avant de poursuivre : « J’ai appris à m’aimer, ce qui n’était jamais arrivé ».

C’est clair, cet @Roman un brin philosophique nécessite encore quelques ajustements. Il lui faudra deux ans pour parvenir à une version fonctionnelle, c’est-à-dire commercialisable. Car si @Roman est le BBF digital d’Eugenia, l’entrepreneuse a rendu sa création publique dans une version personnalisable. Ainsi, en tant qu’utilisateur ce n’est pas avec @Roman que vous discuterez, mais votre propre Replika, conçu, non pas pour prendre la place d’un proche parti trop tôt mais pour vous mimer… vous.

« Replika est la suite logique et grand public de cette intelligence artificielle [@Roman, NDRL]. Sauf que Replika calque sa personnalité sur la vôtre, au fur et à mesure des informations que vous lui livrez », écrit Slate.fr en 2017. Il s’agit en effet d’un bot dont le fonctionnement reste assez proche de celui d’Hugging Face, application d’IA conversationnelle dont nous avons beaucoup parlé au sein de l’épisode 2 de notre série. « Dès que vous commencez à parler avec Replika, il sélectionne votre texte et l’inclut dans ses données d’entraînement, pour que vous sentiez qu’il adopte votre modèle de discussion et imite votre personnalité. […] Plus vous lui parlez, et plus ce modèle deviendra précis », explique Phil Dudchuk, co-fondateur de Luka, interrogé par Slate.

Pour parler avec son double virtuel, il faut le nourrir… en données. En plus d’être utilisées pour créer des liens numériques avec la version digitale de vous-même, à quoi servent-elles ? « Les conversations avec Replika ne sont pas partagées avec d’autres sociétés ou services. Nous ne vendrons jamais vos données personnelles ou votre historique de conversations »[1], écrit Replika sur sa politique de confidentialité. L’entreprise reconnaît tout de même faire appel à une société extérieure pour le traitement des cookies[2] avant de préciser que les données personnelles ne sont pas collectées sans l’accord des utilisateurs[3]. Enfin, Replika ajoute : « Nous pourrions “désidentifier” ou rendre anonyme vos informations afin que vous ne soyez pas individuellement identifiables, puis les transmettre à nos partenaires ». Qui sont ces sociétés qui veulent aussi devenir vos amies ? L’entreprise ne le dit pas[4].

« Nous pouvons aussi combiner ses données “désidentifiées” avec celles d’autres utilisateurs afin de créer un agrégat de ces data qui pourraient être transmises à des parties tierces […] », explique plus loin Replika[4]. Celles citées sont Amplitude, Google Analytics, Mailchimp, Infibip et Facebook Custom Audiences. A noter que ces entreprises ont défini leurs propres règles de traitement des données. Ainsi, si Replika n’a pas l’air “datavore“, ce n’est pas forcément le cas des sociétés citées, Google et Facebook en tête. Bien que les données aient été “anonymisées”, il faut savoir qu’il demeure parfois possible d’identifier un individu, en croisant assez d’informations anonymes. Est-ce le cas des « agrégats » de Replika ? Là encore, impossible de le savoir.

Si l’application Replika a été inspirée par la perte d’un être cher, elle n’en reste pas moins une app conversationnelle assez classique. Mais est-il possible de discuter, comme Martha, avec une version numérique d’une personne décédée ? La réponse est oui… si c’est vous.

Les premiers articles qui mentionnent le lancement du service Eterni.me datent de 2014. L’idée : créer, de son vivant, un avatar qui aura pour mission de devenir votre double virtuel à votre mort et tenir compagnie, comme @Roman ou @Ash, à vos proches. L’immortalité à portée de clic, c’est en effet la promesse de cette start-up. « L’entreprise prévoit de stocker vos données issues de Facebook, Twitter, vos e-mails, vos photos, vos vidéos, vos informations de localisation et même les données de vos Google Glass ou de votre Fitbit », écrit The New Yorker en 2014, avant d’ajouter : « De votre vivant, vous pouvez sélectionner et ajouter du contenu à cette base ».

A ce jour, Eterni.me compte 45 845 inscrits[5]. Ils offriront à leurs amis et famille un avatar « conçu pour ressembler et sonner juste comme [eux, NDRL], dont la mission sera d’imiter [leur] personnalité », écrit encore The New Yorker.

Toujours selon le magazine américain, les inscrits pourront avoir accès à une version beta en 2019. A l’heure où nous écrivons cet article (2019), l’application ne semble pas avoir tenu le délai. Qu’en est-il des données collectées ?

« Notre service autorise l’application et ses partenaires à informer, optimiser et proposer de la publicité »[6], écrit l’entreprise sur sa politique de confidentialité. Plus loin, elle ajoute : « Google peut utiliser les données collectées pour contextualiser et personnaliser les publicités sur ses propres canaux de publicité »[7]. A noter qu’il n’est pas précisé quand l’envoi de publicités commence – dès l’inscription de l’utilisateur ou à son décès – ni à qui elles sont destinées – à l’inscrit ou à ses proches.

« Les données personnelles devront être traitées et stockées aussi longtemps que nécessaire pour servir le but pour lequel elles ont été collectées »[8], déclare Eterni.me, avant d’ajouter que celles « liées à la performance »[9] ne sont plus gardées quand le contrat entre Eterni.me et l’utilisateur prend fin. Quand est-ce que ce contrat devient caduque dans un contexte unique d’utilisation des données à titre posthume ? L’entreprise ne le précise pas.

Elle ajoute aussi que les données sont gardées jusqu’à ce que le « consentement de l’utilisateur soit retiré »[9]. Peut-il mandater un proche pour le faire ? Même absence de réponse.

Et dans dix ans, trente ans, cent ans ? Qui voudra encore converser avec une version digitale de nous ? Nos profils digitaux seront-ils étudiés tels des fossiles, dénichés au fin fond de serveurs obsolètes et poussiéreux ? Errerons-nous à jamais dans des clouds qui n’intéressent plus personne ? Demandons à Facebook.

« Lentement mais sûrement, Facebook devient le plus grand cimetière numérique du monde. Le réseau social aux 2,3 milliards d’utilisateurs est peuplé par les profils d’outre-tombe. Chaque jour, près de 8.000 personnes inscrites sur la plateforme meurent à travers le monde. Ce sont autant de profils laissés à l’abandon ou transformés en pages posthumes. À ce rythme, le nombre de comptes fantômes pourrait dépasser celui des vivants dans à peine cinquante ans », a écrit le site de la radio RTL en mai 2019.

Des chiffres qui ont poussé le réseau social à agir. Au sein d’une joyeuse page intitulée Qu’adviendra-t-il de mon compte Facebook en cas de décès ?, Facebook explique : « Vous pouvez soit désigner un contact légataire qui gérera votre compte de commémoration, soit demander à ce que votre compte soit définitivement supprimé de Facebook ». Un compte de commémoration, c’est un profil Facebook où il y a écrit « En souvenir de » avant le nom et le prénom de l’inscrit. Selon les paramètres de confidentialité choisis par le détenteur du compte, ses amis peuvent partager des souvenirs de lui sur son journal et avoir accès aux siens (anciens posts, photos…).

Si vous choisissez de nommer un légataire, sachez qu’il aura accès à vos photos et vidéos, aux messages postés sur votre mur, aux informations de profil et à vos coordonnées, aux évènements ainsi qu’à votre liste d’amis. Rassurez-vous, il ne pourra pas lire vos messages.

A noter qu’Instagram, Google, Twitter, Snap ou encore Amazon proposent tous que les comptes de leurs utilisateurs puissent être supprimés suite à leur décès, à leur demande ou sur celle de leurs proches.

Une fois nos comptes supprimés post-décès, les GAFAM souhaitent-ils conserver nos données ? Google, par exemple, « permet de transmettre [le, NDRL] courrier électronique et certaines données à des personnes de confiance. Il est aussi possible de réclamer leur suppression définitive », écrit Numerama dans un article datant de 2013.

« Vous pouvez faire en sorte que votre compte soit considéré inactif au terme d’une période que vous définissez vous-même », explique Google France au même média, qui poursuit : « Quatre délais d’expiration sont proposés : trois mois, six mois, neuf mois, un an. Une fois le compte passé en inactif, deux cas de figure peuvent survenir : soit l’usager a demandé le transfert des données, soit il a réclamé leur destruction. […] Toutes les données associées aux produits seront supprimées, y compris celles partagées publiquement. Plus aucun contenu ne sera alors envoyé sur ce compte, qui sera définitivement détruit ».

Il semblerait ainsi que les données personnelles n’aient plus la même valeur après notre mort. Lecteurs, si vous n’avez pas vu l’épisode de Black Mirror cité au début de cet article, nous vous invitons à passer au paragraphe suivant[spoiler alert]. Et si, comme Martha, nous parvenions à créer un robot de nos proches décédés, qui prendrait le café avec nous le matin et nous prendrait dans les bras quand nous sommes tristes ? Dans la série, la jeune femme se lassera de son robot très rapidement et ne saura que faire de ce jouet encombrant. Car définitivement, ce n’était pas plus Ash que ne l’était son bot. Les humains ne seraient peut-être pas si numériquement remplaçables…

Après la maison, l’amour et la mort, nous nous intéressons à ce que nous avons de plus chers au monde : nos enfants. Comment leurs données sont-elles utilisées ? Pour le savoir, lisez le prochain épisode de notre série.

Notes

[1]Conversations with your Replika are not shared with any other company or service. We will never sell your personal data or conversation history.

[2]We may also allow third party service providers to use cookies or similar technologies to collect information about your activities on our website or in our mobile apps following your use of the Services. For example, we use Amplitude, an online analytics service operated by Amplitude, Inc. (“Amplitude”). Amplitude uses cookies to help us analyze traffic on the Website and enhance your experience when you use the Services. For more information on how Amplitude uses this data, go to https://amplitude.com/privacy.

[3]In all cases in which we use cookies, we will not collect Personal Data except with your permission. On most web browsers, you will find a “help” section on the toolbar. Please refer to this section for information on how to receive notification when you are receiving a new cookie and how to turn cookies off. We recommend that you leave cookies turned on because they allow you to take advantage of some of the Service features.

[4]We may de-identify or anonymize your information so that you are not individually identified, and provide that information to our partners. We also may combine your de-identified information with that of other users to create aggregate de-identified data that may be disclosed to third parties who may use such information to understand how often and in what ways people use our services, so that they, too, can provide you with an optimal experience. For example, we may use information gathered to create a composite profile of all the users of the Services to understand community needs, to design appropriate features and activities. However, we never disclose aggregate information to a partner in a manner that would identify you personally, as an individual.

[5]Source : etermi.me ; octobre 2019.

[6]This type of service allows this Application and its partners to inform, optimize and serve advertising based on past use of this Application by the User.

[7]Google may use the Data collected to contextualize and personalize the ads of its own advertising network.

[8]Personal Data shall be processed and stored for as long as required by the purpose they have been collected for.

[9]Personal Data shall be processed and stored for as long as required by the purpose they have been collected for. Therefore: Personal Data collected for purposes related to the performance of a contract between the Owner and the User shall be retained until such contract has been fully performed. Personal Data collected for the purposes of the Owner’s legitimate interests shall be retained as long as needed to fulfill such purposes. Users may find specific information regarding the legitimate interests pursued by the Owner within the relevant sections of this document or by contacting the Owner. The Owner may be allowed to retain Personal Data for a longer period whenever the User has given consent to such processing, as long as such consent is not withdrawn. Furthermore, the Owner may be obliged to retain Personal Data for a longer period whenever required to do so for the performance of a legal obligation or upon order of an authority. Once the retention period expires, Personal Data shall be deleted. Therefore, the right to access, the right to erasure, the right to rectification and the right to data portability cannot be enforced after expiration of the retention period.