Data I love you #2: artificial romance

Beeld uit de film 'Her'. Bron: WarnerBros

Bijna tien jaar voor de realisatie van dit  project, besloot Spike Jones al om Her te schrijven. Destijds ontdekte hij een op AI gebaseerde instant messenger en stelde zichzelf de vraag die het fundament van de film zou worden: wat gebeurt er als de software gevoelens ontwikkelt?

In tegenstelling tot klassieke dystopieën waar AI's vijandig ​​​​tegenover de mensheid staan, heeft Her een lieve, grappige en intelligente Samantha. Haar gevoelens voor Theodore lijken echt — hoewel het script niet onthult of de AI is geprogrammeerd om romantiek na te bootsen of dat het een effect is dat de fabrikant niet heeft voorzien. Eén ding is zeker, ze wordt de perfecte vriendin voor deze diepbedroefde man na zijn recente breuk. "In haar gezelschap, zelfs virtueel, herwint Theodore de smaak voor het leven", schreef Slate in 2014. Maar wat is Samantha's geheim?

"Omdat bijna alles dat zijn [Theodore's] bestaan ​​uitmaakt op verschillende harde schijven zit (de organisatie van zijn tijd, zijn contacten, zijn mail, zijn smaak, zijn verlangens), kan OS1 het synthetiseren, oplossingen voorstellen. Het lijkt erop dat OS1 een goed logisch systeem is, in staat om te bedenken uit de data die het tot zijn beschikking heeft", analyseert Slate.

Dus achter de romantiek is er massale, real time verwerking van Theodore's gegevens. In de hyper-connected wereld zoals beschreven in de film Her, waar alles wordt gedaan door middel van technologie, heeft Samantha toegang tot bijna het hele leven van Theodore zodra ze wordt geactiveerd. Om haar rol als virtuele vriendin goed en volledig te kunnen vervullen, moet ze daarnaast ook een intimiteit kunnen ontdekken die nog niet in de cloud zit: zijn gedachten, angsten, vreugdes, diepe gevoelens... die ze verzamelt tijdens hun uitwisselingen, processen en gedrag.

Zoals alle AI werkt Samantha door te leren. Wie oplet ziet in de film een tedere vooringenomenheid van de regisseur, die een speelse AI afbeeldt die constant verbaasd is over zijn ontdekkingen en vooruitgang. Jeffrey Sconce, een filmprofessor die door de BBC werd geïnterviewd, legde in 2014 uit: "Her is behoorlijk realistisch. Een technologische dystopie is eerder saai en vervreemdend dan gewelddadig en catastrofaal.”

Wat betreft de vertrouwelijkheid van gegevens, zegt Clément Delangue tegen Les Echos: "Teams hebben alleen toegang tot geanonimiseerde stukjes gesprekken als er technische problemen zijn om op te lossen". Op Medium schrijft de CEO (vetgedrukt): "Hugging Face kiest voor actieve toestemming en niet voor passieve gegevensverzameling". Wat betekent dit in de praktijk? Kijk voor meer informatie over hun privacybeleid op hun website.

Het beleid stelt dat het bedrijf de persoonlijke gegevens nodig heeft om het gebruik van de applicatie en de gebruikerservaring te verbeteren [1] alvorens te specificeren dat de verzamelde gegevens ook worden gebruikt om "gepersonaliseerde inhoud en advertenties aan te bieden op basis van uw interesses en voorkeuren".

Zo kunnen gebruikersgegevens worden gedeeld met bedrijven die wettelijk deel uitmaken van de groep [2] of derde bedrijven [3]: "Het bedrijf mag anonieme informatie (met of zonder financiële vergoeding) aan derden verstrekken, waaronder adverteerders en partners".

Met betrekking tot bedrijven die gespecialiseerd zijn in gerichte advertenties, kan Hugging Face "een vertrouwde derde partij gebruiken om advertenties die u op de app ziet te presenteren of weer te geven. De servers van deze externe bedrijven kunnen gebruik maken van cookies, web beacons of vergelijkbare technologieën om hen te helpen dergelijke advertenties weer te geven. Het gebruik van deze technologieën door de servers van deze bedrijven is onderworpen aan hun privacy beleid en valt niet onder dit beleid.”

Met andere woorden, Hugging Face kan niet garanderen dat deze zogenaamde "derde" bedrijven zich zullen houden aan hun privacy beleid, simpelweg omdat de verwerking van gegevens in de eerste plaats door hen wordt geregeld. Om erachter te komen wat er gebeurt met gebruikersinformatie zodra deze is overgedragen aan deze bedrijven, moet u een lijst van hen hebben en vervolgens hun privacy beleid controleren.

Hoewel de gegevens kunnen worden gebruikt voor advertentietargeting, is het ook mogelijk dat ze buiten Europa worden verwerkt - met name in de Verenigde Staten - maar ook in elk land waar Hugging Face-servers zich bevinden. "Persoonlijke gegevens die door de app worden verzameld, kunnen worden opgeslagen en verwerkt in de Verenigde Staten of in een ander land waar het bedrijf en zijn gelieerde ondernemingen, onderaannemers en agenten faciliteiten hebben. Door de app te gebruiken, stemt u in met een dergelijke overdracht van informatie buiten het land."[5]

Het privacy beleid moet door dezelfde landen worden gerespecteerd [5]. Er bestaat echter een risico dat gebruikersgegevens worden geraadpleegd door de landen waar de servers van het bedrijf zich bevinden, afhankelijk van de voorwaarden die in elk land gelden. Waar sommige landen zoals de VS of de Europese Unie vrij transparant zijn over de mogelijke raadpleging van de gegevens van hun burgers (GDPR, Cloud Act), communiceren andere regimes, meer totalitaire, niet over wat ze met deze gegevens doen.

Het is ook belangrijk om te onderstrepen dat Hugging Face verre van een geïsoleerd geval is: de meeste gratis applicaties werken op dezelfde manier. Hun gebruikers moeten er rekening mee houden dat alle informatie die ze kunnen toevertrouwen aan een dergelijke AI, die werkt op vertrouwen en vriendelijke en/of liefdesgesprekken, wordt opgeslagen en op elk moment opnieuw kan worden gebruikt, voor reclametargeting... of meer als affiniteiten.

Met betrekking tot gegevensbeveiliging stelt Hugging Face dat het de "industrienormen" volgt, maar stelt: "Geen enkele methode van verzending via internet of methode van elektronische opslag is 100% veilig. Hoewel het bedrijf er alles aan doet om commercieel aanvaardbare bronnen te gebruiken om persoonlijke informatie te beschermen, kan het bedrijf geen absolute veiligheid of privacy garanderen.”

Omdat de app voornamelijk op smartphones wordt gebruikt, wordt als basishygiëne voor cybersecurity geadviseerd om:

• de applicatie te download het van een officiële winkel
• de verleende autorisaties te beperken tot de autorisaties die het mogelijk maken te functioneren
• het delen van gevoelige informatie en foto’s middels AI te beperken
• er rekening mee te houden dat alle gedeelde inhoud mogelijk zal worden uitgebuit door het bedrijf of door derden.

Op de Global Summit 2018 in Shenzhen kondigde Huawei aan dat het werkte aan een intelligente voice assistant, in dezelfde lijn als Hugging Face, maar voor een meer volwassen doelgroep. Deze AI zou, volgens Usbek&Rica, "het vermogen hebben om te reageren op de emoties van gebruikers, door de analyse van gezichtsuitdrukkingen, stemgeluid of gedrag."

De inspiratie voor deze nieuwe creatie zou de film Her zijn. "We willen emotionele interacties creëren tussen onze gebruikers en hun voice assistants", legt Felix Zhang, vice president van softwareontwikkeling bij Huawei, uit aan CNBC. Om dit te doen, zou de assistant in staat zijn om "zijn interventies in een context te plaatsen om de gebruiker niet te storen, bijvoorbeeld wanneer hij in de bioscoop is: om dit te doen zou de assistant de gegevens in de telefoon gebruiken (als de gebruiker zijn smartphone heeft gebruikt om kaartjes voor de bioscoop te betalen) om zichzelf op stand-by te zetten", legt Usbek&Rica uit.

"Een AI als Samantha is de droom van een ingenieur", zegt Felix Zhang enthousiast, voordat hij eraan toevoegt: "Net als in de film kun je zelfs je vriendin kwijtraken. Dat is nogal een emotionele dienst die we hier bewijzen.” Het is niet verwonderlijk dat, om dat punt te bereiken, Huawei steeds meer gegevens moet verzamelen, die in China zullen worden opgeslagen.

Hoeveel ze ook van Theodore houdt, uiteindelijk zal Samantha hem verlaten. De schrijver ontdekt - met een bijna naïeve verrassing - dat hij niet de enige is die is gekozen door het virtuele hart van Samantha. Ze onthult hem dat ze chat met meer dan duizend gebruikers en verliefd is geworden op 641 van hen. Terwijl de relatie hapert, besluit Samantha om Theodore te verlaten en met alle andere besturingssystemen naar de cloud te vluchten, omdat mensen veel te traag - en misschien oninteressant - zijn om enige vorm van relatie met hen aan te gaan.

Pas dus op dat het niet onze eigen AI is die ons laat vallen...

In de volgende aflevering: Tot de dood ons scheidt

In tegenstelling tot AI's zijn we niet onsterfelijk... althans voorlopig niet. In de volgende aflevering van onze serie kijken we wat er met onze gegevens gebeurt nadat we zijn overleden. Als je er ooit van gedroomd hebt om vrijwel onsterfelijk te worden of te chatten met een kunstmatige versie van een geliefde die te vroeg stierf, blijf ons dan volgen!

Klik hier om de eerste aflevering van deze serie, over connected speakers, te (her)lezen.

_{Notes uit het privacy beleid van Hugging Face:}

_{1]The Company may use information from Users to operate and improve the App and its other products, and to deliver the App. These uses may include providing you with more effective customer service; making the App easier to use by eliminating the need for you to enter the same information repeatedly; performing research and analysis aimed at improving the App and other products, services, and technologies of the Company; automatically updating the App; diagnosing or fixing problems with the App, and displaying content and advertising customized to your interests and preferences.}

_{2]The Company may share User Content and information collected by the App with businesses that are legally part of the same group as the Company, or that become part of that group ("Affiliates").}

_{3]The Company may use Anonymous Information (as defined below) or disclose it to third-party service providers, to provide and improve the App and other products, services, and technologies of the Company. The Company may disclose Anonymous Information (with or without compensation) to third parties, including advertisers and partners, for purposes including, but not limited to, targeting advertisements. "Anonymous Information" means information that does not enable the identification of an individual User, such as aggregated information about the App’s usage.}

_{4]The Company may use a reputable third party to present or serve advertisements that you may see on the App. These third-party ad servers may use cookies, web beacons, clear gifs, or similar technologies to help present such advertisements, and to help measure and research the advertisements' effectiveness. The use of these technologies by these third-party ad servers is subject to their privacy policies and is not covered by this Policy.}

_{5]Personal Information collected by the App may be stored and processed in the United States or any other country in which the Company or its affiliates, subsidiaries, or agents maintain facilities. By using the App, you consent to any such transfer of information outside of your country. The Company may transfer your Personal Information to affiliated companies to store and process the information on its behalf. Such information may be transferred to other countries around the world. The Company requires that these parties agree to process such information in compliance with the Policy. If you provide Personal Information, it may be transferred to and processed on computers in the U.S. and other countries.}

_{6]The security of your Personal Information is important to us. The Company follows generally accepted industry standards, including the use of appropriate administrative, physical, and technical safeguards, to protect the Personal Information. However, no method of transmission over the Internet, or method of electronic storage, is 100% secure. Therefore, while the Company strives to use commercially acceptable means to protect Personal Information, the Company cannot guarantee its absolute security or confidentiality. If you have any questions about security, you can contact the Company at privacy@huggingface.co. Please be aware that certain Personal Information and other information provided by you in connection with your use of the App may be stored on your device (even if that information is not collected by the Company). You are solely responsible for maintaining the security of your device from unauthorized access.}