Zonder dat je er continu bewust van bent, laat je de hele dag door data achter. Als je ergens geld pint, met een sporthorloge om hardloopt, websites bezoekt, incheckt met je ov-chipkaart, ga zo maar door. Die informatie is in handen van overheden en grote bedrijven zonder dat je precies weet wat ermee gebeurt. Maar ach, wat kan het kwaad? Dat was aan het begin van digitale revolutie de algemene opinie. We moesten blij zijn met alle nieuwe mogelijkheden. Punt.
Inmiddels realiseren mensen steeds meer dat de data voor bepaalde doeleinden worden gebruikt, zonder dat ze dat willen of daar invloed op hebben. Denk aan het schandaal rond Cambrigde Analytica, het Britse databedrijf dat zonder toestemming de gegevens van 85 miljoen Facebook-gebruikers inzette voor de verkiezingscampagne van Donald Trump.
Misbruik
Door dit soort schandalen wordt het bewustzijn in de maatschappij alsmaar groter dat bedrijven en overheden misbruik kunnen maken van data. “Steeds meer mensen beseffen dat dit invloed kan hebben op bijvoorbeeld het vinden van een baan, het verkrijgen van een hypotheek of op de hoogte van een verzekeringspremie”, aldus Maaike Harbers, lector Artificial Intelligence & Society bij Kenniscentrum Creating 010 van Hogeschool Rotterdam.
“Er zijn bedrijven die analyseren wat jij online allemaal uitspookt en die data verhandelen. Voor een werkgever kan dat interessant zijn in de afweging iemand aan te nemen of niet. Net als medische gegevens. Zo weet een bedrijf of jij gevoelig bent voor een burn-out. Smartphones houden bij hoeveel je beweegt en een slimme thermometer in huis weet hoeveel uur jij ’s nachts slaapt. Mensen die slecht slapen hebben een grotere kans op Alzheimer. Allemaal gegevens die interessant kunnen zijn voor zorgverzekeraars.”
Dit soort voorbeelden zorgt ervoor dat mensen klikvrees krijgen; ze passen zelfcensuur toe. Maaike: “Dit zijn zogenaamde chillingeffecten. Uit onderzoek blijkt dat mensen online voorzichtiger zijn in het uiten van hun mening over bijvoorbeeld terrorisme, Erdogan, racisme, et cetera. Simpelweg omdat ze bang zijn voor de gevolgen. Onlangs organiseerden we met Creating 010 en de provincie Zuid-Holland het seminar ‘Unfreezing Freedom’ en toen de zaal werd gevraagd wie er wel eens twijfelde om een zoekterm in te vullen of een link aan te klikken, gingen er veel vingers omhoog. Dat merk ik ook bij onze studenten. Ze geven aan zich online anders te gedragen, omdat ze bang zijn dat er iets vreemds met hun data gebeurt.”
75 jaar bevrijding
Een zorgelijke ontwikkeling, benadrukt ze. Dit jaar vieren we in Nederland 75 jaar bevrijding, maar online wordt die vrijheid bedreigd. Het is geen opgelegde beperking, maar een beperking uit angst voor gevolgen. “Dat noemen we social cooling. Als we allemaal zelfcensuur toepassen, gaat iedereen zich veiliger, meer gemiddeld gedragen. Een minder fijne wereld.”
Ze geeft een voorbeeld uit China, waar veelvuldig gebruik gemaakt wordt van een app waarmee mensen onderdeel zijn van een sociaal kredietsysteem. De overheid heeft daar alle data in handen, dus als iemand door rood licht rijdt en een boete moet betalen, verlaagt dat diens score. Ook als je te vaak spelletjes speelt op je mobieltje heeft dat een negatief effect op je puntenaantal. Maaike: “Als je te weinig punten hebt, krijg je bijvoorbeeld geen hypotheek of mag je niet op het vliegtuig stappen. En mensen worden terughoudender tegenover iemand die weinig punten heeft. Dus ga je je anders gedragen. Zelfcensuur. Nee, dit is geen aflevering van de Netflix-serie Black Mirror, dit gebeurt echt. In China ziet men deze immens populaire app als middel om sociale controle uit te oefenen, maar wij vinden het vooral creapy. Terwijl we hier ook te maken hebben met vergelijkbare mechanismen van data verzamelen, die gedragsveranderingen veroorzaken. Niet met ranglijsten en als app, maar wel in de vorm van data die worden verkocht zodat grote bedrijven weten wat jouw sterke en zwakke punten zijn.”
Angstaanjagend
Het klinkt angstaanjagend. En dat is het eigenlijk ook wel, geeft Maaike toe. Ze vindt humor een belangrijk middel om het probleem onder ogen te zien zonder gelijk te verstarren. Tijdens het seminar ‘Unfreezing Freedom’ konden bezoekers gebruikmaken van een snoepautomaat, waardoor ze een helder beeld kregen wat voor invloed data kan hebben. Hoe meer data - zoals gewicht en lengte - ze over zichzelf prijsgaven, des te goedkoper de Twix, Mars of zak drop werd. “Een grappige manier om het probleem duidelijk te maken. Vijftig studenten doen mee aan een design challenge, waarbij ze zo’n soortgelijke installatie moeten ontwerpen. De meest treffende installaties zullen tijdens het Bevrijdingsfestival in Rotterdam te zien en te gebruiken zijn.”
Een vrolijke noot, maar de ernst van het probleem blijft als een paal boven water staan. Desondanks heeft de lector Artificial Intelligence & Society vertrouwen in de toekomst. Met name omdat er steeds meer alternatieven worden bedacht voor bijvoorbeeld websites en apps. “Ik ken mensen die inmiddels volledig Google-vrij leven. Zij maken gebruik van bijvoorbeeld DuckDuckGo, een zoekmachine die niet privacygevoelig is en geen data doorverkoopt. En als alternatief voor WhatsApp is Signal ontwikkeld. De markt voor alternatieven wordt dus steeds groter. Klikvrees heeft dus ook een positief effect. De bewustwording zorgt ervoor dat we zeggen: dit willen we niet, we gaan er iets aan doen. Hoe meer mensen op deze manier denken, des te groter ook het draagvlak wordt voor bijvoorbeeld nieuwe wetgeving.”
De Algemene verordening gegevensbescherming (AVG) is daar een goed voorbeeld van. Die werd in 2018 in het leven geroepen om binnen de Europese Unie persoonsgegevens te beschermen. Tijdens het seminar was Cecile Schut van de Autoriteit Persoonsgegevens (AP) een van de sprekers. Haar organisatie is verantwoordelijk voor het toezicht op de naleving van de AVG. Maaike: “Ze vertelde dat er binnenkort enkele onderzoeken worden afgerond en dat er boetes zullen worden uitgedeeld aan bedrijven die persoonsgegevens hebben verkocht. We zijn dus op de goede weg, maar er is nog een wereld te winnen.”
Maaike Harbers
Maaike Harbers is lector Artificial Intelligence & Society bij het Kenniscentrum Creating 010 en verzorgt onderwijs bij de opleiding Creative Media and Game Technologies. In haar werk richt zij zich op de intersectie van kunstmatige intelligentie, ethiek en ontwerp. Zij onderzoekt de ethische implicaties van toepassingen met kunstmatige intelligentie en ontwikkelt handvatten voor ontwerpers om tijdens het ontwerpen van die toepassingen rekening te houden met de ethische implicaties van hun ontwerpkeuzes.