Dat zo’n beetje op elk moment van de dag data over ons wordt verzameld, is zo langzamerhand wel bekend. Dat daar gevaren aan kleven ook, bijvoorbeeld als die informatie wordt doorverkocht. Maar er kleeft nog een ander groot nadeel aan de enorme hoeveelheid data die wordt vergaard, zegt Sunil Choenni. “Er is te weinig aandacht voor de kwaliteit van die data”, aldus de lector Future Information & Communication Technology van Kenniscentrum Creating010.
Vrouw of man?
Hij hoeft niet lang na te denken als hem om een simpel en concreet voorbeeld wordt gevraagd. “We gaan er veel te gemakkelijk vanuit dat de data in onze systemen de waarheid is. Maar stel dat je bij een online registratie per ongeluk het vakje ‘vrouw’ hebt aangevinkt, terwijl je een man bent. Als je dan later bij een balie staat, krijg je te horen dat er in het systeem toch echt staat dat je een vrouw bent. Dan wil je niet weten wat er allemaal voor nodig is om dat om te laten zetten.”
Dat het veel verder kan gaan dan een administratieve fout bleek vorig jaar, toen de gemeente Rotterdam besloot niet langer gebruik te maken van het omstreden Systeem Risico Indicatie (SyRi). In de wijken Bloemhof en Hillesluis werd data van bewoners over huizen, arbeid, onderwijs, detentie, uitkeringen, schulden, belastingen en ontvangen toeslagen gecombineerd om een risicoanalyse te maken wie bijstandsfraude zou kunnen plegen.
Een algoritme bepaalde dus de kans op bijstandsfraude binnen een huishouden. Sunil: “Het is zeer onwenselijk dat een systeem bepaalt of jij crimineel bent of niet. Stel dat er per ongeluk ergens iets verkeerd is ingevuld, dan word je gelijk verdacht van een misdrijf ‘omdat het systeem dat zegt’. Individuen zijn dus de dupe van data van grote groepen mensen die volgens het systeem de waarheid vormen. Moet je je eens voorstellen hoe het is om onterecht als fraudeur weggezet te worden omdat verschillende soorten data zijn samengevoegd en een verkeerd beeld scheppen.”
Mede door groeiend verzet onder de inwoners van de twee Rotterdamse wijken trok de gemeente na bijna twee jaar de stekker uit het project. Er was niet duidelijk welke exacte data het algoritme vormden en de privacy van de bewoners kwam in het geding.
Dat SyRi werd stopgezet is volgens Sunil de enige juiste oplossing. “Maar over het algemeen wordt er nog veel te weinig over dit soort zaken nagedacht. Mensen zijn veel meer dan alleen een setje data. Stel dat je mijn persoonsgegevens combineert met mijn data die in een supermarkt wordt geregistreerd. Dan weet je íets meer over Sunil, maar ik ben natuurlijk veel meer dan alleen mijn naam, leeftijd, adres en koopgedrag. Hoeveel informatie je ook over iemand verzamelt; de data zullen nooit een compleet beeld van de werkelijkheid geven.”
Hartklachten
Om dat te onderstrepen geeft de lector een voorbeeld uit Canada, waar een bedrijf is ingespeeld op de behoefte om op modernere manieren je huis te betreden. Sleutels zijn ouderwets. “Dus hebben ze bedacht dat het handig is als een sensor op de deur de hartslag van de bewoner herkent. In plaats van bijvoorbeeld een vingerafdruk. Dat bedrijfje kan dus veel informatie verzamelen over de gezondheid van de gebruikers. Die kunnen geanalyseerd worden, zodat er – pakweg – voorspellingen kunnen worden gedaan over ziektebeelden. Die data kunnen worden doorverkocht aan bedrijven die contact opnemen met de gebruikers van de hartslagentree. ‘Wist u dat u een verhoogd risico hebt op een hartafwijking? Dan hebben wij een goede behandeling voor u in de aanbieding…’. Of gebruikers lopen een baan mis, omdat werkgevers de data hebben opgekocht. Terwijl ‘een kans op’ natuurlijk niet hoeft te betekenen dat iemand daadwerkelijk hartklachten krijgt. Daarom is het ontzettend belangrijk om zorgvuldig met onze data om te springen, de kwaliteit ervan in de gaten te houden en het zeker niet als de werkelijkheid te zien.”
Dat is de kern van de boodschap die Sunil op donderdag 9 april ook als spreker tijdens Rotterdam International Internet of Things Day wil delen. Het is een dag waarop ondernemers, beleidsmakers, experts, onderzoekers, docenten, studenten en andere geïnteresseerden workshops volgen, naar sprekers luisteren, aan discussiepanels deelnemen en nog veel meer.