Ontmoeting 119 | “Ach, het is maar een oliebollenwedstrijd”

Een avondlijke mailwisseling, met collega’s in de stad en het land; zakelijk, met een frivole rand. Zo’n keten van mails die je wel eens kunt hebben. Het onderwerp is de Keuzegids Hbo die net die dag uitgekomen is. Mensen vinden er iets van en feliciteren Hogeschool Rotterdam met haar eerste plek in het rijtje grote Randstadhogescholen en Inholland met haar spectaculaire opmars, die ook – heel mooi, want het is wel eens anders geweest in de journalistieke bejegening van de collega’s – het landelijke nieuws gehaald heeft. De felicitaties voelen goed, maar ook ongemakkelijk. Iemand geeft op een gegeven moment de goede woorden aan dat ambigue gevoel: “Ach, het is maar een oliebollenwedstrijd. Maar leuk is het wel.”

Woensdag 19 september: algoritmes in de gezondheidszorg

De Raad van Bestuur van het Erasmus MC heeft me uitgenodigd om voor een groep van o.a. directeuren en hoofden van afdelingen hun strategisch plan in wording van een kritische bespiegeling te voorzien. Een gezelschap dat indruk maakt, vanwege hun professie, maar zeker ook vanwege het immense belang dat een dergelijke institutie voor de samenleving heeft. Dat respect werd ook een paar weken geleden al eens gevoed door een rondleiding die diezelfde Raad van Bestuur hield voor bestuurlijke collega’s. Tijdens die rondleiding raakte ik onder de indruk van het nieuwe gebouw, de technologie daarin en het doordachte concept waarmee het ingericht is. Ik ben er trots op hier in Rotterdam letterlijk hun buurman te zijn.

Vanuit dat gevoel voelde ik me vrij om kritisch te zijn en het ziekenhuis aan te spreken op haar verantwoordelijkheid. En dan ging het over indringender de verbinding zoeken met Rotterdam en over zelf een grote verantwoordelijkheid te nemen ons te helpen meer verpleegkundigen op te leiden. Maar vooral over haar rol op het gebied van big data en kunstmatige intelligentie.

“Bepaalt u straks het gezondheidsalgoritme of een obscuur Chinees bedrijf?”

Netflix bepaalt straks welke serie ik moet bekijken, Google welk nieuws interessant is en Facebook wat ik moet vinden. Geldtransacties ontwikkelen zich met cryptomunten buiten de reguliere structuren. Grote én kleine private bedrijven kruipen meer en meer ons private én publieke domein binnen en hebben daar potentieel een invloed die zich onttrekt aan publiek toezicht en publieke cq gelegitimeerde valideringsmechanismen. Dat is een moeilijk vraagstuk, waar complexe lagen onder zitten. Denk bijvoorbeeld aan de begrijpelijke worsteling van de politiek hoe om te gaan met het fenomeen nepnieuws. Maar wel een vraagstuk dat we hoog op de agenda moeten hebben. Al was het voor het onderwijs alleen al hoe we jonge mensen weerbaar kunnen maken voor een toekomst waarin deze kenmerken een groot stempel op drukken.

Het is een groter vraagstuk dan alleen dat rondom kunstmatige intelligentie, big data of algoritmes. Zie de discussie over de banken die in feite publieke taken vervullen. Maar rondom genoemd drietal wordt de vraag wel extra spannend. In het concept-plan van het Erasmus MC staat veel over de kansen die zij bieden, maar niets over de kernvraag: wie wordt straks de baas van die big data, wie kent de codes van de kunstmatige intelligentie, wie beheert de algoritmes? Instituties die ik ken, vertrouw en waarmee ik maatschappelijk in gesprek kan? Of een beursgenoteerde onderneming, waar ik geen greep op heb als burger en waartegen ik niet mijn zorgen kan uitspreken over de wel of niet aanwezige integriteit?

“Ik vind dat u moet weten wat een instrument met mij doet als ik bij u op de snijtafel lig.”

Mijn punt is tweeledig. Ik vind dat instituties als het Erasmus MC voorop moeten lopen in de discussie, niet alleen in de technische ratrace naar het steeds maar weer verbeteren van dat instrumentarium (het functionele aspect), maar ook in de discussie over de governance van dat instrument. Het beheer en toezicht op de onderliggende algoritmes, het levend houden van het publieke debat daarover moet ook bij die instituties liggen. Ik wil aan dergelijke instituties straks kunnen vragen: deugen die algoritmes en dat ik dan niet te horen krijgen dat we ze eigenlijk niet goed meer kennen… Omdat ze achter slot en grendel zitten van een grote private firma.

Mij wordt de vraag gesteld of ik vind dat een hoogleraar/specialist meer moet weten over de werking van big data en algoritmes dan nu gebruikelijk. Mijn antwoord is simpel: ja. Als ik nu op de operatietafel lig, moet een chirurg mij kunnen uitleggen, niet op het niveau van de technische ontwerper van het instrument, maar wel functioneel, wat het apparaat, waarmee hij naar mij toe beweegt, precies kan en doet. Als we het zicht verliezen op wat de achterliggende algoritmes zijn van onze diagnose-instrumenten, kan hij of zij dat principieel niet. Nog los van de nare gedachte dat we straks niet weten waar dat algoritme wordt bepaald, met welk publiek toezicht.

Want data worden niet alleen in ziekenhuizen verzameld, ook via dat gezondheidspolsbandje of uw telefoon.

Ethiek en big data

Afgelopen week besprak ik dit vraagstuk met collega Maaike Harbers. Maaike doet bij ons onderzoek naar ethiek en kunstmatige intelligentie. De vraag die we verkennen is hoe ver we als hogeschool moeten gaan in het creëren van bewustzijn bij de ontwerpers van het KI-instrumentarium. Zij werkt in het instituut CMI, waar we de (technische) informatici opleiden, maar ook de mannen en vrouwen die toepassingen ontwerpen, bijvoorbeeld in een opleiding als Creative Media and Game Technologies.

We komen tot de conclusie dat het onze plicht is dat we daar ver in zouden moeten gaan. Het zal altijd hard werken blijven als hogeschool om dat op gepaste wijze te doen. Neemt niet weg dat de mensen die straks het instrumentarium mee ontwerpen waarmee we in ziekenhuizen gediagnosticeerd of geholpen worden, zich niet alleen bewust moeten zijn van de functionele kwaliteiten van hun ontwerp, maar ook van het feit dat er waarden en uitgangspunten in opgeslagen kunnen zijn, die een uitdrukking zijn van keuzes. Het is nog niet zo lang geleden dat we tot onze schrik tot het besef kwamen dat we hartproblemen bij vrouwen net verkeerd aanpakten omdat de proefpersonen overwegend mannen zijn. De ‘machinekamer’ van de dataverzameling en –hantering moet zo open toegankelijk zijn en blijven dat we dit soort correcties kunnen uitvoeren.

Pabo Hogeschool Rotterdam: het Beste van het Westen

Als hogeschool formuleerden we in 2013 in ons strategisch document het Position paper de ambitie dat we graag te boek willen staan als de beste hogeschool van de Randstad. In 2018 zijn we dat volgens de Keuzegids. En toch leidt dat niet tot knallende champagnekurken… Ik moest eraan herinnerd worden door een collega via de Whatsapp.

Tekst gaat onder de afbeelding verder.

De Keuzegids is het product van een privaat bedrijf. Een klein bedrijf, zeker geen Google of, dichter bij huis Times Higher Education (producent van heel wat hoger-onderwijslijstjes) maakt de kwaliteitsoordelen die leiden tot de daarop gebaseerde reputaties. Het blijft wel een bedrijf en niet een publiek gecontroleerde of gelegitimeerde instantie. Een bedrijf dat werkt met een algoritme. In dit geval is het overigens een algoritme dat we - grotendeels - kennen, maar waarvan je je de vraag kunt stellen of het een juiste uitdrukking is van kwaliteit. Ik heb dat vorig jaar durven bekritiseren in een blog, hetgeen me toen deels kwam te staan op het verwijt van de slechte verliezer. Ik herhaal mijn bespiegeling nogmaals nu we een mooie stap gezet hebben. We moeten in een publiek debat scherper krijgen of en hoe we dit willen.

Dan gaat het niet over de vraag of je kwaliteit niet moet willen vangen in een getal. Dat moet je zeker doen, we doen dat bij Hogeschool Rotterdam ook. We hanteren vijf kwaliteitsindicatoren voor onszelf. Maar wel in het besef dat een getal een indicatie is van kwaliteit en niet de kwaliteit zelf. En met een relativering van het belang van lijstjes. Ik zou er zelfs voor willen waarschuwen, omdat lijstjes in de publieke en journalistieke context van nu een groter effect op je reputatie hebben dan je zou willen. Scholen die onderaan staan, worden snel 'hekkensluiters' of 'slechte' scholen genoemd, met een absoluutheid die zich niet verhoudt tot de werkelijkheid.
Zeker, de opleidingen van ons die boven aan de lijstjes staan, liggen er beter bij dan de opleidingen die dat niet doen. Onze pabo verdient het gezien te worden als het 'Beste in het Westen', zoals onze directeur Lerarenopleidingen het zei. Maar opleidingen die lager staan, kunnen wel degelijk hun intrinsieke kwaliteit hebben, met gedreven collega's en studenten die een mooie toekomst tegemoet gaan.

AD Haringtest

"Ach", mailt mij de collega iets later, "Je zou het zelfs de AD Haringtest kunnen noemen, maar het is wel gewoon leuk voor al die mensen die zich nu op de feestjes minder verontschuldigend zullen opstellen, misschien wel een beetje trots." En dat mochten en mogen ze zijn.