Artificial Intelligence is vooral een hulpmiddel en niet iets waar je blind op kunt vertrouwen. Hoe komt het bijvoorbeeld aan de data en informatie? De vooringenomenheden van de ontwikkelaar zitten gebakken in het systeem. Een programma gebouwd door de Chinese overheid bevat vanzelfsprekend ook bepaalde normen en waarden. ChatGPT haalt op zijn beurt informatie van het internet en niet alles dat online staat, komt, op z’n zachtst gezegd, overeen met onze overtuigingen. Een goed voorbeeld daarvan was het Twitteraccount TayTweets. Deze AI-robot verzamelde ook online informatie en veranderde binnen 24 uur van een onschuldig account met goede bedoelingen, naar een haatdragende en racistische bot. Je krijgt er dus uit, wat je erin stopt.
Responsible AI
Kijk daarom niet alleen naar de eindeloze mogelijkheden van AI, maar ook naar het verantwoord gebruik ervan. Met dat idee begonnen we twee jaar geleden aan het opzetten van ons curriculum Responsible Applied Data Science en AI. Daarmee zijn we een van de hogescholen in Nederland die breder kijkt naar dit werkveld. Onze docentonderzoeker Oumaima Hajri vertelt hoe zij de volgende generatie ontwikkelaars bijbrengt waarom het verantwoord ontwikkelen van data-gedreven technologieën en AI-toepassingen zo belangrijk is:
‘’De gevaren van AI zijn groot, vooral voor gemarginaliseerde groepen’’, zegt Oumaima. ‘’Dit zagen we bijvoorbeeld terug bij zelfrijdende auto’s die geprogrammeerd zijn om te stoppen als er een voetganger voor ze loopt. Helaas werden er tijdens het programmeren vooral beelden gebruikt van mensen met een lichte huidskleur, waardoor de auto’s niet altijd stopten voor mensen met een donkere huidskleur. Opzettelijk of niet, de input waar dat algoritme op draaide was onbewust racistisch met catastrofale gevolgen. Hetzelfde zagen we hier in Nederland met de toeslagenaffaire. De datasets die ze gebruikten, richtten zich op Nederlanders met een niet-Nederlandse achternaam. Dat deed het systeem niet uit zichzelf, maar door de input die het kreeg. Dat besef proberen we met het vak Responsible Technology te creëren bij de volgende generatie ontwikkelaars. Want wat zij doen heeft effect op de mens en maatschappij.”
(artikel gaat onder de foto verder)
People, planet and profit
“Toen mijn collega Gabriella Obispa en ik begonnen met het doceren van dit vakgebied zagen we een enorme weerstand. Opmerkingen als: ‘Ik wil over techniek leren, dus wat boeit ethiek nou?’ of ‘Als ik door het schenden van privacy meer data krijg en betere modellen maak, doe ik dat gewoon.’ Je kunt het ze niet eens kwalijk nemen, omdat ze zijn geboren in een tijd waarin de markt in plaats van mens en maatschappij centraal staat. Daarom staan, onder andere, de drie P’s centraal in onze lessen: people, planet and profit. Winst blijft altijd een belangrijk aspect, maar dit kan ook op een maatschappelijk- en ethisch-verantwoorde manier. Wij reiken handvatten aan, maar zij moeten uiteindelijk zelf deze keuzes maken.”
“Gelukkig deden onze studenten dat tijdens een presentatie bij de Gemeente Rotterdam. Met data brachten ze verschillende energie labels van bepaalde wijken in kaart en bleek digitale inclusie als een rode draad door hun projecten te lopen. Studenten die in het begin van het schooljaar nooit stilstonden bij de verschillen in onze samenleving kaartten aan dat de data een vertekend beeld kunnen geven, omdat niet iedereen een energielabel heeft of niet eens weet wat duurzaamheid inhoudt. Ze kwamen zelf met oplossingen zoals in een bepaalde taal te communiceren of activiteiten te organiseren waarin iedereen mee kan. Dit betekent dat het ontzettend belangrijk is dat wij als kennisinstelling niet meer alleen banden moeten leggen met het ‘traditionele’ werkveld. Denk bijvoorbeeld aan organisaties zoals Bits of Freedom, Waag Futurelab, maar ook een AlgorithmWatch of Amnesty – die allemaal op een eigen manier veel kennis aan het ontwikkelen zijn en die deze technologische ontwikkelingen ook in het daglicht van mensenrechten en privacy bekijken en onderzoeken.’’
De professional van de toekomst
Een prachtig voorbeeld van Oumaima, hoe wij onze studenten naar hun loopbaan willen begeleiden. Ik vind dat wij als hogeschool een maatschappelijke taak hebben die niet eindigt bij een diploma als startbewijs tot een bepaalde professie. Helaas komen we uit een tijd waarin kwalificatie en de overdracht van voornamelijk kennis bovengemiddeld aandacht krijgt in plaats van persoonsvorming en socialisering. Terwijl de wereld met al haar maatschappelijke opgaves juist een arbeidsmarkt nodig heeft die dat allemaal bezit. Bij Hogeschool Rotterdam leiden we de professionals van de toekomst op die een kritische en ethische houding moeten kunnen aannemen ten aanzien van de impact van technologie op mens, maatschappij en planeet. Mijn visie is dat wij daarmee als kennisinstelling evidence-informed nieuw onderwijs ontwikkelen dat direct bijdraagt aan digitaal burgerschap en digitale inclusie.
In mijn vorige blog besprak ik met onze programmamanager AI & Ethiek Pieter van Boheemen het belang van het opleiden van professionals die nadenken over de consequenties van hun werk op de samenleving.