In de samenleving groeit de toepassing van kunstmatige intelligentie (Artificial Intelligence, ook wel: AI) in onze computersystemen, smartphones en in de openbare ruimte. Er bestaan verschillende perspectieven over wat deze technologie te weeg gaat brengen. Dit varieert van technosolutionisme (de overtuiging dat voor elk probleem een technologische oplossing kan worden gevonden) tot technofobie (de angst voor techniek). Deze technologische perspectieven vinden we terug in maatschappelijk dialoog maar ook binnen bedrijven, overheden en op scholen en universiteiten. Waar niet altijd genoeg aandacht aan besteed wordt, is de mens áchter de technologie. Als we kijken naar hoe de mens en technologie met elkaar verweven zijn, zien we hoe een AI-systeem een complex socio-technisch systeem is. Om AI op een verantwoorde manier toe te kunnen passen is het nodig om naar dit complete systeem te kijken. AI-systemen worden ontwikkeld in multi-stakeholder contexten, daarin is het belangrijk om dialoog te voeren over machtsrelaties die aanwezig zijn, zowel op groepsniveau als maatschappelijk niveau.
Met de lectoraten Cybersocial Design en AI & Society, is een tastbaar object ontwikkeld dat machtsrelaties op een interactieve manier invoelbaar maakt. Dit object kreeg de naam ‘Who Pulls the Strings of AI’ en is ingezet in verschillende multi-stakeholder contexten. Er werden gesprekken met overheden, bedrijven, gebruikers en kennisinstellingen gevoerd. Eén van deze gesprekken is gefilmd. Bekijk de video’s op deze pagina om erachter te komen hoe dit object werkt en hoe jij dit kan inzetten in jouw context.
Deelnemers
De gebruiker: Student Acelya Arslan, opleiding Applied Data Science & AI, Hogeschool Rotterdam
Haar verwachting was dat bedrijven meer invloed zouden hebben. In het gesprek kwamen ze samen tot inzicht dat de overheid een grotere rol kan spelen in de manier waarop AI-systemen de maatschappij kunnen beïnvloeden. De fysieke en mondelinge uitwisseling gaf een diepere betekenis doordat er letterlijk over de machtsverhoudingen gepraat kon worden.
De overheid: Gemeente Rotterdam - Gerard Nijboer, Medeoprichter VONK
Het is voor Gerard belangrijk om minder vanuit modellen te communiceren of vanuit modellen in gesprek te gaan. Hij werd verrast door het gewicht dat aan de overheid werd gegeven en dat de roep naar een kader stellende overheid aanwezig is.
Bedrijfsleven: Harborn Digital – Gijs Straathof, Data Engineer
De interactie met het object en het gesprek wat daaruit voortvloeide liet zien dat er meer basisspelers zijn dan waar ze mee begonnen. Denk aan de media, die tussen gebruiker en overheden invloed hebben. Vanuit zijn werk helpt deze manier van gespreksvoering om ook onze gebruiker, de opdrachtgever mee te nemen in dit aspect van verantwoorde AI.
Het onderwijs: Hogeschool Rotterdam – Gabriella Obispa, Docent Responsible Technology
In haar docentenrol vanuit AI en Ethiek is ze bekend met haar eigen perspectief. Nu in het gesprek met het object stond ze open voor andere geluiden, andere inzichten. Het object liet haar duidelijk zien wat de machtsrelaties zijn door hoe het bord kantelt naar de stakeholder met meer gewicht. Door die fysieke verschuivingen was ze in staat de problematiek analytischer te bespreken.
Dit zijn inzichten uit het gesprek tussen deze vier stakeholders. Een andere groep stakeholders in een andere context of cultuur zal weer andere perspectieven naar boven halen. Deze inzichten belichten dan ook maar een deel van de complexiteit aan perspectieven die verbonden is aan het thema macht en AI.
Dit onderzoek is onderdeel van een breder onderzoek naar de rol van tastbare tools voor ethische vraagstukken rondom AI. We ontwikkelen ontwerpprincipes en onderzoeken hoe verschillende vormen van materialisatie en interactie inzichten kunnen bieden door middel van directe voelbare ervaringen in de alsmaar complexe, digitaliserende wereld.
Lees meer over het ontwerp en onderzoek in dit paper:
Designing a Physical Boundary Object to Invite Dialogue about Power Relations Behind AI Systems (rsdsymposium.org)
We werken aan een open source downloadbaar bestand zodat het object nagebouwd kan worden in een fablab bij jou in de buurt.
Wil je in de tussentijd meer weten? Mail: t.s.van.der.horst@hr.nl voor meer informatie.
Onderzoeksgroep: Responsible Applied Artificial InTelligence
Onderzoeker: Tiwánee van der Horst
Lectoren: Anja Overdiek – Cybersocial Design en Maaike Harbers - AI & Society
Hogeschool Rotterdam Kenniscentrum Creating 010