Met deze loftrompet opende dagvoorzitter Paul Rutten (directeur Kenniscentrum Creating 010) dinsdag 30 oktober de openbare les van professor dr. Ben van Lier in Het Nieuwe Instituut. Van Lier is naast lector, directeur Innovatie & Strategie bij Centric, een van de grootste Nederlandse ICT-bedrijven. Zijn openbare les was een snelle reis door de complexe wereld van autonome cyber-physical systems. Geen alledaags verhaal, maar Van Lier is dan ook geen ‘doorsnee iemand’ uit het bedrijfsleven.
Verbinding onderwijs en onderzoek
Zakia Guernina, lid van het College van Bestuur van Hogeschool Rotterdam, gaat nog even door: “Ben, ik heb jouw boek als zeer inspirerend ervaren. Zeker in een wereld waarin Internet of Things (IoT) vanzelfsprekend wordt gevonden. IoT vraagt erom om met observatie en analyse te leren en kennis te ontwikkelen.
Dit standpunt sluit naadloos aan op de strategie van Hogeschool Rotterdam waarin wij onderwijs en onderzoek onlosmakelijk met elkaar verbinden. Door het samen te doen en in de praktijk de juiste en kritische vragen te stellen. Verder vereist het innovatief denken, zowel bij technische ontwikkelingen als maatschappelijke innovatie.”
“Cybernetica is een van de belangrijkste vakgebieden van na de Tweede Wereldoorlog.”
Praten met apparaten
Dan mag de hoofdrolspeler van vanmiddag zelf het woord voeren. “We leven in een tijd waarin we overal en altijd informatie willen delen. Steeds meer apparaten staan met elkaar in verbinding via een netwerk. Praten met apparaten wordt steeds vanzelfsprekender. Ze worden steeds intelligenter en gaan ook terugpraten. Maar wat betekent het als apparaten beter kunnen communiceren? We ervaren het eerst en stellen dan pas die vraag.
Dat is te laat. Cybernetica is volgens Van Lier een van de belangrijkste wetenschappelijke ontwikkelingen van na de Tweede Wereldoorlog. “Van de 7,5 miljard mensen op aarde heeft ruim twee derde een mobiele telefoon en internet. China heeft zelfs een eigen internet. Data en controle zijn daar in handen van de overheid. Dat zal de komende tijd problemen geven.”
Autonomie
Van Lier neemt de structuur van biologische ecosystemen als voorbeeld voor informatiesystemen. “Met kleine ingrepen kun je grote veranderingen laten plaatsvinden. Fundamenteel is dat het ecosysteem zichzelf in stand kan houden en stabiliseren. Het zou mooi zijn als dat ook zou kunnen bij IoT. Dan hoeven we ons minder zorgen te maken over de veiligheid ervan.” Belangrijk is dat systemen autonoom kunnen zijn.
Daarvoor moeten ze voorzien zijn van zelfbewustzijn: zichzelf kunnen optimaliseren, beschermen, zorgen en samenstellen. Zo kunnen ze steeds beter reageren op alles. “Een voorbeeld is de zelfrijdende auto. De vraag is niet meer of die er gaat komen, maar welke stappen er nog genomen moeten worden om deze autonoom te laten zijn.”
Cultuurverschillen
De complexiteit van systemen neemt toe: wat doen al die autonome elementen? Daarnaast spelen verschillende culturele opvattingen een grote rol. China, de VS en Europa denken anders over bijvoorbeeld onbemande systemen en dataverzameling.“We constateren dat een digitaal ecosysteem lijkt op een biologisch ecosysteem. Het zijn apparaten met onderdelen die met elkaar kunnen communiceren via software.
In de wetenschapswereld heet dat cyber-physical systems: door software en verbinding in staat zijn ander gedrag te vertonen en te reageren. De verbindingen tussen de systemen worden steeds belangrijker. Hoe ga je daarmee om?”
Student Hogeschool Rotterdam
Nadenken over autonome systemen gebeurt al jaren. Het zou zeer ingewikkeld zou zijn om een consensusalgoritme te ontwikkelen. Een algoritme dat onafhankelijk besluiten kan nemen op basis van stemrondes. Het lukte een student van Hogeschool Rotterdam.
“Het is intrigerend dat een 20-jarige student van deze hogeschool (met een groep andere studenten) software heeft ontwikkeld die zo’n systeem kan laten draaien. In de nabije toekomst wordt vanuit Centric onderzocht wat nog meer mogelijk is met deze software en hoe studenten van Hogeschool Rotterdam daarin een rol kunnen spelen.Deze samenwerking biedt ongekende mogelijkheden.”
“We zullen eraan moeten wennen dat een apparaat dingen uit zichzelf doet.”
Ethiek en verantwoordelijkheid
Hoe intelligenter systemen worden, hoe belangrijker ethiek wordt. Machines moeten zelf een vorm van ethisch besef krijgen. Wie is er uiteindelijk verantwoordelijk als een autonome auto iemand aanrijdt?
“Lastig te beantwoorden. Alles draait om algoritmes en software. We moeten naar een situatie waarin apparaten zoveel mogelijk het gewenste gedrag uitvoeren die binnen de regelgeving past. Met deze vraagstukken wil ik me de komende jaren binnen het onderwijs bezighouden. Samen met onderzoekers, studenten en docenten van de hogeschool.
Op dit moment is er een groot gebrek aan kennis en hoe we ermee moeten omgaan. We moeten zoeken naar een nieuwe vorm van moraliteit en zullen eraan moeten wennen dat een apparaat dingen uit zichzelf doet. Eén ding is zeker: roepen dat het niet kan, niet mag of dat we niet willen is geen oplossing meer, want het komt er. Of we nu willen of niet.”
Discussiepanel
In het aansluitende coreferaat belicht dr. Eric Pauwels (CWI) de openbare les vanuit wiskundig perspectief met lineaire en niet-lineaire systemen. “Vanuit de biologie kun je veel vertalen naar algoritmes. We moeten nadenken over een vorm van ethiek voor algoritmes. Vanuit de biologie kun je veel vertalen, maar we kunnen ook leren van andere disciplines zoals sociologie en filosofie. Als maatschappij moeten we daarover nadenken.”
Stof tot nadenken geeft het zeker. In het navolgende discussiepanel met vertegenwoordigers van TNO, TU Twente en Rathenau over technologie en ethiek blijkt de complexiteit van het onderwerp. Zeker wanneer men kijkt naar hoe de verschillende politieke (wereld)leiders omgaan met ethiek.
Van Lier ten slotte: “Ik heb grote problemen met AI. Meer dan 7 lagen kunnen wij als mens niet meer bevatten. Als de systemen beter worden kunnen wij ze niet meer begrijpen. Waar komt die grens te liggen? Het zou mooi zijn als systemen een soort schuldgevoel ingebouwd krijgen.”
