ChatGPT, slimme apparaten in huis, zelfrijdende auto’s. Ze komen razendsnel op de markt. Is er ‘aan de voordeur’ ook nagedacht over de impact van deze ontwikkelingen op de samenleving? Helaas is het antwoord bij veel van deze innovaties: nee. Bart Wernaart, lector van Moral Design Strategy, zet zich in om ethische kwesties in een veel vroeger (ontwikkel)stadium bespreekbaar te maken.
Waarom is ethisch onderzoek zo van belang bij technologische ontwikkeling?
‘We zien dat innovaties vaak vooruitlopen op de wetgeving. Neem large language models als ChatGPT. Toen ze en masse in gebruik werden genomen, gingen we pas nadenken over regulering. Ook onderwijsprofessionals werden er compleet door overvallen, terwijl het grote invloed heeft op de huidige onderwijsmodellen. Die moeten nu flink op de schop. Je ziet in dit geval ethiek aan de achterdeur, in plaats van aan de voordeur.’
Op welke manier draagt het lectoraat bij aan het meenemen van ethische kwesties in innovaties?
‘We bouwen zogenaamde moral labs. Een moral lab is een online en/of offline installatie waarmee we de burger blootstellen aan de technologie van de toekomst. De sleutel is dat ze met de toekomst interacteren en dus gaan ervaren wat de impact op hun leven of leefomgeving gaat zijn. Omdat de belangrijkste gebruikers (burgers) vaak geen technische kennis hebben, is het voor hen lastig zich een beeld te vormen van deze ontwikkelingen. Wij helpen ze daarbij, zodat ze een mening kunnen vormen en hun eigen morele grenzen beter kunnen aangeven. Hierdoor worden zij als het ware een co-designer van hun omgeving. Daarnaast brengen we op die manier in kaart waar maatschappelijke frictie zit.’
Kun je daar een voorbeeld van geven?
‘We hebben een VR-omgeving ontwikkeld waarin je als burger in een toekomstige wereld vol drones stapt. Je ziet ze dichtbij en veraf, met camera, over bestaande infrastructuren zoals wegen vliegen of juist niet. We laten dus mogelijke toekomstbeelden zien en ook mogelijke toepassingen, kansen en risico’s. Dit is belangrijk voor de doorontwikkeling van bijvoorbeeld ‘the last mile’ bij pakketbezorging, maar ook medische toepassingen zoals het bezorgen van een AED of de inspectie van gebieden. Mijn collega Iris van Hest heeft het afgelopen jaar een onderzoek uitgevoerd waarbij we dit moral lab op verschillende plekken hebben getest. We hebben hier een mooie dataset uit kunnen halen die ons gedetailleerde inzichten geeft over hoe burgers zich willen verhouden tot drones. Op dit moment hebben we ook moral labs gebouwd op andere gebieden, zoals digital twin technology in de health sector en AI in de onderzoeksjournalistiek.’
Jullie nemen dus bewust burgers mee in de ontwikkelingen?
‘Ja, want juist zij gaan de impact merken, terwijl ze geen expert zijn. Er is een brug nodig om die verschillende werelden – burgers, bedrijfsleven, overheid en ICT – met elkaar te verbinden. Daarvoor moet je ontwikkelingen tastbaar maken en duidelijk maken wat de gevolgen daarvan zijn. Een vraag als ‘wat vind je van kwantumtechnologie en hoe denk je dat deze technologie jouw toegang tot geld gaat beïnvloeden?’, zal niet veel bruikbare input opleveren, terwijl het wel degelijk een issue gaat zijn in de nabije toekomst.’
Hoe kijken bedrijven tegen deze moral labs aan?
‘Het is voor hen ook beter om aan de voorkant te weten wat er speelt, dan kunnen ze hun ontwerp daarop aanpassen. Als zij weten wat de kaders zijn, dan kunnen ze met minder risico innoveren. Zij zijn dus zeker ook gebaat bij dit soort ethisch onderzoek. Daar komt bij dat het door Europese wetgeving ook gewoon steeds vaker nodig is om dit soort vragen vooraf te stellen, zeker op het gebied van AI.’
