Is een medewerker die AI-systemen gebruikt voldoende op de hoogte van de voor- en nadelen? Als organisatie mag je een bepaalde AI-geletterdheid van jouw medewerkers verwachten. Aan de andere kant heeft een organisatie ook de plicht om haar personeel voldoende kennis en kunde over AI-systemen bij te brengen. Vanaf 2 februari 2025 is dit zelfs een wettelijke verplichting vanuit de Europese AI-verordening. Een aantal experts verbonden aan het Kenniscentrum Applied AI for Society deelt vanuit verschillende invalshoeken hun visie op dit thema. Noortje Lavrijssen, onderzoeker bij het lectoraat Recht en Technologie van de Juridische Hogeschool Avans & Fontys, belicht in haar publicatie de juridische aspecten van AI-geletterdheid.
Op 1 augustus 2024 is de Europese AI-verordening in werking getreden. Deze AI-verordening bevat regels waar AI-systemen en de aanbieders en gebruikers van AI-systemen in de nabije toekomst aan moeten voldoen. Een van die regels ziet toe op de AI-geletterdheid. Op grond van art. 4 van de AI-verordening moeten organisaties per 2 februari 2025 zorgen voor AI-geletterdheid onder hun personeel en andere personen die namens hen AI-systemen exploiteren en gebruiken. Deze verplichting geldt voor alle soorten AI-systemen.
Inzicht in kansen en risico’s
Wat verstaan we onder AI-geletterdheid? In art. 3 sub 56 van de AI-verordening vind je een definitie van het begrip ‘AI-geletterdheid’: vaardigheden, kennis en begrip die aanbieders, gebruiksverantwoordelijken en betrokken personen, rekening houdend met hun respectieve rechten en plichten in het kader van deze verordening, in staat stellen geïnformeerd AI-systemen in te zetten en zich bewuster te worden van de kansen en risico’s van AI en de mogelijke schade die zij kan veroorzaken. Vrij vertaald kan worden gezegd dat AI-geletterdheid de vaardigheden, kennis en competenties omvat die van belang zijn voor het effectief gebruik, het begrip en de evaluatie van AI-technologie en de impact ervan op de samenleving. Het gaat daarbij niet alleen om technische expertise; het omvat ook ook juridisch-ethische, sociale en praktische aspecten. Dat betekent dat AI-geletterdheid verder gaat dan basiskennis van de technologie; het vereist inzicht in zowel de voordelen als de risico’s van AI-systemen.
Voldoende niveau
Art. 4 van de AI-verordening bepaalt dat van aanbieders en gebruikers (de AI-verordening spreekt van ‘gebruiksverantwoordelijken’) van AI-systemen wordt verwacht dat ze maatregelen treffen om er zo veel mogelijk voor te zorgen dat hun personeel en andere personen die namens hen AI-systemen exploiteren en gebruiken, beschikken over een voldoende niveau van AI-geletterdheid. Daarbij moeten aanbieders en gebruikers van AI-systemen rekening houden met hun technische kennis, ervaring, onderwijs en opleiding en de context waarin de AI-systemen zullen worden gebruikt, en met de personen of groepen personen ten aanzien van wie de AI-systemen zullen worden gebruikt.
Concrete invulling
Om te beginnen is het van belang om op te merken dat de AI-verordening zelf – buiten art. 4 om – nog niet zo veel handvatten biedt om te bepalen wat er concreet onder AI-geletterdheid verstaan wordt. De komende jaren zal het dus aan de nationale en Europese toezichthouders en aan het Europese Hof van Justitie zijn om een concrete invulling te geven aan het begrip AI-geletterdheid en aan de maatregelen die door aanbieders en gebruikers van AI-systemen in dat kader moeten worden genomen.
Context AI-systeem
Het belang van AI-geletterdheid wordt nader omschreven in overweging 20 van de AI-verordening: “Om de grootste voordelen van AI-systemen te behalen en tegelijkertijd de grondrechten, gezondheid en veiligheid te beschermen en democratische controle mogelijk te maken, moeten aanbieders, gebruiksverantwoordelijken en betrokken personen door middel van AI-geletterdheid van de nodige kennis voorzien worden om onderbouwde beslissingen te nemen met betrekking tot AI-systemen.” Daarbij is de context waarbinnen het AI-systeem gebruikt gaat worden en de personen ten aanzien van wie het AI-systeem zal worden gebruikt van invloed op de mate waarin een aanbieder of gebruiker van een AI-systeem moet inzetten op AI-geletterdheid. Wordt een AI-systeem ingezet in de zorg ten aanzien van cliënten met dementie, dan zal er meer van de AI-geletterdheid van de betrokken personen mogen worden verwacht dan wanneer het AI-systeem niet ziet op kwetsbare personen en in een andere, minder impactvolle omgeving als de zorg ingezet zal gaan worden. Concreet betekent dit dat organisaties ervoor moeten zorgen dat hun personeel en andere betrokken partijen vanaf 2 februari 2025 voldoende kennis en kunde bezitten over zowel de technische aspecten van gebruikte AI-systemen als de ethische, sociale en praktische aspecten.
Ethische aspecten
Ethiek is de discipline die zich bezighoudt met het reflecteren op wat als goed of juist handelen bestempeld moet worden. Ook al is het recht een andere discipline, het recht hangt wel nauw samen met ethiek, omdat in het recht concrete normen voor goed of juist handelen zijn opgenomen. Zo geeft de AI-verordening regels om op een goede manier gebruik te maken van AI-systemen. De juridisch-ethische aspecten van AI richten zich daarmee op ‘responsible AI’, het op een verantwoorde manier inzetten van AI. Een door de Europese Commissie opgerichte deskundigengroep heeft in dat kader in 2019 Ethische richtsnoeren voor betrouwbare AI gepubliceerd. Een vergelijkbaar initiatief is opgepakt door Unesco. Unesco heeft in 2021 Unesco’s Aanbeveling over De ethiek van kunstmatige intelligentie gepubliceerd. Deze aanbeveling is een internationale overeenkomst tussen 193 landen, waar ook Nederland partij bij is. De aanbeveling biedt een ethisch kader op 11 verschillende thema’s, waaronder gezondheid, gender en onderwijs & onderzoek. Zo beveelt Unesco bijvoorbeeld rondom het thema gezondheid aan tot richtlijnen te komen voor mens-robot interacties die mensenrechten in acht nemen en kwetsbaren beschermen. En rondom het thema gender stelt de aanbeveling voor dat moet worden gewerkt aan het tegengaan van genderstereotypen en discriminerende vooroordelen in AI-systemen, bijvoorbeeld door het creëren van diverse, open en betrouwbare datasets.
Sociale aspecten
Bij sociale aspecten van AI-systemen kun je bijvoorbeeld denken aan de snelheid waarmee een grote hoeveelheid kennis verkregen kan worden (kansen), maar ook de keerzijde dat AI vaak als black box wordt bestempeld waardoor het moeilijk is om een kwaliteitscontrole uit te voeren op de werking van het AI-systeem en een bias in de data (te vergelijken met het kijken door een gekleurde bril) er moeilijk uit te filteren is. Daarmee kom je ook weer uit op de ethische aspecten die verbonden zijn aan de ontwikkeling en het gebruik van AI-systemen.
Praktische aspecten
Bij praktische aspecten van AI-systemen gaat het om de praktische toepassing van een AI-systeem: is dit AI-systeem geschikt voor het doel waarvoor een organisatie het wil gaan inzetten, is AI überhaupt geschikt om te gebruiken om een bepaalde taak uit te voeren en zo ja, met welke praktische aandachtspunten moet dan rekening worden gehouden bij het ontwerpen en gebruiken van het AI-systeem?
Elkaar wegwijs maken
Dit vergt nogal wat van organisaties, omdat iedere bij het AI-systeem betrokken persoon zijn eigen expertisegebied heeft. Een techneut zal veel weten van de technische aspecten van een AI-systeem, maar zal zich waarschijnlijk niet zo veel bezighouden met de ethische aspecten van AI. En een jurist binnen een organisatie zal veel kennis hebben van de juridisch-ethische aspecten van een AI-systeem, maar weinig tot niets weten van de technische kant van zo’n systeem. Het is voor organisaties daarom van belang om ervoor te zorgen dat de verschillende betrokken disciplines samen gaan optrekken en elkaar wegwijs maken in de verschillende aspecten. Met andere woorden: het is belangrijk om met multidisciplinaire teams aan de slag te gaan met het voorschrift van art. 4 van de AI-verordening. En daarbij dringt de tijd, aangezien het zo 2 februari 2025 is! Zoals hierboven al aangegeven, is het wel lastig om op dit moment in te schatten hoe ver de verplichtingen van aanbieders en gebruikers van AI-systemen concreet gaan reiken ten aanzien van de AI-geletterdheid, omdat er nog geen rechtspraak beschikbaar is rondom art. 4 van de AI-verordening. Uiteraard houden we de ontwikkelingen op dit terrein nauwlettend in de gaten.
Katalysator
Het voorschrift rondom het treffen van maatregelen rondom AI-geletterdheid in organisaties is niet alleen relevant voor bedrijven, maar ook voor onderwijs- en onderzoeksinstellingen zoals Fontys. Ook binnen Fontys is het van belang om maatregelen te treffen met als doel de AI-geletterdheid van studenten, docenten en onderzoekers van de verschillende opleidingsinstituten en onderzoeksgroepen te vergroten. Het voordeel is dat er binnen Fontys al veel in multidisciplinaire teams aan onderzoek wordt gedaan, en ook op onderwijsterrein wordt steeds meer samengewerkt door de verschillende opleidingen. Hopelijk vormt de inwerkingtreding van de AI-verordening een katalysator om nog meer multidisciplinair samen te gaan werken, zowel op het terrein van onderzoek als op het terrein van onderwijs. Reeds afgeronde en lopende projecten hebben al laten zien tot wat voor mooie resultaten dit kan leiden.
Professionaliseren
Een initiatief dat Fontys genomen heeft om haar medewerkers meer bewust te maken van de mogelijkheden van AI, is het het workshopprogramma ‘Een wendbare AI-professional’. Doel van dit programma is medewerkers kennis te laten maken met AI en hoe zij dit in hun werk kunnen gebruiken. Na een reeks basisworkshops, wordt er nu een verdiepend programma rondom verschillende thema’s aangeboden. En het mooie is dat medewerkers van verschillende afdelingen deze workshop samen volgen. Door ervaringen uit te wisselen, leren ze van elkaar en realiseren ze zich wellicht beter welke impact AI kan hebben op de gehele organisatie. En dat je hierin een gezamenlijke verantwoordelijkheid hebt.
Mooie kans
Laten we de AI-verordening daarom niet alleen zien als een extra ‘last’ vanwege de grote hoeveelheid verplichtingen die uit deze verordening voortvloeien voor aanbieders en gebruikers van AI-systemen, maar ook als een mooie kans om nog meer multidisciplinair te gaan samenwerken met elkaar! En houd het Kenniscentrum Applied AI for society vooral op de hoogte van alle mooie multidisciplinaire samenwerkingen rondom AI, zodat we elkaar kunnen blijven inspireren.
