Artificial intelligence kan ontzettend veel, maar heeft ook een aantal nadelen. Het grootste is dat we soms zelf niet helemaal kunnen uitleggen hoe een AI werkt. Als we de stap willen zetten naar een toepassing van AI, waarbij daadwerkelijk veiligheid of gezondheid op het spel staat, hebben we een beter inzicht nodig in hoe AI tot keuzes komt. Explainable AI is daarom een van de belangrijkste ontwikkelingen, zeker als het gaat om de inzet van AI als ondersteunende technologie in, bijvoorbeeld, de zorg. Ralf Raumanns doet hier onderzoek naar.
Assistent Technology
Raumanns onderzoekt de inzet van AI voor het analyseren van huidaandoeningen. Hierbij wordt gekeken naar manieren, waarop AI hints kan geven aan de arts over de kenmerken die de diagnose drijven. Dat betekent dat de AI niet alleen een diagnose geeft dat een huidtekening riskant is, maar ook dat dit op basis van kleur, rand of vorm gesignaleerd is. Zorg zien we namelijk nog altijd als een relatie tussen mens en mens, maar AI kan wel de routinematige checks uitvoeren. Daarmee wordt het een ‘assistant technology’ die artsen ontlast, bijvoorbeeld bij periodieke checks.
Menselijke check
We vinden het idee dat een systeem conclusies trekt spannend, daarom is het belangrijk dat de AI goed gevoed wordt. Door crowd funding wordt het algoritme gevoed met beelden die al geanalyseerd zijn door mensen. Door crowdworkers in te zetten, wordt de human touch geborgd in het proces. Dit zou in de toekomst veel mogelijkheden bieden in de zorg, die zit te springen om oplossingen voor het personeelsgebrek.
Hoe ziet een toekomst met Explainable AI eruit? Daarover hoor je meer in AI Garage #6.
De podcast AI Garage is een initiatief van Fontys ICT, het lectoraat AI & Big Data en het Kenniscentrum Applied AI for Society. Erdinç Saçan is de vaste host.
