Skip to content

TU/e gaat ‘black box’ van voorspellende modellen visualiseren

De modellen die toekomstige gebeurtenissen kunnen voorspellen zijn vaak zo complex dat bijna niemand meer begrijpt hoe een bepaald advies tot stand komt. Dat zorgt voor steeds meer twijfel bij betrokkenen over de uitkomsten. Om meer inzicht te krijgen in de totstandkoming van een voorspelling gaat de Technische Universiteit Eindhoven (TU/e) letterlijk in beeld brengen wat er gebeurt in zo’n model. Hoogleraar Visualisatie Jack van Wijk gaat dat doen met een TOP-subsidie van NWO van bijna € 700.000,-.

Voorspellende modellen maken gebruik van algoritmes die gebeurtenissen uit het verleden analyseren om toekomstige gebeurtenissen te voorspellen. Deze modellen worden steeds meer en voor een breed scala aan toepassingen gebruikt door het bedrijfsleven, de industrie, overheid, gezondheidszorg en het onderwijs. Voorbeelden hiervan zijn het voorspellen van benodigd onderhoud aan machines, het opsporen van fraude, de toekenning van kredietverlening en het bepalen van de medische behandeling met de hoogste slagingskans.

Inzicht in complexe modellen

Beslissingen en adviezen op basis van voorspellende modellen kunnen een grote invloed hebben op het leven van de betrokkenen. De laatste jaren worden er echter door de wetenschappelijke wereld, maar ook door de overheid en samenleving meer en meer vraagtekens gezet bij de inzet van dergelijke methoden. Vaak zijn de modellen namelijk zo complex, dat niemand meer kan begrijpen hoe een advies tot stand is gekomen. Van Wijk: “Als het gaat om een aanbeveling voor een film, dan vinden we dit prima. Maar als het gaat om een zware medische ingreep, het afwijzen van een hypotheek of het sturen van een helikopter naar een verdacht schip, dan zullen weinig mensen dat blindelings accepteren en navolgen.” Daarnaast kunnen de automatisch gegenereerde modellen ook leiden tot ongewenste negatieve neveneffecten zoals discriminatie, bijvoorbeeld wanneer beslissingen zijn gebaseerd op onjuiste of vertekende gegevens.

Om deze reden gaat Van Wijk met de TOP-subsidie van NWO nieuwe methoden en technieken ontwikkelen waarmee inzichtelijk gemaakt wordt welke keuzes en informatie hebben geleid tot een bepaalde aanbeveling van een automatisch beslismodel. Bijvoorbeeld welke informatie is gebruikt, of deze correct is, welke aspecten als meest relevant gezien worden, welke aspecten elkaar beïnvloeden, waarom in twee bijna dezelfde gevallen toch verschillende aanbevelingen gedaan worden, en wat de zekerheid is van een aanbeveling.

Gebruikers centraal

Dit inzicht is van belang voor verschillende betrokkenen; ontwikkelaars kunnen er toekomstige beslismodellen mee verbeteren en domeinexperts kunnen beoordelen of plausibele keuzes gemaakt zijn. Maar centraal in het onderzoek staan de personen waar de modellen beslissingen over nemen. Het streven is om tools te ontwikkelen waarmee zij intuïtief en eenvoudig door een beslismodel kunnen navigeren, gebruikmakend van interactieve visualisatie. Zo kunnen zij zelf beoordelen of het advies van het model eerlijk was en inzicht krijgen in hoe zij ervoor kunnen zorgen dat het model een volgende keer een andere beslissing neemt.

Samenwerking

Visualisatie staat centraal in het voorstel, maar voor het slagen is samenwerking met experts op het gebied van data analyse, mens-machine interactie en psychologie cruciaal. Het voorstel is voortgekomen uit samenwerking in het kader van JADS, de Jheronimus Academy of Data Science. Het onderzoek zal worden uitgevoerd door drie promovendi, begeleid door een team van onderzoekers met verschillende achtergronden.

No comments yet

Leave a Reply

You may use basic HTML in your comments. Your email address will not be published.

Subscribe to this comment feed via RSS

Deze website gebruikt Akismet om spam te verminderen. Bekijk hoe je reactie-gegevens worden verwerkt.