Explainable AI voor eindgebruikers en ontwikkelaars

Het gebruik van artificiële intelligentie in hedendaagse software groeit pijlsnel. Voor allerlei taken, zoals automatische classificatie van beelden, het capteren en interpreteren van allerlei signalen van de gebruiker (bijvoorbeeld bewegingen en interacties met objecten), het aansturen van automatische chatbots en het uitvoeren van machine translation, wordt er gebruik gemaakt van complexe algoritmes uit domeinen als machine learning, computer vision, planning en knowledge reasoning. Dit leidt echter tot twee prominente problemen: (1) voor softwareontwikkelaars zonder diepgaande expertise in deze domeinen is het moeilijk om de juiste algoritmes te kiezen en zeer uitdagend om een algoritme op de juiste manier aan te sturen (bijvoorbeeld feature selection uit sensor data), en (2) voor gebruikers van de software gedragen de algoritmes zich vaak als "black boxes" die gebruik maken van allerlei gebruikersdata zonder de gebruikers daarover te informeren. Beide problemen zijn uiteraard sterk gelinkt aan elkaar: de gebruiker van een AI algoritme - of dat nu een ontwikkelaar is of een eindgebruiker van de software - moet bewust gemaakt worden van de werking van het achterliggende AI algoritme en de juiste handvatten aangeboden krijgen om er controle over te verwerven. Een recent onderzoeksdomein dat hierop inspeelt is eXplainable Artificial Intelligence (XAI).

Project informatie

Projectpromotor:
Steven Palmaers
Status:
Lopend project
IWETO code:
  • Code nog in te vullen.
Startdatum – einddatum:
01/10/2019 – 30/09/2021
Budget:
€ 458 487,20
Projectcode:
4/DWO/2019/IT/T020 (DRD4ITT020)
VTE:
2,8 VTE
Medewerkers:

Steven Palmaers, Sam van Rijn, Robin Schrijvers, Conrad Hayen