eXplainable AI in Personalized Mental Healthcare

Naarmate kunstmatige intelligentie (AI) geavanceerder wordt, wordt het ook steeds moeilijker om te begrijpen hoe resultaten en output worden geproduceerd door steeds complexere, dynamisch veranderende processen. Ondertussen zijn kwaliteitskenmerken zoals transparantie, eerlijkheid en nauwkeurigheid cruciaal om het vertrouwen in AI-ondersteunde besluitvorming te verzekeren. In dit MIT-project wordt het wereldwijd eerste AI-platform ontwikkeld dat de gebruikers van een AI-systeem betrekt bij het maken van keuzes over de ontwikkeling en het gebruik van AI- en ML-algoritmen door middel van menselijke feedbackloops. Deze innovatie zal bijdragen aan de generieke ontwikkeling van AI in het NL-AIC-programma door het ontwikkelen van nieuwe XAI-paradigma's in Behavioral AI Technology, Incrementeel Leren technologie en Explainable-methoden in MLOps. Dit MIT-voorstel past volledig in het MIT-programma van de Nederlandse AI Coalitie door het gebruik van “Incrementeel Leren” (een onderdeel van Supervised Learning) in eXplainable AI-systemen en van interactieve feedbackloops rondom de AI-algoritmen. Het projectresultaat wordt een complex van drie reeds innovatieve systemen, 1) voor design van algoritmen (Councyl) naar 2) operatie (MLOps in Deeploy) naar 3) een live omgeving (NiceDay) met recommenders voor professionals in de Geestelijke GezondheidsZorg (GGZ). Dit complex wordt voorzien van objectieve feedbackloops (data) en te kwantificeren subjectieve “human-in-the-loop feedback vanuit de praktijk in NiceDay om de algoritmen voortdurend te kunnen blijven verbeteren. Het voorstel draagt daarmee bij aan het NL-AIC programma “Health & Care” en “Human-oriented AI.”