eXplainable AI in Personalized Mental Healthcare

Dit project ontwikkelt een innovatief AI-platform dat gebruikers betrekt bij het verbeteren van algoritmen via feedbackloops, gericht op transparantie en betrouwbaarheid in de geestelijke gezondheidszorg.

Subsidie
€ 350.000
2022

Projectdetails

Inleiding

Naarmate kunstmatige intelligentie (AI) geavanceerder wordt, wordt het ook steeds moeilijker om te begrijpen hoe resultaten en output worden geproduceerd door steeds complexere, dynamisch veranderende processen. Ondertussen zijn kwaliteitskenmerken zoals transparantie, eerlijkheid en nauwkeurigheid cruciaal om het vertrouwen in AI-ondersteunde besluitvorming te verzekeren.

Projectdoel

In dit MIT-project wordt het wereldwijd eerste AI-platform ontwikkeld dat de gebruikers van een AI-systeem betrekt bij het maken van keuzes over de ontwikkeling en het gebruik van AI- en ML-algoritmen door middel van menselijke feedbackloops. Deze innovatie zal bijdragen aan de generieke ontwikkeling van AI in het NL-AIC-programma door het ontwikkelen van nieuwe XAI-paradigma's in:

  1. Behavioral AI Technology
  2. Incrementeel Leren technologie
  3. Explainable-methoden in MLOps

Programma-inpassing

Dit MIT-voorstel past volledig in het MIT-programma van de Nederlandse AI Coalitie door het gebruik van “Incrementeel Leren” (een onderdeel van Supervised Learning) in eXplainable AI-systemen en van interactieve feedbackloops rondom de AI-algoritmen.

Projectresultaat

Het projectresultaat wordt een complex van drie reeds innovatieve systemen:

  1. Voor design van algoritmen (Councyl)
  2. Naar operatie (MLOps in Deeploy)
  3. Naar een live omgeving (NiceDay) met recommenders voor professionals in de Geestelijke Gezondheidszorg (GGZ)

Dit complex wordt voorzien van objectieve feedbackloops (data) en te kwantificeren subjectieve “human-in-the-loop” feedback vanuit de praktijk in NiceDay om de algoritmen voortdurend te kunnen blijven verbeteren.

Bijdrage aan programma's

Het voorstel draagt daarmee bij aan het NL-AIC programma “Health & Care” en “Human-oriented AI.”

Financiële details & Tijdlijn

Financiële details

Subsidiebedrag€ 350.000

Tijdlijn

StartdatumOnbekend
EinddatumOnbekend
Subsidiejaar2022

Partners & Locaties

Projectpartners

  • Deeploy B.V.penvoerder
  • Councyl B.V.
  • NiceDay Healthcare Nederland B.V.

Land(en)

Netherlands

Vergelijkbare projecten binnen MIT R&D AI

MIT R&D AI

AI Driver Coach

Het project ontwikkelt de AI Driver Coach om chauffeurscoaching, onderhoud en planning te optimaliseren, met als doel de transportsector te verbeteren en leiderschap te versterken.

€ 183.435
MIT R&D AI

Lumi Screening – intuitive holograms for (preventive) healthcare

Augmedit en Prescan ontwikkelen Lumi Screening, een technologie die lage-informatie-dichtheid MRI's omzet in interactieve hologrammen voor betere diagnose, educatie en besluitvorming in de gezondheidszorg.

€ 239.694
MIT R&D AI

AI to render the best clinical trial design for a novel RNA therapy.

Het ANTENA-project ontwikkelt een AI-platform om de optimale klinische studiepopulatie voor een nieuwe RNA-medicatie te identificeren, met als doel kosten en risico's van klinische proeven te verlagen.

€ 199.700
MIT R&D AI

Onderwijsleerdoelen met AI koppelen aan leerinhoud

Het project ontwikkelt een AI-model om betrouwbare educatieve content automatisch te koppelen aan leerdoelen, waardoor het onderwijs efficiënter lesmateriaal kan vinden.

€ 105.016

Vergelijkbare projecten uit andere regelingen

ERC STG

Interactive and Explainable Human-Centered AutoML

ixAutoML aims to enhance trust and interactivity in automated machine learning by integrating human insights and explanations, fostering democratization and efficiency in ML applications.

€ 1.459.763
ERC STG

Human collaboration with AI agents in national health governance: organizational circumstances under which data analysts and medical experts follow or deviate from AI.

This project aims to explore the socio-cultural dynamics of AI in health governance across six countries to develop a theory on ethical AI intervention and its impact on national health policies.

€ 1.499.961
ERC STG

Conveying Agent Behavior to People: A User-Centered Approach to Explainable AI

Develop adaptive and interactive methods to enhance user understanding of AI agents' behavior in sequential decision-making contexts, improving transparency and user interaction.

€ 1.470.250
MIT Haalbaarheid

Onderzoek naar AI en Machine Learning in de ontwikkeling van een animatieplatform voor Coachjezelf.

Het project onderzoekt de haalbaarheid van een AI-gedreven zorgplatform om zorg efficiënter en toegankelijker te maken, met als doel een succesvolle implementatie in de Nederlandse context.

€ 20.000