eXplainable AI in Personalized Mental Healthcare
Dit project ontwikkelt een innovatief AI-platform dat gebruikers betrekt bij het verbeteren van algoritmen via feedbackloops, gericht op transparantie en betrouwbaarheid in de geestelijke gezondheidszorg.
Projectdetails
Inleiding
Naarmate kunstmatige intelligentie (AI) geavanceerder wordt, wordt het ook steeds moeilijker om te begrijpen hoe resultaten en output worden geproduceerd door steeds complexere, dynamisch veranderende processen. Ondertussen zijn kwaliteitskenmerken zoals transparantie, eerlijkheid en nauwkeurigheid cruciaal om het vertrouwen in AI-ondersteunde besluitvorming te verzekeren.
Projectdoel
In dit MIT-project wordt het wereldwijd eerste AI-platform ontwikkeld dat de gebruikers van een AI-systeem betrekt bij het maken van keuzes over de ontwikkeling en het gebruik van AI- en ML-algoritmen door middel van menselijke feedbackloops. Deze innovatie zal bijdragen aan de generieke ontwikkeling van AI in het NL-AIC-programma door het ontwikkelen van nieuwe XAI-paradigma's in:
- Behavioral AI Technology
- Incrementeel Leren technologie
- Explainable-methoden in MLOps
Programma-inpassing
Dit MIT-voorstel past volledig in het MIT-programma van de Nederlandse AI Coalitie door het gebruik van “Incrementeel Leren” (een onderdeel van Supervised Learning) in eXplainable AI-systemen en van interactieve feedbackloops rondom de AI-algoritmen.
Projectresultaat
Het projectresultaat wordt een complex van drie reeds innovatieve systemen:
- Voor design van algoritmen (Councyl)
- Naar operatie (MLOps in Deeploy)
- Naar een live omgeving (NiceDay) met recommenders voor professionals in de Geestelijke Gezondheidszorg (GGZ)
Dit complex wordt voorzien van objectieve feedbackloops (data) en te kwantificeren subjectieve “human-in-the-loop” feedback vanuit de praktijk in NiceDay om de algoritmen voortdurend te kunnen blijven verbeteren.
Bijdrage aan programma's
Het voorstel draagt daarmee bij aan het NL-AIC programma “Health & Care” en “Human-oriented AI.”
Financiële details & Tijdlijn
Financiële details
Subsidiebedrag | € 350.000 |
Tijdlijn
Startdatum | Onbekend |
Einddatum | Onbekend |
Subsidiejaar | 2022 |
Partners & Locaties
Projectpartners
- Deeploy B.V.penvoerder
- Councyl B.V.
- NiceDay Healthcare Nederland B.V.
Land(en)
Vergelijkbare projecten binnen MIT R&D AI
Project | Regeling | Bedrag | Jaar | Actie |
---|---|---|---|---|
AI Driver CoachHet project ontwikkelt de AI Driver Coach om chauffeurscoaching, onderhoud en planning te optimaliseren, met als doel de transportsector te verbeteren en leiderschap te versterken. | MIT R&D AI | € 183.435 | 2023 | Details |
Lumi Screening – intuitive holograms for (preventive) healthcareAugmedit en Prescan ontwikkelen Lumi Screening, een technologie die lage-informatie-dichtheid MRI's omzet in interactieve hologrammen voor betere diagnose, educatie en besluitvorming in de gezondheidszorg. | MIT R&D AI | € 239.694 | 2023 | Details |
AI to render the best clinical trial design for a novel RNA therapy.Het ANTENA-project ontwikkelt een AI-platform om de optimale klinische studiepopulatie voor een nieuwe RNA-medicatie te identificeren, met als doel kosten en risico's van klinische proeven te verlagen. | MIT R&D AI | € 199.700 | 2023 | Details |
Onderwijsleerdoelen met AI koppelen aan leerinhoudHet project ontwikkelt een AI-model om betrouwbare educatieve content automatisch te koppelen aan leerdoelen, waardoor het onderwijs efficiënter lesmateriaal kan vinden. | MIT R&D AI | € 105.016 | 2023 | Details |
AI Driver Coach
Het project ontwikkelt de AI Driver Coach om chauffeurscoaching, onderhoud en planning te optimaliseren, met als doel de transportsector te verbeteren en leiderschap te versterken.
Lumi Screening – intuitive holograms for (preventive) healthcare
Augmedit en Prescan ontwikkelen Lumi Screening, een technologie die lage-informatie-dichtheid MRI's omzet in interactieve hologrammen voor betere diagnose, educatie en besluitvorming in de gezondheidszorg.
AI to render the best clinical trial design for a novel RNA therapy.
Het ANTENA-project ontwikkelt een AI-platform om de optimale klinische studiepopulatie voor een nieuwe RNA-medicatie te identificeren, met als doel kosten en risico's van klinische proeven te verlagen.
Onderwijsleerdoelen met AI koppelen aan leerinhoud
Het project ontwikkelt een AI-model om betrouwbare educatieve content automatisch te koppelen aan leerdoelen, waardoor het onderwijs efficiënter lesmateriaal kan vinden.
Vergelijkbare projecten uit andere regelingen
Project | Regeling | Bedrag | Jaar | Actie |
---|---|---|---|---|
Interactive and Explainable Human-Centered AutoMLixAutoML aims to enhance trust and interactivity in automated machine learning by integrating human insights and explanations, fostering democratization and efficiency in ML applications. | ERC STG | € 1.459.763 | 2022 | Details |
Human collaboration with AI agents in national health governance: organizational circumstances under which data analysts and medical experts follow or deviate from AI.This project aims to explore the socio-cultural dynamics of AI in health governance across six countries to develop a theory on ethical AI intervention and its impact on national health policies. | ERC STG | € 1.499.961 | 2023 | Details |
Conveying Agent Behavior to People: A User-Centered Approach to Explainable AIDevelop adaptive and interactive methods to enhance user understanding of AI agents' behavior in sequential decision-making contexts, improving transparency and user interaction. | ERC STG | € 1.470.250 | 2023 | Details |
Onderzoek naar AI en Machine Learning in de ontwikkeling van een animatieplatform voor Coachjezelf.Het project onderzoekt de haalbaarheid van een AI-gedreven zorgplatform om zorg efficiënter en toegankelijker te maken, met als doel een succesvolle implementatie in de Nederlandse context. | MIT Haalbaarheid | € 20.000 | 2023 | Details |
Interactive and Explainable Human-Centered AutoML
ixAutoML aims to enhance trust and interactivity in automated machine learning by integrating human insights and explanations, fostering democratization and efficiency in ML applications.
Human collaboration with AI agents in national health governance: organizational circumstances under which data analysts and medical experts follow or deviate from AI.
This project aims to explore the socio-cultural dynamics of AI in health governance across six countries to develop a theory on ethical AI intervention and its impact on national health policies.
Conveying Agent Behavior to People: A User-Centered Approach to Explainable AI
Develop adaptive and interactive methods to enhance user understanding of AI agents' behavior in sequential decision-making contexts, improving transparency and user interaction.
Onderzoek naar AI en Machine Learning in de ontwikkeling van een animatieplatform voor Coachjezelf.
Het project onderzoekt de haalbaarheid van een AI-gedreven zorgplatform om zorg efficiënter en toegankelijker te maken, met als doel een succesvolle implementatie in de Nederlandse context.