Article ICT/Magazine “Onderzoek naar menselijke benadering van AI”

In an innovative project funded by the NWO, the PersON consortium, led by Radboud University, aims to optimize cancer care. This initiative focuses on personalizing treatment plans by linking AI technology with patient preferences. The goal is a more patient-centered, understandable, and integrated approach in oncology.

Steeds meer mensen krijgen kanker. De meesten van hen krijgen een standaardbehandeling, zonder dat er rekening wordt gehouden met de wensen en verwachtingen van de patiënt. De Nederlandse Organisatie voor Wetenschappelijk Onderzoek (NWO) verstrekt subsidie aan een groot consortium van 26 organisaties dat de komende vijf jaar onderzoek doet naar beslisondersteunende technologie in het oncologische vakgebied. Wat betekent dit precies en wat gaat het opleveren?

Johan Kwisthout is in het dagelijks leven opleidingsdirecteur AI bij Radboud Universiteit. Daarnaast is hij projectleider van het consortium PersON, een toepasselijke naam die staat voor Explainable, Maintainable, and Trustworthy Decision Support Systems for Personalised Care in Oncology. Hij vertelt: “We willen beslisondersteuning bij kanker veel meer personaliseren door niet alleen de meest kansrijke behandeling te voorspellen, maar ook de verschillende behandelopties te vergelijken op basis van de voorkeuren van de patiënt. Een vader van twee jonge kinderen staat immers anders in het leven en in zijn ziekte dan een vrijgezel van bijna 80. Toch krijgen ze nu vaak nog precies dezelfde behandeling voorgesteld.”

Er worden in het oncologische vakgebied al veel AI-modellen ingezet. Deze zijn vrijwel uitsluitend gebaseerd op objectieve medische kennis. Ze kunnen heel goed voorspellen of de overlevingskans het hoogst is als je eerst bestraalt en dan opereert, of andersom. Maar ze zijn niet ontwikkeld om te voorspellen hoe een patiënt een operatie na een bestralingstraject zal ervaren, of bestraling na een operatie. Terwijl dat natuurlijk relevante informatie is in de besluitvorming.

Kwisthout: “Wij hebben een unieke AI-opleiding die is ingebed in de faculteit Sociale Wetenschappen. Dat betekent dat wij van oudsher al veel aandacht hebben voor de menselijke cognitie en menselijk gedrag.” Daarom is de Radboud Universiteit kartrekker van dit project.

AI-modellen onderhouden

Het onderzoek kent vier speerpunten. De eerste is integratie in het proces. “Veel AI-modellen worden alleen lokaal toegepast,” vertelt Kwishout, “maar maken geen deel uit van het totale proces. Vaak moet je als arts een losse applicatie ernaast openen, terwijl wij graag willen dat zo’n model deel uitmaakt van de workflow van een oncoloog.”
Het tweede onderzoeksgebied is de uitbreidbaarheid en/of aanpasbaarheid op het moment dat er nieuwe behandelopties bijkomen of protocollen worden aangepast. Kwisthout: “Het kost ziekenhuizen ontzettend veel tijd en moeite om de AI-modellen waarmee ze werken te onderhouden. Essentieel omdat je nieuwe behandelopties uiteraard wilt meenemen in je afweging. Wij onderzoeken hoe je dit het best kunt organiseren.”
Een derde terrein waar het consortium zich op stort, is de uitlegbaarheid. Hoe meer verschillende typen data je in je model verwerkt, hoe complexer het wordt en hoe minder goed een oncoloog nog begrijpt hoe het model tot zijn advies komt. Terwijl dat voor een goede afweging van de verschillende opties wel essentieel is.
Het laatste speerpunt is hoe je subjectieve informatie zoals de wensen en ervaringen van de patiënt meeweegt in de beslisondersteuning.

Interdisciplinaire samenwerking

Het consortium is op 1 september 2023 officieel van start gegaan. Met het geld van NWO worden vijf jaar lang dertien onderzoeksposities gefinancierd. Die onderzoekers gaan zich vooral richten op uitdagingen die interdisciplinaire samenwerking vragen. “We brengen mensen bij elkaar die elkaar anders niet zo snel zouden vinden”, zegt Kwisthout. “Neem uitlegbaarheid van AI: je hebt mensen nodig die de techniek begrijpen, dataspecialisten die heel goed weten welke data je wel en niet kunt combineren, softwareontwikkelaars die op basis hiervan een oplossing ontwikkelen, oncologen die aangeven wanneer ze een door AI gegeven advies vertrouwen en wanneer niet, patiënten die feedback geven op de manier waarop de beslisondersteunende software de behandelopties aanreikt, juridische kennis in hoeverre een ziekenhuis aansprakelijk kan worden gesteld voor een verkeerd advies door AI.”

Publiek-private samenwerking

Het consortium is een mooi voorbeeld van publiek-private samenwerking, waarbij beide kanten elkaar versterken, vindt Joop Snijder, hoofd Research Center AI bij Info Support en deelnemer aan het consortium. “Het doel van ons research center is om wetenschappelijke kennis te vertalen naar producten die we naar de markt kunnen brengen. We richten ons op de vertaalslag van wetenschap naar de praktijk. De universiteiten die in dit consortium samenwerken, voorzien in de wetenschappelijke kennis, marktpartijen zoals wij zorgen ervoor dat die kennis ook direct wordt vertaald in software. We willen voorkomen dat er onderzoek wordt gedaan dat eerst jarenlang in een la belandt.”

Want de nood om AI menselijker te maken is hoog, vindt Snijder. “Op dit moment bestaat er voor veel beslisondersteunende software nog een behoorlijk grote afstand tussen de technische uitlegbaarheid en wat mensen als goede uitleg ervaren. Techneuten doen vaak aannames over hoe andere mensen een resultaat interpreteren. Ze vergeten dat er grote groepen zijn die zelfs al moeite hebben met eenvoudige kansberekeningen. Dat is waarom er op dit moment in allerlei domeinen zoveel fout gaat met AI. Denk alleen maar aan de toeslagenaffaire. Het model was waarschijnlijk redelijk goed, maar de mensen die met de uitkomsten moesten werken, interpreteerden de data anders.”

Oncologiepatiënten krijgen erg veel informatie te verwerken. Lang niet alles blijft hangen en ze baseren hun beslissing vaak op iets dat voor hen heel belangrijk is of waar ze bang voor zijn. Dat heeft Snijder zelf ook ervaren. Hij onderging een harttransplantatie en een niertransplantatie. “Wanneer je patiënt bent, ben je het merendeel van de tijd lijdend voorwerp. Er gebeurt van alles met je waarvan je niet altijd precies weet waarom dat gebeurt, bijvoorbeeld erg belastende onderzoeken waar je enorm tegenop ziet en die alleen maar bedoeld zijn om een kleine kans op een complicatie uit te sluiten. Terwijl goed geïnformeerde patiënten misschien wel zeggen: ik neem dat risico op een complicatie voor lief. Mijn hoop is dat we patiënten in staat stellen veel beter geïnformeerde beslissingen te nemen.”