Hoe ga je op een verantwoorde en ethische manier om met data, vooral wanneer het gezondheidsdata of medische gegevens betreft? Hoe houd je rekening met alle aspecten van data-gebruik: van ontwerp van algoritmes tot communicatie naar betrokken patiënten, zorgprofessionals en pers? Wat doe je als het fout gaat? De Utrecht Data School ontwikkelde een instrument om ethische problemen in dataprojecten en databeleid te herkennen. In samenwerking met Nictiz werd DEDA getest in de praktijk.
In een zorgsector die snel digitaliseert, worden steeds meer data-gedreven beslissingen genomen. Betere informatie kan immers leiden tot betere gezondheid. Maar betere informatie gaat ook over een ethisch verantwoorde omgang met informatie. Hoe geef je daar in de praktijk vorm aan? Nictiz heeft het thema ethiek opgepakt om juist die vraag te beantwoorden.
In het digitale magazine eHealth en ethiek van eerder dit jaar werd dit onderwerp al verkend. De samenwerking met de Utrecht Data School over DEDA gaat daarop verder. DEDA staat voor ‘de ethische data assistent’, een instrument ontwikkeld door de Utrecht Data School. De ethische data assistent helpt onder andere data-analisten, projectmanagers en beleidsmakers om ethische problemen in dataprojecten, datamanagement en databeleid te herkennen.
Valkuilen
“Projecten met een data-gedreven bestuur bieden de mogelijkheid om in plaats van reactief pro-actief te handelen, bieden meer inzichten door datacombinatie en -analyse, en hopelijk verbetering in efficiëntie. Tegelijkertijd zijn er een aantal valkuilen, waaronder biases (vooroordelen) in datasets, foutieve uitkomsten en uitdagingen rond databeheer en -opslag”, aldus Mirko Tobias Schäfer, medeoprichter van Utrecht Data School (UDS).
De data-school is gelieerd aan de Universiteit Utrecht en doet onderzoek naar de rol van data in relatie tot democratie en burgerschap. Schäfer begeleidt bij UDS data-projecten bij bijvoorbeeld gemeenten of financiële instellingen. “Het is moeilijk om kritisch te zijn over data, want data weerspiegelt de meetbare, objectieve werkelijkheid, denkt men. Bij Utrecht Data School willen we opdrachtgevers doen inzien dat inzet en gebruik van data altijd een keuze, vooringenomenheid of bias bevat.”
Data-ethiek
Praktische instrumenten om die ethische dilemma’s te bespreken, waren er nauwelijks. Daarom ontwikkelde UDS de ethische data-assistent (DEDA), om data-ethiek concreet en toepasbaar te maken. Zie het als een instrument voor overleg en documentatie bij projecten rond data, waarbij alle belanghebbenden met elkaar om tafel zitten.
Tijdens de door Nictiz georganiseerde workshop op 25 oktober werden drie data-projecten besproken aan de hand van het DEDA-model. Het doel van deze workshop was tweeledig: enerzijds het model testen in een specifieke zorgcontext, en anderzijds het gesprek over ethische problemen in dataprojecten, datamanagement en databeleid met elkaar aangaan. De deelnemers waren onder andere ethici, zorgverleners en beleidsmakers.
Gecontroleerde dataset
Het instrument begint met een projectdefinitie, de vaststelling welke data gebruikt wordt en waarom. Daarna biedt DEDA een aantal data-gerelateerde overwegingen en algemene overwegingen. Door het instrument te gebruiken loop je langs vragen over algoritmes, bronnen (‘is de kwaliteit van de dataset gecontroleerd?’), anonimiseren en visualiseren van data, en toegang tot en hergebruik van data.
Volgens de makers biedt DEDA belangrijke vragen die vooraf gesteld en beantwoord moeten worden: hoe transparant bent u in uw project naar burgers toe? Wie mist er of is niet zichtbaar in uw dataset? Is de steekproef een waarheidsgetrouwe representatie van de populatie? Het zijn vragen uit het model die stof tot discussie en nadenken geven.
Lifestyle app
Een case werd gepresenteerd door Marcel van der Kuil, over een lifestyle app voor hartpatiënten die een persoonlijk revalidatie-plan krijgen. Franka Karsten bracht een ethisch vraagstuk in vanuit Stichting Philadelphia Zorg, over gebruik van GPS-tracking devices voor cliënten. Caroline Yntema van datascience bedrijf Pacmed presenteerde een case over beslissingsondersteunende software voor IC-artsen, bestaande uit een dashboard en machine learning algoritmes welke de arts ondersteuning bieden bij de keuze welke patiënten veilig met ontslag naar de verpleegafdeling kunnen.
“Ethische buikpijn”
Elk data-project in de zorg heeft te maken met specifieke juridische en ethische aspecten. DEDA helpt bij het boven tafel krijgen en aanpakken van die soms complexe vraagstukken, bleek aan het einde van de workshop. Dat kan in potentie leiden tot betere projectresultaten en voorkomt, zoals een van de deelnemers het noemde “ethische buikpijn”. De ervaringen met de DEDA workshops voor de zorg zullen door Nictiz en UDS worden verzameld en gedeeld.
Meer weten over dit onderwerp? Op donderdag 22 november organiseren Nictiz en ECP de bijeenkomst Digitale Zorg en Ethiek in Utrecht. Of lees meer over DEDA van de Utrecht Data School.
Dit artikel is op 31 oktober 2018 gepubliceerd op www.smarthealth.nl.