Philips : “We moeten vooroordelen niet meeprogrammeren”

Voorbeelden van hoe het mis zou kunnen gaan zijn er genoeg, aldus Arlette: "Het is een bekend feit dat veel medisch onderzoek is gebaseerd op data van met name witte mannen. AI-modellen worden vaak getraind op databases met een vertegenwoordiging van vrouwen van maximaal 30 procent. Dat kan een enorme impact hebben.

Zo is bekend dat symptomen van hartfalen bij vrouwen minder goed worden herkend, omdat de kennis en informatie die beschikbaar is, met name gebaseerd is op witte mannen van middelbare leeftijd. Maar ook jonge vrouwen kunnen hartfalen krijgen, alleen zijn de symptomen vaak anders.

Dat laat maar weer zien: vooroordelen in data en AI-modellen kunnen levensgevaarlijk zijn. Andersom is gebleken dat mannen vaak worden ondergediagnosticeerd voor depressie en eetstoornissen, waar culturele vooroordelen over het uiten van emoties mogelijk aan bijdragen."

Niet alleen geslacht is een belangrijke factor, maar ook afkomst, leeftijd en fysieke eigenschappen als lengte en gewicht spelen mee. "Een bekend recent voorbeeld in de medische wetenschap is patiëntonderzoek naar de nierfunctie. Een aantal onderzoekers heeft ontdekt dat zwarte patiënten vaak een relatief betere score kregen bij nierfunctie-onderzoek dan witte mensen met dezelfde metingen, omdat er onterecht van werd uitgegaan dat zwarte mensen meer spiermassa zouden hebben. Als je bedenkt dat de resultaten van deze onderzoeken worden gebruikt om te bepalen of een patiënt in aanmerking komt voor een donornier, dan is dat best heftig."