AI-systeem voor kankerdiagnose herkent ook je leeftijd, geslacht en afkomst en dat is een probleem

De wetenschappers hebben bestaande AI-systemen getest op ruim 28.000 foto's van kankerweefsel van meer dan 14.000 patiënten. Ze keken naar twintig verschillende soorten kanker. Bij bijna een derde van de diagnostische taken presteerde de AI slechter voor bepaalde groepen patiënten.

Zo bleek de AI minder accuraat bij het onderscheiden van verschillende soorten longkanker bij vrouwen en bij ouderen. Bij borstkanker waren de diagnoses minder betrouwbaar voor Afro-Amerikanen en voor oudere patiënten. En bij nierkanker deed de AI het slechter bij het classificeren van tumoren bij bepaalde etnische groepen.

Het probleem begint al bij de data waarop de AI is getraind. Grote databases met kankerweefsel bevatten vooral foto's van witte patiënten. Slechts zeventien procent van de patiënten behoort tot een minderheidsgroep. Hierdoor leert de AI vooral hoe kanker eruitziet bij witte patiënten.

Maar er is meer aan de hand. De onderzoekers ontdekten dat tumoren er daadwerkelijk anders uitzien bij verschillende groepen mensen. Tumoren van oudere patiënten bevatten bijvoorbeeld meer bindweefsel en minder immuuncellen. Bij Afro-Amerikanen zien de onderzoekers een hogere dichtheid aan kankercellen en minder ontstekingscellen in het tumorweefsel.

Ook op genetisch niveau zijn er verschillen. Bepaalde mutaties komen vaker voor bij specifieke groepen. De AI leert deze patronen herkennen, ook als ze niet direct relevant zijn voor de diagnose.

Om dit probleem aan te pakken ontwikkelden de wetenschappers FAIR-Path, een verbeterd AI-systeem. De truc zit in hoe het systeem wordt getraind. In plaats van simpelweg te leren een onderscheid te maken tussen gezond en ziek weefsel, leert FAIR-Path actief om eigenschappen die te maken hebben met leeftijd, geslacht of etnische achtergrond te negeren.

FAIR-Path lost bijna negentig procent van de ongelijkheden op die in de standaardsystemen voorkwamen. Bij het onderscheiden van verschillende soorten borstkanker verdween de ongelijkheid tussen etnische groepen volledig. Ook de leeftijdsverschillen bij het herkennen van nierkanker werden weggewerkt.

Bron: Cell Reports Medicine