Ifølge Danmarks Frie Forskningsfond kan fordomme og forudindtagethed betyde, at læger fx er mindre tilbøjelige til at give psykologtimer til mænd eller helt undlader at diagnosticere mænd med depression.

Men den slags vurderinger kan smitte af på den kunstige intelligens, der bruges i sundhedsvæsnet, der altså ikke er helt så retfærdig, som vi tror.

Den kunstige intelligens bruger nemlig en såkaldt prædiktiv algoritme, der træffer beslutninger efter den data, den trækker fra. Derfor vil den kunstige intelligens adoptere den partiskhed, som lægerne måtte have.

Det skal projektet Bias and fairness in medicine støttet af Den frie Forskningsfond forsøge at lave om på med en ny algoritme.

- Når vi laver en veltrænet algoritme, vil den ikke have den støj, som et menneske har. En algoritme har ikke en dårlig dag, som en læge kan have. Og med en retfærdig algoritme, som vi vil lave, kan vi opnå lige god diagnostik eller behandling for alle grupper og fjerne nogle af forudindtagethederne, siger projektleder Aasa Feragen-Hauberg, der er professor ved Institut for Matematik og Computer Science på Danmarks Tekniske Universitet.

Fair behandling
Projektet skal løbe over tre år, og første skridt er at lave et registerstudie, hvor forskerne ser på depressionsdata hos danske patienter. Ud fra det testes hypotesen om, at der er skævheder i dataet. Diagnoser skal holdes op med hvilken type behandling, patienterne får, baseret på køn, alder, geografi og indkomst.

Derefter skal det sammen med en forsker i etik fra Københavns Universitet undersøges, hvad det overhovedet vil sige, at der er retfærdighed i sundhedsvæsnet.

- Det ville være et stort problem, hvis man for eksempel ikke måtte give mænd den bedst mulige behandling for hjertesygdomme, fordi vi er dårligere til at diagnosticere kvinder for det samme. Det skal medtænkes i den etiske analyse af en fair sundhedsalgoritme, siger Aasa Feragen-Hauberg.

Og sidste skridt er altså at koble resultaterne og forhåbentlig kunne skabe en retfærdig algoritme.

- De skal være ude af stand til at diskriminere nogle patienter. Alle har ret til en korrekt diagnosticering og en fair behandling, siger Aasa Feragen-Hauberg.

ibs

Kunstig intelligens skal stoppe diskrimination i sundhedsvæsnet