Husgaard at 2024-03-24 12:42:05+00:00 ID: kwbzxr8

Det er bekymrende, at man er gået væk fra princippet om, at der skal være brug for at samkøre registre, og i stedet har tilladt Skat at indsamle data fra alle andre offentlige registre, herunder registre der indeholder særligt følsomme data som f.eks. vores sundhedsjournaler.

Særligt bekymrende er også det bias, som sådanne AI-systemer kan have, og som ofte bliver selvforstærket på grund af den måde de bruges på.

AI systemerne trænes på baggrund af en lang række data om hver enkelt person, både data om, hvorvidt de er blevet taget i at snyde med skatten, og alle de mange andre data som Skat nu har fået adgang til. Formålet er at udpege hvem der måske kunne tænkes at snyde i skat, så de kan undersøges nærmere. Men AI systemerne kan ikke forklare hvorfor de udpeger dem de gør, og så kommer bias ind:

Hvis f.eks. der er en lidt større andel af personer der bliver taget i skattesnyd der er overvægtige end der er i befolkningen som helhed, vil AI systemet være mere tilbøjeligt til at udpege overvægtige personer til kontrol. Det betyder at flere overvægtige får en ekstra kontrol, og at der derfor også er flere overvægtige der bliver taget i skattesnyd. Men så bliver den lidt større andel af personer der bliver taget i skattesnyd der er overvægtige end der er i befolkningen som helhed, jo endnu større. Og efter AI systemet er blevet trænet næste gang, vil det derfor blive endnu mere tilbøjeligt til at udtage overvægtige mennesker til kontrol.