AP ziet mogelijke risico's bij inzet van AI door incassobureaus

DEN HAAG (ANP) - De Autoriteit Persoonsgegevens (AP) ziet mogelijke risico's bij de inzet van kunstmatige intelligentie door incassobureaus, omdat die steeds vaker algoritmes en AI gebruiken. Volgens de AP gaat het werk sneller, maar zijn er risico's op onjuiste beslissingen, discriminatie en ongelijke behandeling.

De AP deed hiervoor een steekproef onder bureaus. AI wordt daarbij ingezet voor het inschatten van de kans dat een schuld succesvol geïnd kan worden. Ook wordt AI gebruikt om meer informatie van debiteuren te zoeken in registers of op het internet, zoals contactgegevens, bankgegevens, bedrijfsgegevens of activiteit op sociale media.

AP-bestuurslid Katja Mur: "Als jij te maken krijgt met een incasso, kan dat flinke gevolgen voor je hebben. Je moet misschien veel geld betalen. Nou kan AI ook fouten maken." Daarom moet bij belangrijke beslissingen altijd een menselijke medewerker betrokken zijn die verantwoording kan afleggen, aldus de AP.

Algoritmes

Volgens de AP blijkt uit het onderzoek dat incassobureaus zelf niet altijd weten wat precies de regels zijn bij de inzet van algoritmes en AI. De toezichthouder acht de kans reëel dat volledig geautomatiseerde, en dus verboden, besluitvorming in de praktijk voorkomt, zonder dat bureaus zich daarvan bewust zijn.

De AP doet hiervoor een aantal aanbevelingen, zoals menselijke tussenkomst bij belangrijke besluiten en toetsing van verwerking van persoonsgegevens aan privacywetgeving. Ook moet de informatievoorziening aan mensen met schuldverplichtingen verbeteren door heldere uitleg over de inzet van AI en algoritmes en actieve communicatie van rechten, aldus de AP.