Nieuws Vandaag

AP waarschuwt voor risico's bij inzet AI door incassobureaus

De Autoriteit Persoonsgegevens (AP) ziet mogelijke risico's bij de inzet van kunstmatige intelligentie door incassobureaus, omdat die steeds vaker algoritmes en AI gebruiken. Volgens de AP gaat het werk sneller, maar zijn er risico's op onjuiste beslissingen, discriminatie en ongelijke behandeling.

De AP deed hiervoor een steekproef onder incassobureaus. AI wordt daarbij ingezet voor het inschatten van de kans dat een schuld succesvol kan worden geïnd. Ook wordt AI gebruikt om meer informatie van debiteuren, mensen met schuldverplichtingen, te zoeken in registers of op het internet, zoals contactgegevens, bankgegevens, bedrijfsgegevens of activiteit op sociale media.

"Als jij krijgt te maken met een incasso, kan dat flinke gevolgen voor je hebben. Je moet misschien veel geld betalen. Nou kan AI ook fouten maken", aldus AP-bestuurslid Katja Mur. Daarom benadrukt de AP dat bij belangrijke beslissingen altijd een menselijke medewerker betrokken moet zijn die verantwoording kan afleggen.

Regels kennen

Volgens de AP blijkt uit het onderzoek dat incassobureaus zelf niet altijd weten wat precies de regels zijn bij de inzet van algoritmes en AI. De toezichthouder acht de kans reëel dat volledig geautomatiseerde, en dus verboden, besluitvorming in de praktijk voorkomt, zonder dat bureaus zich daarvan bewust zijn.

De AP doet hiervoor een aantal aanbevelingen, zoals menselijke tussenkomst bij belangrijke besluiten en toetsing van verwerking van persoonsgegevens aan privacywetgeving.

Ook moet de informatievoorziening aan mensen met schuldverplichtingen verbeteren, door heldere uitleg over de inzet van AI en algoritmes en actieve communicatie van rechten, zo stelt de Autoriteit Persoonsgegevens.

Bron: ANP/AP