Algoritmen en discriminatie vormen een belangrijk aandachtspunt in het privacytoezicht van dit jaar

In 2023 kreeg de toeslagenaffaire een vervolg met verhoren door de parlementaire enquêtecommissie Fraudebeleid en Dienstverlening. Ondanks deze verhoren werd duidelijk dat er nog maar weinig was veranderd. Dat gebrek aan vooruitgang was opvallend, zeker omdat de Autoriteit Persoonsgegevens (AP) regelmatig door de commissie werd gehoord over eerdere tekortkomingen.

Tegelijkertijd bleef de AP zich intensief bezighouden met risico’s rond algoritmen en discriminatie, zoals ook blijkt uit het jaarverslag over 2023.

Na onderzoek naar de toeslagenaffaire concludeerde de Autoriteit Persoonsgegevens dat de werkwijze van de Belastingdienst bij de kinderopvangtoeslag onrechtmatig en discriminerend was en in strijd met de privacywetgeving. Toch blijft toezicht op algoritmen en mogelijke discriminatie ook daarna een belangrijk aandachtspunt.

In 2023 bleek dat verschillende overheidsorganisaties nog steeds gebruikmaakten van gebrekkig ontworpen algoritmen. Voorbeelden hiervan zijn:

• De Dienst Uitvoering Onderwijs (DUO) gebruikte een algoritme om fraude met studiefinanciering op te sporen. Dit algoritme bleek discriminerend en onvoldoende onderbouwd.
• Het Uitvoeringsinstituut Werknemersverzekeringen (UWV) maakte onrechtmatig gebruik van een algoritme om fraude met werkloosheidsuitkeringen te signaleren.
• Er waren zorgen over het gebruik van gezichtsherkenningstechnologie door de politie en over de werkwijze van het Team Openbare Orde Inlichtingen (TOOI).

AP-voorzitter Aleid Wolfsen merkte hierover op dat deze voorbeelden waarschijnlijk slechts een klein deel van het probleem zichtbaar maken. Volgens hem blijft de behoefte van de overheid aan steeds meer data groot. Hoewel algoritmen en AI aanzienlijke voordelen kunnen bieden, bijvoorbeeld door overheidsprocessen efficiënter te maken, blijven de risico’s eveneens aanzienlijk. Discriminatie is daarbij een belangrijk aandachtspunt. Het is daarom essentieel dat overheidsinstanties voorkomen dat burgers opnieuw ernstig worden benadeeld en dat rechtsbescherming en fundamentele rechten voldoende worden gewaarborgd.

Toezicht op algoritmen en kunstmatige intelligentie

Toezicht op het gebruik van algoritmen en AI speelt een belangrijke rol bij de bescherming van burgers tegen mogelijke risico’s.

In Nederland is deze verantwoordelijkheid verdeeld over verschillende toezichthouders en rijksinspecties. Om dit toezicht te versterken, kreeg de Autoriteit Persoonsgegevens vanaf januari 2023 een centrale coördinerende rol op het gebied van algoritmen en AI.

Deze rol omvat onder meer het signaleren en beoordelen van risico’s die meerdere sectoren of domeinen raken en het bevorderen van samenwerking tussen de relevante toezichthoudende instanties.

Toezicht op grote technologiebedrijven

Samenwerking speelt ook een belangrijke rol bij het toezicht op grote technologiebedrijven. De AP werkt nauw samen met andere Europese privacytoezichthouders om ervoor te zorgen dat technologiebedrijven verantwoordelijk worden gehouden voor overtredingen van privacywetgeving.

Een voorbeeld hiervan is TikTok. In 2023 legde de Ierse privacytoezichthouder een boete van €345 miljoen op aan TikTok. Hieraan ging onder meer onderzoek door de AP vooraf. Nadat TikTok zijn Europese hoofdvestiging in Ierland had gevestigd, nam de Ierse toezichthouder verdere handhavingsmaatregelen.

Conclusie

Organisaties moeten zorgvuldig omgaan met het gebruik van algoritmen.

Voordat een algoritme wordt ingezet, is het belangrijk om een beoordeling uit te voeren waarin de relevante risico’s duidelijk worden geïdentificeerd. Op basis daarvan kunnen passende mitigerende maatregelen worden getroffen.

Heeft uw organisatie vragen over de privacyrisico’s van een algoritme dat u wilt implementeren? Neem dan gerust contact met ons op via info@dpoconsultancy.nl.