Cruciale rol voor rechters bij het gebruik van algoritmen
Rechters en bezwaarcommissies moeten alert zijn op overheidsbesluiten waarbij algoritmen een rol hebben gespeeld. Daarnaast moet de overheid uit eigen beweging transparant zijn over het gebruik van algoritmen. Daarvoor pleitte Aleid Wolfsen, voorzitter van de Autoriteit Persoonsgegevens (AP), tijdens een bijeenkomst in de Week van de Rechtsstaat over kunstmatige intelligentie (AI) binnen de rechtspraak.
Wolfsen ging daarbij in op de uitdagingen die algoritmen en AI met zich meebrengen voor de rechterlijke toetsing van overheidsbesluiten. Waarom kwamen de problemen met algoritmen die werden gebruikt om frauderisico’s in te schatten, zoals bij de Belastingdienst en DUO, bijvoorbeeld pas zo laat aan het licht?
Volgens Wolfsen had veel leed voorkomen kunnen worden als deze organisaties transparanter waren geweest over het gebruik van deze algoritmen en als rechters actiever en kritischer onderzoek hadden gedaan.
Een eerste stap naar meer transparantie is dat de overheid uit eigen beweging bekendmaakt wanneer algoritmen een rol hebben gespeeld bij of in de aanloop naar een besluit. Daarbij moet ook duidelijk worden uitgelegd hoe het algoritme is gebruikt. Deze informatie kan bijvoorbeeld worden opgenomen in de motivering bij het besluit.
Wolfsen benadrukte dat rechters overheidsbesluiten moeten kunnen toetsen op onder meer discriminatie, ook wanneer algoritmen daarbij een rol hebben gespeeld. Actieve transparantie over het gebruik van algoritmen is daarom essentieel. Burgers, advocaten en rechters kunnen hierdoor beter beoordelen hoe een besluit tot stand is gekomen en alert zijn op mogelijke risico’s.
Verder kijken dan het geschil: de invloed van algoritmen op overheidsbesluiten
Transparantie alleen is echter niet voldoende. Het is ook noodzakelijk dat rechters actief onderzoeken welke invloed algoritmen hebben gehad op overheidsbesluiten. Daarbij zouden zij verder moeten kijken dan alleen het specifieke geschil dat iemand voor de rechter heeft gebracht.
De overheid gebruikt algoritmen vaak op grote schaal om processen efficiënter te maken. Hierdoor kunnen potentiële risico’s, zoals onjuiste uitkomsten en discriminatie, gevolgen hebben voor grote groepen mensen. De toeslagenaffaire heeft laten zien hoe ernstig dergelijke gevolgen kunnen zijn.
Rechters moeten daarom volgens Wolfsen extra alert zijn wanneer er aanwijzingen zijn dat een algoritme is gebruikt bij of voorafgaand aan een besluit, bijvoorbeeld voor risicoselectie. Zij zouden dit ook moeten onderzoeken wanneer burgers of hun advocaten het gebruik van een algoritme niet zelf aan de orde stellen.
Wanneer in de aanloop naar een besluit sprake is geweest van discriminatie, kan dit bovendien gevolgen hebben voor de rechtmatigheid van het uiteindelijke besluit.
De oproep van Wolfsen aan rechters om het gebruik en de gevolgen van algoritmen actief te onderzoeken, is dan ook belangrijk. Een dergelijke proactieve houding kan helpen om mogelijke vooroordelen, discriminerende effecten en onjuiste uitkomsten vroegtijdig te signaleren en te corrigeren, voordat burgers hierdoor verder worden benadeeld.
Nu AI en algoritmen een steeds grotere rol spelen binnen het openbaar bestuur, wordt ook de controlerende rol van de rechter belangrijker. Rechters moeten niet alleen naar het individuele geschil kijken, maar ook oog hebben voor mogelijke structurele problemen die voortvloeien uit het grootschalige gebruik van deze technologieën.
Conclusie
Meer transparantie en een kritische houding van de rechter zijn belangrijke voorwaarden voor een rechtvaardig en verantwoord gebruik van AI en algoritmen bij overheidsbesluiten.
De uitgangspunten die Wolfsen naar voren brengt, bieden een belangrijke basis voor beter toezicht op algoritmische besluitvorming en voor de bescherming van de rechten van burgers.
