Abbb’s: allemaal black boxes (in het) bestuursrecht?

Algemene beginselen van behoorlijk bestuur

Als de overheid een besluit neemt, moet zij de abbb’s in acht nemen. Zo vloeit uit het motiveringsbeginsel voort dat het voor burgers duidelijk en controleerbaar moet zijn welke feiten en gegevens ten grondslag liggen aan het besluitvormingsproces en moet het besluit aldus voldoende worden gemotiveerd. Uit het zorgvuldigheidsbeginsel volgt dat burgers moeten kunnen beoordelen of een besluit eerlijk tot stand is gekomen. Naast het motiveringsbeginsel en het zorgvuldigheidsbeginsel, moet ook rekening worden gehouden met het evenredigheidsbeginsel, vertrouwensbeginsel, gelijkheidsbeginsel en fair play-beginsel.

Deze beginselen kunnen echter onder spanning komen te staan wanneer AI of een ander algoritme wordt gebruikt bij het besluitvormingsproces. Een AI-systeem of een ander algoritme kan namelijk worden gezien als een ‘black box’. Dit omdat vaak niet duidelijk is hoe het systeem tot bepaalde keuzes komt en daarmee dus (onvoldoende) onuitlegbaar is. Ook moeten de abbb’s mogelijk al worden toegepast door de ontwikkelaar van het AI-systeem. Het systeem moet bijvoorbeeld zo worden getraind dat het conform het gelijkheidsbeginsel gelijke gevallen gelijk behandelt en ongelijke gevallen ongelijk. Of dit beginsel ook daadwerkelijk is toegepast in het systeem, is in de praktijk soms lastig te controleren. Kortom, ook geautomatiseerde besluitvorming moet (kunnen) worden getoetst aan de abbb’s.

Toetsing door de bestuursrechter

De bestuursrechter heeft zich de afgelopen jaren al enkele keren uitgelaten over geautomatiseerde besluiten. Hoewel de bestuursrechter zich nog niet heeft uitgelaten over geautomatiseerde besluitvorming aan de hand van AI, behandelen wij hierna twee uitspraken waarin de bestuursrechter algoritmische besluitvorming (al dan niet indirect) heeft getoetst aan twee abbb’s: het motiveringsbeginsel en het zorgvuldigheidsbeginsel.

• Motiveringsbeginsel
  

In de verwijsuitspraak Programma Aanpak Stikstof (‘PAS’) stond het beroep tegen zes vergunningen centraal die geautomatiseerd waren verleend voor de exploitatie en/of uitbereiding van agrarische bedrijven.[1] In deze uitspraak werd het AERIUS-automatiseringssysteem voor het eerst beoordeeld door de hoogste bestuursrechter. Het gebruik van AERIUS brengt volgens de bestuursrechter “het risico met zich dat de deels geautomatiseerde besluitvorming op grond hiervan niet inzichtelijk en controleerbaar is vanwege een gebrek aan inzicht in de gemaakte keuzes en de gebruikte gegevens en aannames”. Om dit te voorkomen is het aan het bestuursorgaan om “de gemaakte keuzes en de gebruikte gegevens en aannames volledig, tijdig en uit eigen beweging openbaar te maken op een passende wijze zodat deze keuzes, gegevens en aannames voor derden toegankelijk zijn”. De bestuursrechter concludeert dat AERIUS weliswaar correct weergeeft wat de verwachte daling van stikstofdepositie is, maar niet is duidelijk wat de oorzaken daarvan zijn. Daarmee is “onvoldoende inzichtelijk” geworden welke gegevens en aannames ten grondslag liggen aan het besluit.

De hoogste bestuursrechter onderstreept met deze uitspraak dat aan elk besluit een deugdelijke, controleerbare motivering ten grondslag moet liggen. Opmerking verdient dat de bestuursrechter dit vooral plaatst in de context van rechtsbescherming: indien belanghebbenden rechtsmiddelen willen aanwenden tegen een besluit dat met AERIUS tot stand is gekomen, kan door de ‘black box’ een ongelijkwaardige procespositie van partijen ontstaan. Wij achten het aannemelijk dat deze conclusie ook kan worden gelezen in het licht van het motiveringsbeginsel: de aan het besluit ten grondslag gelegde keuzes, gegevens en aannames moeten inzichtelijk en controleerbaar zijn. Er dient aldus te worden voorkomen dat de algoritmes een ‘black box’ worden. Informatie over de besluitvorming moet kunnen worden verstrekt aan de burger.[2]

• Zorgvuldigheidsbeginsel
  

In een andere zaak ging het om de weigering van de aanvraag van een enkelvoudige vergunning voor het aanbieden van alternatief personenvervoer.[3] Aan de vergunningverlening lag algoritmische besluitvorming in de vorm van puntentoekenning ten grondslag. De aanvraag werd geweigerd, omdat onvoldoende punten waren toegekend om, gelet op het vergunningenplafond, in aanmerking te komen voor een fietstaxivergunning. De hoogste bestuursrechter oordeelde dat “de criteria aan de hand waarvan het college een VT-formulier van een aanvrager beoordeelt onvoldoende kenbaar zijn en dat daarmee de beoordeling van de aanvraag van [appellant] door het college onzorgvuldig is geweest”. Reden voor deze onzorgvuldigheid was (onder meer) het niet kunnen verklaren van verschillende punten voor vergelijkbare beschrijvingen in het VT-formulier. De bestuursrechter onderstreept in deze uitspraak niet alleen een schending van het zorgvuldigheidsbeginsel, maar ook het samenspel tussen het motiverings- en het zorgvuldigheidsbeginsel. Omdat de criteria onvoldoende kenbaar waren, is dus ook de beoordeling van de aanvraag onzorgvuldig.

Verbod op uitsluitend geautomatiseerde besluitvorming

Naast de abbb’s is het in dit kader ook goed nog stil te staan bij de Algemene Verordening Gegevensbescherming (‘AVG’). Overheden zijn bij de verwerking van persoonsgegevens immers ook gebonden aan de AVG. De AVG verbiedt echter uitsluitend geautomatiseerde besluitvorming waarbij het besluit rechtsgevolgen teweegbrengt voor de burger(s) of het besluit de burger(s) anderszins in aanmerkelijke mate treft.[4] Indien het besluit wordt genomen met zinvolle menselijke tussenkomst, dan is er geen sprake van uitsluitend geautomatiseerde besluitvorming in de zin van de AVG. De zinvolle menselijke tussenkomst moet echter wel goed worden ingeregeld. Op de gebruikers van een dergelijk geautomatiseerd systeem rust immers een verzwaarde motiveringsplicht om de zinvolle menselijke tussenkomst aan te tonen.[5]

Ook gelden er nog enkele uitzonderingen op dit verbod.[6] Zo geldt het verbod op uitsluitend geautomatiseerde besluitvorming niet indien deze vorm van besluitvorming noodzakelijk is om te voldoen aan een wettelijke verplichting of noodzakelijk is voor de vervulling van een taak van algemeen belang. In dat geval moeten er wel passende maatregelen worden getroffen, waaronder ten minste het recht op menselijke tussenkomst, het recht voor de burgers om hun standpunten kenbaar te maken en het recht om het besluit aan te vechten.[7] Voor bestuursorganen is expliciet in de wet erkend dat er nog meer maatregelen moeten worden getroffen, namelijk de waarborgen die worden geboden door de hiervoor beschreven abbb’s.[8]

Algoritmeregister overheden

Tot slot is het van belang nog kort het Algoritmeregister van de Nederlandse overheid te benoemen. Dit register bevat informatie over de algoritmes die overheden gebruiken in hun werk. Het doel van het centrale register is onder meer het borgen van openheid over gebruikte algoritmes en de werking daarvan bij overheden. Of dit doel ook daadwerkelijk wordt behaald, daar zijn de meningen in de praktijk over verdeeld.

Afronding

Kortom, allemaal black boxes (in het) bestuursrecht? Dat dient juist te worden voorkomen. Ook (uitsluitend) geautomatiseerde besluiten in het bestuursrecht moeten worden getoetst aan de abbb’s. Om een ‘white box’ in het kader van geautomatiseerde besluitvorming te creëren, staan kenbaarheid, openheid en zorgvuldigheid in ieder geval voorop. De aankomende Europese AI Act zal hier ook aan moeten gaan bijdragen.

Vragen over AI, algoritmen en de abbb’s? Neem contact op met onze specialisten Heleen IJland, Harald Wiersema en Femmie Schets, of neem contact op met ons AI-team. Zij helpen u graag verder.

[1] ABRvS 17 mei 2017, ECLI:NL:RVS:2017:1259.

[2] Zie bijvoorbeeld ook: ABRvS 18 juli 2018, ECLI:NL:RVS:2018:2454.

[3] ABRvS 21 februari 2018, ECLI:NL:RVS:2018:602.

[4] Overweging 71 AVG en artikel 22 lid 1 AVG.

[5] Zie: HvJ EU 7 december 2023, C‑634/21, ECLI:EU:C:2023:957 (SCHUFA); Hof Amsterdam 4 april 2023, ECLI:NL:GHAMS:2023:793 (Uber).

[6] Artikel 22, tweede lid, AVG jo. artikel 40, eerste lid, UAVG.

[7] Artikel 22, derde lid, AVG jo. artikel 40, derde lid, UAVG.

[8] Artikel 40, derde lid, UAVG.