Advies W04.18.0230/I

Datum: vrijdag 31 augustus 2018
Soort: Overig
Ministerie: Binnenlandse zaken en Koninkrijksrelaties
Vindplaats: Kamerstukken II 2017/18, 26643, nr. 557

Ongevraagd advies over de effecten van de digitalisering voor de rechtsstatelijke verhoudingen.

Bij dit advies is een persbericht uitgebracht.

Ongevraagd advies over de effecten van de digitalisering voor de rechtsstatelijke verhoudingen

Inhoudsopgave

1. Mijn?DigitaleOverheid.nl - kern van het advies
2. Groeiende zorg - burger in de knel
3. Digitale besluitvorming - beginselen van behoorlijk bestuu
3.1 Geautomatiseerde besluitvorming
3.2 Zelflerende systemen
3.3 Ketenbesluitvorming
3.4  Overwegingen en advies - beginselen van behoorlijk bestuur
4. Digitale dienstverlening - zinvol contact met de overheid
4.1 Digitaal contact vanuit de overheid
4.2 De Europese dimensie: Algemene verordening gegevensbescherming
4.3 Toegang tot de overheid
5. Digitalisering en wetgeving - dilemma’s
5.1 Digitalisering en wetgeving
5.2 Eenheid van wetgeving
5.3 Handreikingen voor de wetgever
5.4 Wanneer kan wetgeving techniekonafhankelijk zijn?
6. Tot slot

Bijlage 1. Lopende wetgeving waarin digitalisering een rol speelt
Bijlage 2. Initiatieven en voorstellen op Europees niveau
Bijlage 3. Aangehaalde literatuur


1. Mijn?DigitaleOverheid.nl - kern van het advies
De samenleving is zich op alle mogelijke manieren aan het instellen op een wereld van digitale communicatie en gegevensverwerking; de zogenaamde iSamenleving. De overheid gaat daar volop in mee; zij heeft de ambitie een iOverheid te worden (zie paragraaf 2).
Vooralsnog geschiedt dat echter niet op een gecoördineerde wijze. Het gemak van het functioneren van de overheid staat voorop. Bij de implicaties daarvan voor de verhouding tussen overheid en burger wordt onvoldoende stilgestaan.

Tikkie door de overheid
Enkele overheidsdiensten maken zo nu en dan gebruik van de betalingsdienst "Tikkie". (zie noot 1) Tikkie is een privaat ontwikkelde app. De gebruiker ontvangt een bericht met een link, dat hem in staat stelt te betalen met iDEAL. Het algemene advies is nu juist dat het niet veilig is om te klikken op een link die is opgenomen in een mail- of SMS-bericht. Tikkie wordt intussen gebruikt voor phishing-expedities om bankgegevens te achterhalen. (zie noot 2)

Gevreesd moet daarom worden dat vooral de burger dreigt te worden opgezadeld met de risico’s, het ongemak en de nadelen van het gebruik van deze nieuwe technieken door de overheid. Dit raakt echter de rechtsstatelijke verhouding van de burger tot zijn overheid, waarbij zijn positie en bescherming in het geding zijn.
In de onlangs aan de Staten-Generaal aangeboden Agenda Digitale Overheid, NL DIGIbeter, (zie noot 3) noemt de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties het "beschermen van grondrechten en publieke waarden" als één van de vijf doelen. De vraag is hoe die doelen in de praktijk worden gerealiseerd.

Dit advies van de Afdeling advisering van de Raad van State (hierna: de Afdeling) gaat in op de effecten van de digitalisering voor de rechtsstatelijke verhoudingen. Het richt zich daarbij meer specifiek op de positie en de bescherming van de burger. (zie noot 4)

De wijd verspreide digitalisering brengt fundamentele sociale en culturele versnellingen te weeg. Meer dan andere technologieën grijpt digitalisering diep in de overheid in en doet het de overheid van karakter veranderen (paragraaf 2).

Bij digitalisering van de besluitvorming (paragraaf 3) dreigt de burger in toenemende mate te worden geconfronteerd met besluiten die volautomatisch zijn genomen, zonder menselijke tussenkomst. Die burger kan niet meer nagaan welke regels zijn toegepast en het is niet meer vast te stellen of de regels ook werkelijk doen waarvoor ze bedoeld zijn. Ook dreigt de burger slachtoffer te worden van een robotachtige gelijkheid, waarbij geen oog meer bestaat voor de eigenheid van zijn situatie. Daarnaast dreigt hij geconfronteerd te worden met besluiten die berusten op profilering en statistische verbanden. Er is dan niet aangetoond dat de burger verwijtbaar heeft gehandeld; er is alleen een vermoeden op basis van algemene kenmerken. Er ontstaat een statistische werkelijkheid die afwijkt van de concrete feiten.
Tenslotte dreigt de burger te worden geconfronteerd met besluiten die genomen zijn op basis van gegevens die van verschillende andere bestuursorganen zijn verkregen. Het valt dan niet meer na te gaan of de besluiten op basis van correcte gegevens zijn genomen. Bovendien zal de burger zelf aannemelijk moeten maken dat er een fout is gemaakt; in geval van fouten in het systeem moet hij zijn eigen "onschuld bewijzen".
Tegen die achtergrond adviseert de Afdeling om:
- de beginselen van behoorlijk bestuur, en in het bijzonder het motiveringsbeginsel en het zorgvuldigheidsbeginsel, verscherpt te interpreteren in de context van digitalisering. Dat betekent onder meer dat in een besluit moet worden toegelicht welke beslisregels (algoritmen) zijn gebruikt en welke gegevens zijn overgenomen van andere bestuursorganen. Daarmee kan de positie van de burger bij geautomatiseerde en ketenbesluitvorming worden versterkt;
- maatwerk en "menselijke" heroverweging in de bezwaarfase van geautomatiseerd tot stand gekomen besluiten te bevorderen.

Wat betreft de relatie tussen burger en overheid bij publieke dienstverlening (paragraaf 4) moet worden vastgesteld dat de wetgever onvoldoende voorzieningen treft voor de burger die geen weg weet in de digitalisering. De overheid probeert haar dienstverlening steeds verder te verfijnen, maar digitale dienstverlening dwingt, zeker indien het gaat om grote aantallen, tot standaardisering en automatisering van besluiten en uitvoering. Daardoor komt maatwerk (rekening houden met alle relevante feiten en omstandigheden) in de knel.
Tegen die achtergrond adviseert de Afdeling om:
- een nieuw beginsel van behoorlijk bestuur - het recht op toegang tot en zinvol contact met de overheid - nader te ontwikkelen en te operationaliseren.
- haar verantwoordelijkheid voor een effectieve uitvoering van de Algemene Verordening Gegevensbescherming (AVG) (zie noot 5) waar te maken door bestuursorganen actief te ondersteunen in de operationalisering van de in de AVG neergelegde rechten en waarborgen, in het bijzonder het recht op inzage en correctie van gegevens (in ketens) van overheidsorganisaties..

In alle wet- en regelgeving die de afgelopen periode is gepasseerd wordt telkens op andere wijze antwoord gegeven op de rechtsstatelijke vragen die door digitalisering worden opgeroepen. Vaak ook ontbreekt het antwoord. Daar waar in de voorgaande paragrafen de positie van de burger centraal staat, komt in paragraaf 5 aan de orde de vraag of bepaalde rechtsstatelijke knelpunten kunnen worden opgelost door andere wetgeving en een andere wetgevingsprocedure.
De Afdeling adviseert tegen die achtergrond om:
-  In algemene zin terughoudend te zijn met zogenoemd techniekonafhankelijk wetgeven;
-  ICT en uitvoering vanaf het begin onderdeel te doen zijn van het (multidisciplinair) voorbereiden van wet- en regelgeving en daar het wetgevingsproces op in te richten.

Bij de concrete adviezen, die hiervoor zijn samengevat, doet de Afdeling in de navolgende paragrafen nadere handreikingen voor de uitwerking. Adviezen zullen zich moeten vertalen in cultuur en werkwijze van de overheid. Dat geldt ook voor de wetgever: regering én parlement. De aanbevelingen van het parlementair onderzoek ICT-projecten bij de overheid (2014-2015) zijn naar de mening van de Afdeling onverminderd van belang.
Andere adviezen lenen zich voor uitwerking in en aanpassing van wetgeving, zoals de Algemene wet bestuursrecht (Awb), en van interne regelgeving, zoals de Aanwijzingen voor de regelgeving en het Integraal afwegingskader voor beleid en regelgeving.
Een aantal adviezen kan worden gezien als aanzet tot uitwerking van de verantwoordelijkheid die de overheid heeft ingevolge de AVG. De overheid heeft een algemene verantwoordelijkheid om de werking van de AVG in de Nederlandse samenleving te bevorderen, maar is daarnaast ook verantwoordelijk voor de persoonsgegevens die zijzelf verwerkt (in de terminologie van de AVG is zij hier "verwerkingsverantwoordelijke").
De regering heeft aangegeven de Tweede Kamer jaarlijks te zullen informeren over het vervolg op de Agenda Digitale Overheid, NL DIGIbeter. De Afdeling beveelt de regering aan daarin verslag te doen van de opvolging van de verschillende hier gegeven adviezen.

2. Groeiende zorg - burger in de knel
De iSamenleving en iOverheid worden steeds meer een realiteit: (zie noot 6) een samenleving en een overheid die voor al hun functioneren structureel afhankelijk zijn van digitale technieken en waarbij dat functioneren ook steeds meer wordt bepaald door het gebruik van die technieken. Taalkundig is digitalisering weliswaar "slechts" de omzetting van gegevens (opgebouwd uit letters, cijfers en beelden) in digitale vorm, in nullen en enen (binair). In het spraakgebruik refereert het echter aan een groot aantal technologieën, zoals algoritmen, big data, digitale platformen, kunstmatige intelligentie, robotica, biometrie, persuasieve technologie, augmented reality (zoals Pokémon Go) en virtual reality. Digitalisering betreft ook niet alleen het verzamelen en uitwisselen van gegevens, hoezeer informatieproducten ook een belangrijke rol spelen. Het gaat veel breder om het vervangen van bestaande middelen, methoden en organisatievormen door nieuwe digitale werkwijzen, met vaak ingrijpende gevolgen.

Digitalisering doet zich overal voor; er is nauwelijks een gebied aan te wijzen dat er niet door geraakt wordt. Digitalisering heeft geleid tot een niet te bevatten toename van de hoeveelheid gegevens. Het geeft de mens beschikking over informatienetwerken die hem in staat stellen grote hoeveelheden gegevens te bewerken, te bewaren en te raadplegen. Digitalisering maakt het tevens mogelijk om binnen al die gegevens gericht te zoeken en gegevens te koppelen. Vermoedelijk duurt het niet lang meer voordat elk proces of product en elke dienst een digitale component bevat en op de een of andere manier verbonden is aan een digitaal netwerk. Steeds meer onderdelen uit de fysieke wereld krijgen een virtuele representatie. Daardoor ontstaat op steeds meer plekken een continue interactie tussen de fysieke wereld en de virtuele wereld, waarmee producten of diensten direct worden aangepast op basis van analyse van digitale gegevens. Er is een "online" wereld ontstaan naast de "offline" wereld, die elkaar beïnvloeden maar ook van elkaar kunnen verschillen en kunnen schuren (bijvoorbeeld digitale parkeerapp’s waarin de informatie soms afwijkt van het parkeerbord).

Technologische verandering is van alle tijden, (zie noot 7) maar het wordt steeds meer duidelijk dat digitalisering fundamentele sociale en culturele veranderingen teweeg brengt, waardoor ook belangrijke publieke waarden, zoals gelijke behandeling, privacy, autonomie en menselijke waardigheid, onder druk komen te staan. (zie noot 8)

Het rapport Opwaarderen (Rathenau) bevat een grondige analyse met tal van voorbeelden, zoals het voorbeeld van een smart TV die permanent registreert waar, wanneer en hoe laat de TV aanstaat. Via een camera voor gezichtsherkenning en een microfoon voor spraakherkenning wordt gevoelige informatie doorgegeven aan derde partijen. Evenzo kunnen gegevens die in klassieke zin geen persoonsgegeven zijn via digitale technieken tot personen herleid worden. Daarnaast is het mogelijk om in databestanden persoonlijke kenmerken te detecteren of menselijk gedrag voorspelbaar te maken. Ook de menselijke autonomie wordt geraakt, wanneer een auto uitgerust met een slimme Internet-of-Things-sensor waarschuwt dat de brandstof op is en de chauffeur vervolgens via het navigatiesysteem naar een tankstation van een bepaald merk brengt. En de menselijke waardigheid komt in het geding bij de inzet van robots (robotica) voor het voeden en optillen van ouderen, waarbij de wederkerigheid van menselijke zorgrelaties ontbreekt.

Digitalisering schept nieuwe kwetsbaarheden in het maatschappelijk verkeer zoals beïnvloeding van het verkiezingsproces, cybercrime en verstoring van vitale functies (communicatienetwerken, ziekenhuizen, banken). Ook schept de digitale ontwikkeling nieuwe tegenstellingen in de samenleving of verscherpt zij bestaande, zoals tussen degenen die wel en die niet mee kunnen in de technische veranderingen en de complexe maatschappij. Dat hangt ook samen met verschillen in opleidingsniveau. (zie noot 9) Er is een grote groep burgers die in die digitalisering niet altijd meekomt. Dat zijn niet alleen ouderen en lager opgeleiden; soms zijn het ook ondernemers uit het midden- en kleinbedrijf en zzp’ers. Binnen de economie zet het verschillen aan tussen diegenen die hun productiviteit steeds verder zien toenemen door de digitalisering, en anderen die daar niet van profiteren of wier arbeid overbodig wordt. Ontwikkeling van digitale technologie kan maatschappelijk onbehagen voeden. De digitale wereld is per definitie niet neutraal.

De overheid is nauw betrokken bij deze maatschappelijke omwenteling; zij stimuleert en faciliteert die, zij ordent die waar mogelijk en nodig, en tracht kwetsbare waarden, zoals de persoonlijke levenssfeer en betrouwbaarheid te beschermen. De overheid doet op alle niveaus van bestuur volop mee in het gebruik van digitalisering voor het eigen functioneren. Communicatiesystemen, websites en databases worden in rap tempo opgetuigd door en voor de overheid; zowel om de besluitvorming en dienstverlening te "automatiseren" als om de productiviteit van het eigen functioneren te verbeteren. Digitalisering is tot in de haarvaten van de overheid doorgedrongen en bepaalt in toenemende mate het reilen en zeilen van organisaties, de professionals die er werken en de relaties die zij met burgers onderhouden. Maar digitalisering maakt niet alleen het functioneren van de overheid eenvoudiger en sneller, het verandert dat ook. Zo gaat digitalisering in de praktijk gepaard met standaardisering, uniformering en centralisering. Zo leidt digitalisering van de rechtsgang ertoe dat juridische procedures in het hele land op technisch niveau (zoals gebruik van standaarden) gelijkgeschakeld worden en dat de zeggenschap van gerechten over werkwijze en procedures navenant wordt beperkt. Men kan de informatie over de omgeving in het kader van de nieuwe Omgevingswet via websites beschikbaar willen maken, maar dat betekent dat plannen, vergunningen en de verzameling van gegevens landelijk op gelijke wijze moeten worden ingericht.

Digitalisering vergt een hoge mate van precisie. Iedere informatie of te beoordelen situatie of vaststelling moet tot ´zwart-wit´ tegenstelling worden gereduceerd; dat is de essentie van het binair digitaliseren. Maar de werkelijkheid en al helemaal de werkelijkheid zoals die zich aan overheid en politiek voordoet, bestaat uit vele tinten grijs. Wetgeven en besturen (waaronder het uitvoeren van wetten) is rekening houden met feiten en omstandigheden, met niet te voorspellen en ambigue situaties. Regels en normen zijn een gemiddelde van de vele onderscheiden situaties waarop deze betrekking kunnen hebben. Het is aan de uitvoerende diensten om dat gemiddelde op de werkelijkheid toe te passen en te concretiseren. Maar digitalisering leidt als het ware tot het omgekeerde. De iOverheid moet de tinten grijs digitaal "vertalen". Een algoritme vergt een exacte nauwkeurigheid om te bepalen of situaties wel of niet onder een regel vallen. Toepassing van algoritmes kan dan ook vergen dat alsnog wordt nagegaan of de omstandigheden van het geval geen afwijking rechtvaardigen.
Er dreigt een vicieuze cirkel. Maatwerk, waar burgers en politiek om vragen, leidt tot verfijnde regels. Verfijnde regels maken de uitvoering complex. Complexiteit, zeker bij grote volumes, leidt tot automatisering van besluitvorming en uitvoering en dat vraagt weer om standaardisatie. Automatische besluitvorming en standaardisatie ondermijnen maatwerk. (zie noot 10)

Precisie als kenmerk van digitalisering maakt het functioneren van de overheid ook kwetsbaar voor verschrijvingen en fouten. Eén letter verkeerd in een e-mailadres maakt de boodschap, het verzoek, het beroep of de brief onbestelbaar, waar de postbezorger over de fout heen kon lezen en de missive juist bestelde. De verhouding overheid-burger dreigt daardoor te verharden en te verstarren. Maar wanneer fouten en onjuistheden in de bestanden zijn geslopen is het vanwege de gegevensuitwisseling binnen ketens en netwerken van overheidsorganisaties, nauwelijks nog mogelijk om de gevolgen daarvan terug te draaien. De gevolgen dreigen dan op burgers te worden afgewenteld.

Bij trajectcontroles in 2013 werden campers en auto’s met een fietsenrek aangezien voor auto’s met aanhangwagen. De camera’s namen geen verschillende voertuigen waar, maar maten de lengte van voertuigen en vergeleken die met de lengte van het voertuigtype. Een praktische manier om de regeling te operationaliseren, maar in sommige gevallen met de verkeerde conclusie. Dat leidde tot de oplegging van boetes voor te hard rijden, want voor een auto met aanhangwagen geldt een lagere maximumsnelheid. Toen dit bleek, zag de Minister van Veiligheid en Justitie geen mogelijkheid om de ten onrechte opgelegde boetes uit eigen beweging te corrigeren. Burgers moesten daarvoor beroep instellen. (zie noot 11)

Digitalisering maakt dienstverlening aan burgers doelmatiger, sneller, beter, gedetailleerder en vaak veel uitgebreider, maar het betekent veelal ook dat het contact met de overheid daardoor verandert.

Informatie over de omgeving: wat er feitelijk op en in de grond te vinden is, maar ook de juridische situatie zoals weergegeven in omgevingsplannen en vergunningen, wordt via verschillende websites ontsloten. Maar de burger die informatie wil hebben, moet deze op internet zoeken. Hij kan vaak nog op het gemeentehuis terecht, maar de dienstverlening is daar steeds minder op ingesteld. Sommige gemeenten, zoals Hollands Kroon, hebben het gemeentehuis zelfs afgeschaft, al blijft er wel fysiek contact met de gemeente mogelijk.

Daarbij moet onderkend worden dat velen systematisch of incidenteel moeite hebben om digitaal contact met de overheid te onderhouden. De overheid maakt dat ook niet altijd makkelijk. Wat overheid heet, bestaat immers uit honderden organisaties die digitalisering niet allemaal op dezelfde manier aanpakken. Wat bij het ene bestuursorgaan standaard is, is bij een ander orgaan onmogelijk. De burger raakt daardoor het spoor bijster.

Tussenconclusie
Vooralsnog wordt de digitalisering bij de overheid vooral gedreven door het streven naar doelmatigheid, kostenbeheersing en aanpassing aan een samenleving die in vele opzichten ingrijpende verandert als gevolg van die digitalisering. De gevolgen, beperkingen en nadelen van de vorming van een iOverheid dreigen bij burgers en bedrijven te worden gelegd. De Nationale Ombudsman heeft in een reeks van publicaties (zie noot 12) weergegeven hoe burgers op grote schaal in de knel zijn gekomen. Te weinig wordt daarbij ook onderkend dat digitalisering het functioneren van de overheid zelf verandert. Daarbij zijn de rechtsstatelijke positie van de burger en zijn rechtsbescherming in het geding. In het bijzonder gaat het daarbij om geautomatiseerde besluitvorming en geautomatiseerde dienstverlening van de overheid aan burgers.

Het aantal wetten en andere regels dat probeert greep te krijgen op de digitale wereld is de afgelopen jaren groot geweest; ook het aantal nog voorgenomen wetten en regels is omvangrijk.

Het voorstel van Wet digitale overheid (2018) is een voorbeeld van een regeling die de digitale overheid beoogt mede vorm te geven, de Wet modernisering elektronisch bestuurlijk verkeer) is een voorbeeld van een wet die de gevolgen van digitalisering beoogt te incorporeren in bestaande (in casu Awb-) regels en voorzieningen, en het voorstel voor een Invoeringswet Omgevingswet (2018) bevat een voorbeeld van een beoogd nieuwe vorm van digitalisering van publieke dienstverlening (het Digitaal Stelsel Omgevingswet). (zie noot 13)
Het aantal thans bekende voorstellen voor wetten en besluiten, inbegrepen (EU-) implementatiebesluiten die aanhangig zijn of worden, is meer dan dertig, variërend van een Cybersecuritywet tot een wijziging van de Zorgverzekeringswet in verband met een elektronische zorgpolis (bijlage 1). Daarnaast levert de EU-strategie voor een digitale eengemaakte markt, los van de nodige harmonisatiematregelen op andere terreinen, ongeveer twintig nieuwe regelingen op (bijlage 2).

In al deze regelgeving komen dezelfde vragen over gevolgen voor burger, wetgever en overheid steeds terug. De vragen worden ad hoc en afwijkend, en evenzo vaak ook niet of nauwelijks, beantwoord. (zie noot 14) Naar het oordeel van de Afdeling behoeft dit rechtsstatelijk functioneren naar de burger toe aandacht en een coherente aanpak van de zijde van de regering, met onderkenning van de veranderingen die digitalisering in het functioneren van de overheid schept.

Hierna analyseert de Afdeling eerst de digitalisering van de besluitvorming (paragraaf 3), vervolgens digitalisering en dienstverlening (paragraaf 4) en tot slot digitalisering en wetgeven (paragraaf 5). Bij elke paragraaf komt de Afdeling tot een aantal adviezen die aldaar nader worden uitgewerkt.

3. Digitale besluitvorming - beginselen van behoorlijk bestuur
Automatisering is steeds belangrijker geworden bij overheidsbeslissingen. In het navolgende behandelt de Afdeling drie situaties: geautomatiseerde besluitvorming (3.1), big data en zelflerende systemen (3.2), en ketenbesluitvorming (3.3). (zie noot 15)

3.1 Geautomatiseerde besluitvorming
Overheidsbesluiten worden steeds vaker genomen op basis van algoritmen, dat wil zeggen: beslisregels, (zie noot 16) die door middel van software door computers worden uitgevoerd. Algoritmen kunnen ondersteuning bieden aan een mens bij het nemen van een beslissing; de eenvoudigste vorm is die van een rekenprogramma. Ook burgers kunnen er soms gebruik van maken, zoals bij de elektronische aangifte van inkomstenbelasting. Algoritmen kunnen ook gebruikt worden om een besluit geheel geautomatiseerd te nemen, zonder menselijke tussenkomst.

De inzet van algoritmen voor besluitvorming kan enorm efficiënt zijn; de computer kan vele malen sneller en nauwkeuriger gegevens verwerken dan de mens. Overheidsorganisaties die grote aantallen besluiten moeten nemen voor min of meer exact te omschrijven situaties (ook wel oneerbiedig aangeduid als "beschikkingenfabrieken") kunnen niet om algoritmen heen. Toch is het gebruik van algoritmen niet zonder problemen.

Het eerste probleem ontstaat doordat algoritmen door middel van een programmeertaal worden omgezet in machinetaal voor computers. Het is voor niet-ICT-specialisten niet mogelijk te controleren of de omzetting van algoritmen in een programmeertaal foutloos en nauwkeurig is gegaan, laat staan of de omzetting naar machinetaal goed is verlopen. Daarbij maken algoritmen gebruik van - soms grote aantallen - gegevens, die ontleend kunnen zijn aan diverse andere bronnen. Burgers kunnen de behoefte voelen die gegevens te controleren, maar het kan zeer bewerkelijk zijn om alle gegevens beschikbaar te stellen, terwijl daarmee niet altijd een redelijk doel is gediend. Over dit probleem - in wezen de vraag naar openbaarheid en transparantie - is in de jurisprudentie meer duidelijkheid gegeven.

Praktijkvoorbeeld
Kwesties met algoritmen speelden bij de uitgifte van vergunningen aan agrarische bedrijven om stikstof uit te stoten. Een vergunning werd verleend als de uitstoot geen significante verslechtering betekende voor stikstofgevoelige natuurwaarden in zogeheten Natura 2000-gebieden. Gedeputeerde staten gaven de vergunning uit; zij waren wettelijk verplicht daarbij gebruik te maken van een rekenprogramma van de Minister, AERIUS. De Afdeling bestuursrechtspraak stelde vast dat belanghebbenden geen inzicht hadden in de manier waarop AERIUS tot haar berekeningen kwam. Daardoor konden zij niet controleren op welke basis tot een bepaald besluit werd gekomen en of de zekerheid bestond dat het project de natuurlijke kenmerken van Natura 2000-gebieden niet zou aantasten. De rechter was van oordeel dat de verantwoordelijke bewindspersonen verplicht waren om de gemaakte keuzes en de gebruikte gegevens en aannames volledig, tijdig en uit eigen beweging openbaar te maken op een passende wijze zodat deze voor derden toegankelijk zouden zijn en reële rechtsbescherming mogelijk zou worden. Nu dat niet was gebeurd, was de bestreden vergunning naar het oordeel van de rechter onvoldoende gemotiveerd. (zie noot 17)
In een recente uitspraak over de Blankenburgtunnel heeft de rechter de norm voor de verstrekking van achterliggende gegevens verder verfijnd. Ook deze uitspraak ging over AERIUS. De rechter maakte een onderscheid tussen standaardinvoergegevens (zoals kaarten en vaste rekenmodules) en maatwerkgegevens die het bestuursorgaan zelf moet invoeren (zoals verkeersintensiteit, mate van congestie en de geldende snelheidslimiet). Het bestuursorgaan moet de maatwerkgegevens - zowel gegevens op papier als elektronische gegevens - uit eigen beweging op papier of "anderszins waarneembaar" overleggen, zodat belanghebbenden de procedure kunnen benutten om de juistheid van de gebruikte gegevens inhoudelijk te kunnen betwisten. Het bestuursorgaan hoeft de standaardgegevens niet uit eigen beweging openbaar te maken, maar moet dat wel doen als belanghebbenden daarom verzoeken. Van belanghebbenden kan worden gevergd dat zij tijdig aangeven welke specifieke gegevens zij nodig hebben. (zie noot 18) Met deze uitspraak heeft de rechter een balans gezocht tussen transparantie en onevenredig zware bestuurslasten.

Het tweede probleem is dat regels in natuurlijke taal lang niet altijd een op een kunnen worden vertaald in een algoritme. Regels zijn per definitie abstract, bedoeld om op een verscheidenheid van situaties te worden toegepast. Zij zijn geschreven met een aantal standaard kenmerken voor ogen, maar ze moeten met onderscheidend vermogen worden toegepast in een veelheid aan situaties. Een regel moet eerst worden geïnterpreteerd voordat zij kan worden toegepast. Hoe dat het beste kan worden gedaan - welke interpretatiemethode moet worden toegepast en met welk resultaat - is niet vooraf en in het algemeen te zeggen. Dat hangt af van allerlei kennis van de regel - kennis die vaak alleen impliciet aanwezig is in de hoofden van juristen of van de maatschappelijke doelgroep van de regel - en kennis van de werkelijkheid. Algoritmen daarentegen zijn bedoeld om van toepassing te zijn in situaties met geprogrammeerde kenmerken; zij negeren alle verdere omstandigheden. Algoritmen kunnen geen rekening houden met impliciete kennis, met de noodzaak om de regel te interpreteren en met de noodzaak om alle omstandigheden van het geval mee te wegen. Zij worden geacht uitputtend te zijn. In de uitvoeringspraktijk is dat lang niet altijd mogelijk en verantwoord.

De AVG bepaalt dat geautomatiseerde besluitvorming (inclusief profilering), zonder menselijke tussenkomst, in beginsel niet is toegestaan. Wel wordt een uitzondering gemaakt voor geautomatiseerde besluitvorming die berust op een wettelijke grondslag, mits daarbij wordt voorzien in passende maatregelen ter bescherming van de rechten en vrijheden en gerechtvaardigde belangen van de betrokkene. (zie noot 19) De Uitvoeringswet AVG bevat daartoe een algemene wettelijke grondslag maar die voorziet slechts in een beperkte normering; geautomatiseerde besluitvorming is toegestaan als deze noodzakelijk is om aan een wettelijke verplichting te voldoen of om een taak van algemeen belang te vervullen. Dat betekent dat in de praktijk nader zal moeten worden bepaald wanneer geautomatiseerde besluitvorming, gelet op de uitvoering van publieke taken, noodzakelijk en proportioneel is. Bovendien zal op grond van de AVG moeten worden geconcretiseerd welke passende maatregelen gelden ter bescherming van de burger. In dat verband is de vraag of de waarborgen en beginselen die al gelden op grond van de Awb toereikend zijn of dat met het oog op de bijzondere aard van geautomatiseerde besluitvorming aanvullende waarborgen nodig zijn.

De Uitvoeringswet AVG bevat geen algemene wettelijke basis voor profilering. (zie noot 20) De wetgever zag voor een algemene grondslag geen rechtvaardiging omdat bij profilering, meer dan bij geautomatiseerde besluitvorming in algemene zin, zich het risico voordoet van discriminatie. (zie noot 21) Op profilering gebaseerde besluitvorming zonder menselijke tussenkomst is daarom alleen mogelijk als een bijzondere wet daarvoor de grondslag biedt. Dit betekent dat nagegaan zou moeten worden op welke plaatsen binnen de overheid op profilering gebaseerde besluitvorming plaatsvindt en zo ja, of daarvoor gelet op de AVG een bijzondere wettelijke grondslag bestaat die als rechtvaardiging kan dienen. Voor zover dat het geval is, zal tevens moeten worden voorzien in passende maatregelen ter bescherming van de betrokkene. Ook hier zal de vraag zijn in hoeverre de Awb, gelet op de bijzondere risico’s van profilering, toereikende bescherming biedt.

3.2 Zelflerende systemen
Het gebruik van algoritmen vormt steeds vaker de aanleiding voor controlerend of handhavend overheidsoptreden. Daarbij zijn verschillende gradaties mogelijk.
De eenvoudigste vorm is die waarbij gegevensbestanden tegen elkaar worden afgedraaid om tegenstrijdigheden in het concrete geval te achterhalen. Dat kan objectief zijn (betrokkene heeft uit een opdracht meer verdiend dan het jaarinkomen dat hij heeft opgegeven) of het kan aanleiding geven voor twijfel of verdenking (het waterverbruik op het opgegeven woonadres is zo laag dat het adres onbewoond lijkt te zijn).
Computers kunnen daarnaast op basis van grote hoeveelheden gegevens ("big data") op zoek gaan naar statistische verbanden. Een eenvoudig voorbeeld is dat iemand geweigerd wordt voor een levensverzekering, niet omdat hij aan een ziekte lijdt of ongezond leeft, maar omdat hij op grond van algemene kenmerken (leeftijd, geslacht, beroep) een statistisch verhoogd risico op aandoeningen loopt.

Bij deze eerste twee vormen onderzoekt de computer alleen wat de menselijke gebruiker hem op een bepaald moment concreet vraagt. Computers kunnen ook de opdracht krijgen continu naar statistische verbanden te zoeken, daar steeds meer inzicht in te krijgen, en zich zelf zo nodig te corrigeren, naarmate meer data beschikbaar komen. De uitkomsten van dit rekenwerk kunnen als basis dienen voor overheidshandelen.

Het analyseren van grote verzamelingen data, al dan niet met deep learning/zelflerende systemen hebben ontegenzeggelijk nut, maar het kan ook ongewenste resultaten hebben, waaronder onterechte uitsluiting of discriminatie.
In de praktijk wordt vaak gesproken over big data. Doorgaans worden hier onder verstaan gegevensverzamelingen die dermate groot of complex zijn dat deze niet meer door gebruikelijke database systemen kunnen worden verwerkt en tegelijkertijd uit verschillende bronnen afkomstig zijn. De in deze paragraaf geschetste gevaren bij het gebruik van grote verzamelingen data gelden uiteraard ook, zo niet meer, voor het gebruik van big data.

Profileren als voorbeeld
De mogelijke gevaren bij het gebruik van grote verzamelingen data, kunnen goed geïllustreerd worden bij profilering om personen in kaart te brengen met een verhoogd risico. Dit kan er immers toe leiden dat algemene kenmerken worden toegerekend aan het individu.
Zo adviseerde de Afdeling in 2008 over de wettelijke regeling van de Verwijsindex risicojongeren. Deze index is bedoeld om risicosignalen van professionals over jongeren in een vroegtijdig stadium samen te brengen, zodat hulpverleners beter kunnen samenwerken. Signalen die moeten worden gemeld zijn bijvoorbeeld mishandeling, verwaarlozing, verslaving, veelvuldig schoolverzuim en minderjarige zwangerschap. Het meldingskader is zeer ruim: in de praktijk zal er een overdaad aan gegevens worden verzameld, met averechtse gevolgen voor de bruikbaarheid en doelmatigheid van het systeem zelf. Het risico is dat elke jongere die in de verwijsindex staat genoteerd, wordt gezien als een potentieel gevaar. (zie noot 22)
In 2014 adviseerde de Afdeling over de invoering van het Systeem Risico Indicatie. Met dat systeem kreeg het Ministerie van Sociale Zaken de mogelijkheid om diverse soorten bestanden met gegevens van burgers tegen elkaar uit te draaien voor het opsporen van fraude met belastingen of sociale uitkeringen. Dit past bij de inzet van deep learning en zelflerende systemen, die er immers op gericht zijn zo veel mogelijk verbanden te onderzoeken zonder aannamen vooraf. De keerzijde is dat de gegevens die er onder vallen in een aantal gevallen diep kunnen ingrijpen in iemands persoonlijke levenssfeer. De opsomming van gegevens is zo ruim dat er nauwelijks een persoonsgegeven te bedenken is dat er niet onder valt. De opsomming lijkt niet bedoeld om in te perken, maar om zoveel mogelijk armslag te hebben. (zie noot 23)

Het gebruik van big data zet de traditionele beginselen van gegevensbescherming zoals doelbinding en noodzakelijkheid onder druk. De AVG beschermt diezelfde beginselen en stelt daarnaast onder meer eisen aan het profileren van burgers (zie ook hiervoor, paragraaf 3.1). (zie noot 24) Op de overheid rust de verplichting om modaliteiten te ontwikkelen die een toepassing van de AVG mogelijk maken die is toegespitst op een verantwoord gebruik van big data. Daaraan kan bijdragen dat de door de AVG verlangde bescherming wordt ingebouwd in de technologie voor het verwerken van big data waarvan zijzelf gebruik maakt. Daartoe bevat de AVG ook een zelfstandige verplichting. (zie noot 25)

Causaliteit
Bij verschijnselen als "deep learning" en "zelflerende systemen" gaat het om algoritmen die niets anders doen dan statistische verbanden zoeken. Zo’n statistisch verband of correlatie wijst op een verhoogde waarschijnlijkheid dat er ook feitelijk een verband is. Daarmee staat niet vast dát er een verband is en zo ja, hoe dat verband eruitziet. Als bij wetenschappelijk onderzoek een correlatie zichtbaar wordt, is het de taak van de onderzoeker om de aard van het verband te duiden. Het is een - helaas hardnekkig bestaand - misverstand om een correlatie gelijk te stellen aan een causale relatie, waar (wettelijke) regels op doelen.

Deep learning - zelflerende systemen
Bij het werken met deep learning-technieken loopt de Belastingdienst voorop: die bezit een enorme hoeveelheid data over personen in Nederland en heeft een spilfunctie in veel samenwerkingsverbanden, zoals die van het Systeem Risico Indicatie. Daarnaast gebruiken ook sommige gemeenten algoritmen om mogelijke gevallen van bijstandsfraude te selecteren. Het algoritme kijkt naar allerlei gegevens, zoals geboortedata, gezinssamenstelling, uitkeringsverleden en gegevens van de Belastingdienst, het kadaster en de Dienst wegverkeer. In totaal gaat het om twee- tot driehonderd variabelen over een periode van 25 jaar; data waarin een mens niet zo snel verdachte patronen ziet maar de computer wel. (zie noot 26) Deze aanpak is in overeenstemming met rijksbeleid voor "data-gestuurd handhaven". (zie noot 27)
De term "zelflerend" is verwarrend en misleidend: een algoritme kent en begrijpt de werkelijkheid niet. Er zijn voorspelalgoritmen die inmiddels redelijk accuraat zijn in het voorspellen van de uitkomst in een rechtszaak. Ze doen dat echter niet op basis van de inhoudelijke merites van de zaak. Ze kunnen hun voorspellingen dan ook niet juridisch deugdelijk motiveren, terwijl dat wel voor elke juridische procedure voor elk afzonderlijk geval vereist wordt. (zie noot 28)
Het omgekeerde geldt ook: de menselijke gebruiker van zo’n zelflerend systeem begrijpt niet waarom het systeem concludeert dat er een verband is. Een bestuursorgaan dat zijn handelen (mede) baseert op zo’n systeem kan zijn optreden niet goed verantwoorden en zijn besluiten niet goed motiveren.

3.3 Ketenbesluitvorming
Op steeds grotere schaal worden tussen overheidsorganisaties gegevens uitgewisseld. Hiervoor worden informatie-structuren tot stand gebracht om uitwisseling van informatie en gegevens te faciliteren. Een voorbeeld van een dergelijke informatie-structuur is het stelsel van basisregistraties, waarvan de Basisregistratie Personen deel uitmaakt. Doel van een basisregistratie is bestuursorganen snel, efficiënt en grootschalig te voorzien van betrouwbare gegevens. Bepaalde gegevens in zo’n basisregistratie zijn bij wet aangemerkt als authentiek. Zulke gegevens hoeven burgers maar één keer aan de overheid te verschaffen ("eenmalige gegevensuitvraag"). Andere bestuursorganen dienen zo’n authentiek gegeven op te vragen in de basisregistratie die de authenticiteit bewaakt ("verplicht gebruik").

Het stelsel van basisregistraties is één van de informatiebronnen binnen de overheid, maar er zijn er nog meer. Door de "vernetwerking" binnen de overheid komt het steeds vaker voor dat een bestuursorgaan een (geautomatiseerd) besluit neemt op basis van gegevens die automatisch zijn ontleend aan andere bestuursorganen. Zo’n besluit kan op zijn beurt weer worden doorgegeven aan een ander bestuursorgaan, dat het gegeven weer kan gebruiken voor het nemen van volgende besluiten.

Gebruik van informatienetwerken voor besluitvorming is nuttig: het verhoogt de kans dat gegevens correct zijn en het is meestal efficiënt voor overheid en burgers. Maar het is niet zonder risico voor de burger. Gegevens hebben soms een betekenis die afhangt van de context waarin ze worden gebruikt. Bij het koppelen van gegevens wordt daar niet altijd rekening mee gehouden. Bovendien kan een foutief gegeven worden doorgegeven in de keten en gaat dan een eigen leven leiden. Uiteindelijk kan de burger het zicht verliezen op de gegevens die binnen de overheid over hem worden verzameld en doorgegeven.

Het gegevensbeheer binnen de overheid is voor de burger niet altijd te volgen. Gegevens van burgers worden in grote hoeveelheden en volautomatisch doorgegeven tussen bestuursorganen. Dat gaat meestal goed, maar soms gaat er iets fout. Sommige gegevens veranderen van karakter als ze uit hun context worden gehaald. En als een gegeven onjuist in de keten wordt doorgegeven, is het vrijwel onuitroeibaar. De burger wordt dan - soms jaren later - geconfronteerd met onbedoelde gevolgen, die bijna niet meer zijn terug te draaien.

Context van gegevens
Van Eck beschrijft in haar proefschrift hoe de Sociale Verzekeringsbank (SVB) besluiten over kinderbijslag neemt. De ouders doen geboorteaangifte bij de Basisregistratie personen in de gemeente waarin zij wonen. De SVB ontvangt de aangifte en het woonadres, en nodigt de ouders uit een aanvraag kinderbijslag te doen. Een van de wettelijke vereisten is dat de ouders ingezetene in Nederland moeten zijn. Het begrip ingezetene gaat, voor het recht op kinderbijslag, uit van een ander woonadresbegrip dan in de Basisregistratie personen. Niettemin neemt de SVB in de meeste gevallen woonadresgegevens over uit de Basisregistratie Personen. Is eenmaal kinderbijslag toegekend, dan wordt dit gegeven doorgegeven aan de Belastingdienst, die het benut voor het toekennen van kindertoeslag. Soortgelijke problemen doen zich voor bij een begrip als "inkomen", dat in diverse regelingen telkens andere betekenissen heeft. Al jaren wordt gestreefd naar harmonisatie, maar dat is nog niet volledig gelukt. (zie noot 29)

Het komt er bovendien bij al dit soort voorbeelden op neer dat in geval van fouten in het systeem de burger de gemaakte fout moet bewijzen. Effectieve rechtsbescherming is vanzelfsprekend van groot belang. Echter, de huidige Algemene wet bestuursrecht is opgehangen aan de gedachte van het individuele besluitbegrip. Daarmee werd oorspronkelijk bedoeld dat per individueel geval een afweging wordt gemaakt en aan de hand daarvan een besluit wordt genomen. Inmiddels blijkt echter dat meer dan de helft van de beschikkingen niet meer op deze wijze tot stand komt en daarin speelt automatisering een grote rol. Besluiten zijn dan vaak uitkomst van deel-stappen in een keten en afhankelijk van data van andere organen dan van het bestuursorgaan dat het besluit neemt.

Het gebruik van ketens bij het nemen van overheidsbesluiten roept ook problemen op met controle, verantwoordelijkheid en verantwoording. (zie noot 30) In theorie lijkt het eenvoudig: de AVG wijst altijd een bestuursorgaan aan dat "verwerkingsverantwoordelijke" is. Dat orgaan zal de verantwoordelijkheid moeten dragen voor het algoritme dat, en de gegevens die, aan het besluit ten grondslag liggen. In de praktijk lukt dat niet altijd. Bij ketensamenwerking bestaat meestal geen formele hiërarchie. Dat maakt het lastig om één bestuursorgaan daadwerkelijk aan te spreken op het resultaat dat uit de keten komt, inclusief de werkzaamheden van programmeurs. Burgers hebben mede hierdoor er niet of nauwelijks zicht op hoe de informatienetwerken van de overheid lopen, welke persoonsgegevens zich in de verschillende netwerken bevinden en welke bestuursorganen daar gebruik van maken. De door de AVG aan burgers toegekende rechten bieden in dat geval geen of weinig effectieve rechtsbescherming.

Vertrokken onbekend waarheen
Esther wordt uitgeschreven door haar gemeente omdat ze een deel van het jaar in het buitenland is en te weinig in haar woning verblijft. Ze krijgt de status "vertrokken onbekend waarheen". De gemeente ziet geen mogelijkheid om haar opnieuw in te schrijven; ze past simpelweg niet in het systeem. De gevolgen van de uitschrijving, met status "vertrokken onbekend waarheen", zijn groot. Haar bedrijf is automatisch uitgeschreven bij de Kamer van Koophandel, ze bouwt geen AOW meer op, ze is uit haar ziektekostenverzekering gegooid, paspoort aanvragen zonder adres is niet mogelijk, en ook het kopen van een auto blijkt lastig. Niemand lijkt het probleem voor haar te kunnen oplossen, hiervoor is eerst aanpassing van wetgeving nodig: die is niet berekend is op mensen die veel reizen, vooral naar het buitenland. (zie noot 31)

Staat een gegeven eenmaal fout in het netwerk, dan kan het voor de burger problematisch zijn om het gegeven te laten herstellen. Dit is het gevolg van de grote hoeveelheid aan verknoopte informatiestromen binnen de overheid. Bestuursorganen missen vaak, ondanks de op grond van de AVG bestaande verantwoordelijkheid voor de kwaliteit van de gegevens, de kennis en de praktische mogelijkheden om gegevens binnen het netwerk te corrigeren en lijken bij herstelproblemen veelal naar elkaar te wijzen. De systemen van de overheid zijn ingesteld op het automatisch doorgeven van grote aantallen gegevens ter ondersteuning van de overheidstaak; zij zijn nooit gebouwd op het corrigeren van fouten in individuele gevallen. De AVG verplicht de overheid om daarin verandering te brengen; deze bepaalt dat iedere ontvanger aan wie persoonsgegevens zijn verstrekt, in kennis moet worden gesteld van elke rectificatie of wissing van persoonsgegevens, tenzij dit onmogelijk blijkt of onevenredig veel inspanning vergt. (zie noot 32) De overheid zal nader moeten bepalen hoe deze verplichting effectief kan worden uitgevoerd.

Auto op papier niet gestolen
Harold doet aangifte van diefstal van zijn rijbewijs. Toch worden er daarna, met gebruikmaking van het gestolen rijbewijs, 140 auto’s op zijn naam gezet, waarmee ook overtredingen worden begaan. Hij moet 11.000 euro aan boetes betalen of anderhalf jaar de gevangenis in. Uiteindelijk zit hij achttien dagen vast voor hij vrijkomt. Door zijn verblijf in de gevangenis verliest hij zijn baan. Pas na zestien jaar haalt de Dienst wegverkeer de auto’s van zijn naam en worden de boetes kwijtgescholden. (zie noot 33)
De Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties richt in 2010 een Centraal Meld- en informatiepunt Identiteitsfraude en -fouten op.

Nog altijd levend
Dat gegevensverwerking binnen ketens niet altijd soepel loopt, blijkt pijnlijk als iemand overlijdt. Sommige bestuursorganen blijven berichten versturen aan de overledene, omdat zij het overlijden niet hebben doorgekregen uit de Basisregistratie personen, of omdat zij de melding niet goed hebben verwerkt. Nabestaanden blijken moeite te hebben om een bestuursorgaan te vinden dat dit probleem voor hen oplost. De regering heeft beloofd het probleem op te lossen, maar zij erkent dat dat complex is. (zie noot 34) De datum van overlijden is aangemerkt als een authentiek gegeven, zodat burgers er op moeten kunnen vertrouwen dat een correct opgegeven overlijdensdatum op relevante momenten op de juiste plaats bij de overheid bekend is.

3.4  Overwegingen en advies - beginselen van behoorlijk bestuur
De hierboven geschetste ontwikkelingen geven aan dat de digitalisering niet alleen veel voordelen heeft, maar ook de nodige risico’s met zich brengt. Zo is het bij een verder gaande digitalisering denkbaar dat de burger in toenemende mate geconfronteerd wordt met besluitvorming waarvan niet meer na valt te gaan welke regels zijn toegepast en niet meer vastgesteld kan worden of de regels ook daadwerkelijk doen waarvoor ze bedoeld zijn. Voorts is het denkbaar dat hij wordt geconfronteerd met besluiten die berusten op profilering en correlaties, waarbij een rechtsgeldige causaliteit ontbreekt. En tenslotte dat hij geconfronteerd wordt met besluiten en een informatienetwerk van de overheid waarin niet meer valt na te gaan of de besluiten op basis van de correcte gegevens zijn genomen, en waarbij hij bovendien zelf moet aantonen dat er een fout is gemaakt.
De Afdeling acht het dan ook van belang dat de overheid zich over de hele linie bewust is van deze risico’s en hier tijdig en adequaat op inspeelt.

In een aantal publicaties wordt wel gepleit voor nieuwe of specifiek ICT gerelateerde rechten. (zie noot 35) De Afdeling meent dat de (bestaande) beginselen van behoorlijk bestuur, in samenhang bezien met de AVG, op zichzelf al de nodige richting kunnen geven indien bestuursorganen deze op een juiste wijze interpreteren en toepassen in de relatie tussen burger en digitale overheid. Daar waar in algemene zin de wet onvoldoende de rechtspositie van burgers bepaalt, bieden deze beginselen immers "compensatie". Bij een verder gaande digitalisering van de overheid, waar de wetgever (zoals is gebleken) stevig mee worstelt, kan deze compenserende werking van extra belang zijn. De Afdeling wijst in het bijzonder op het motiveringsbeginsel en het zorgvuldigheidsbeginsel. Hierna wordt dit nader uitgewerkt.

Het motiveringsbeginsel kan zo worden uitgewerkt dat in een besluit aan de burger toegankelijk moet worden toegelicht of, en zo ja welke, automatische beslisregels zijn gebruikt, en moet worden toegelicht of het besluit mede voortbouwt op (geautomatiseerde) besluiten of gegevens van andere bestuursorganen eerder in de keten. (zie noot 36) Deze uitwerking kan vorm krijgen in de bestuurspraktijk en in de jurisprudentie van de verschillende bestuursrechters.

Daarnaast kan het voorgaande ook aanleiding vormen om criteria te ontwikkelen voor (soorten van) besluiten die niet automatisch - zonder menselijke tussenkomst - tot stand mogen komen.
Het is lastig om over deze vraagstukken heel stellige uitspraken te doen. Veel vormen van algoritmen (beslisregels) zijn zo omvangrijk of "technisch" dat openbaarmaking onuitvoerbaar maar evenzeer beperkt nuttig is voor individuele burgers. Automatische besluitvorming is voor goede dienstverlening aan burgers in veel gevallen noodzakelijk. Indien het om grote aantallen gaat - honderdduizenden tot miljoenen per maand bij bijvoorbeeld toekenning van toeslagen en uitkeringen, maar ook al bij maandelijks duizenden bij verkeersovertredingen - is de vraag of een verplichting tot het overwegen van maatwerk in elk individueel geval niet op voorhand onuitvoerbaar is.
Criteria voor soorten besluiten die niet automatisch tot stand mogen komen zouden daarom betrekking hebben op voor burgers zwaar ingrijpende kwesties. Het criterium "zwaar ingrijpend" vergt nadere definiëring. De Afdeling denkt niet aan een subjectieve invulling, bijvoorbeeld in de richting van "voor burgers grote gevolgen", maar aan een meer objectiveerbare invulling, bijvoorbeeld wanneer de integriteit van het menselijk lichaam, de privacy en het familie- en gezinsleven werkelijk worden geraakt. Voorts kan gedacht worden aan onomkeerbare besluiten met aantoonbaar ingrijpende financiële gevolgen voor een burger of een onderneming.

Het ligt daarnaast in de rede om bij geautomatiseerd tot stand gekomen besluiten in de fase van bezwaar, door een burger tegen een voorgenomen besluit, ruimte te maken voor een nadere individuele afweging door menselijke tussenkomst, en dus: niet geautomatiseerd en ook niet formalistisch-juridisch. De bedoeling van de bezwaarfase - een materiële heroverweging van het voorgenomen besluit - kan dan tot zijn recht komen.
Aan het "leveren" van maatwerk uitsluitend bij het beoordelen van een bezwaarschrift, kleven ook risico’s. Voor overheidsorganisaties kunnen grote aantallen bezwaarprocedures bewerkelijk zijn. Voor burgers kan het een extra drempel zijn en waarschijnlijk voor de minst vaardige burgers een hoge. Lang niet alle burgers beschikken immers over het doen-vermogen om een probleem te onderkennen en er adequaat naar te handelen.
Om beide redenen is het aan te bevelen dat bestuursorganen ambtshalve onderzoeken of een bezwaarschrift een probleem zichtbaar maakt dat vaker dan incidenteel voorkomt. Een dergelijke onderzoeksplicht zou wettelijk kunnen worden vastgelegd. Zo’n onderzoek leidt dan in ieder geval voor de toekomst tot verbeteringen ongeacht de vraag of burgers vaardig zijn om in een bezwaarfase tegemoetkoming te krijgen.

Lokaal maatwerk
Maatwerk is een van de doelstellingen geweest van de drie grote decentralisaties in het sociale domein onder het tweede kabinet-Rutte. Bij die operaties lag maatwerk ook daarom in de rede omdat het er niet langer om ging te beoordelen of iemand recht had op zorg, maar of iemand niet op eigen kracht en met hulp van de omgeving problemen kon oplossen. Het ging niet meer om de beslissing op een schriftelijke aanvraag, maar om onderzoek naar de specifieke omstandigheden van het afzonderlijke geval. Het vergt een persoonlijk gesprek op basis waarvan een beslissing kan worden genomen. In een aantal gemeenten is daartoe het zogenaamde "keukentafelgesprek" ontwikkeld. Dit soort maatwerk kan goed passen in een werkwijze die inmiddels bekend is geworden als integrale geschilbeslechting, hoewel dat dan wel betekent dat een geschil eerst moet zijn ontstaan ... (zie noot 37)

Het vereiste van een goede, ook voor leken begrijpelijke, motivering bij gebruik van beslisregels en data, is voor grootschalige geautomatiseerde besluitvorming wel een te verdedigen minimumbeginsel. Een dergelijke motivering is voor burgers ook noodzakelijk om andere beginselen, zoals het recht op correctie van fouten of het recht op maatwerk, te kunnen inroepen, gelet op feiten en omstandigheden.

Het zorgvuldigheidsbeginsel kan zo worden geïnterpreteerd dat bestuursorganen (vooral uitvoeringsorganisaties, inspecties en toezichthouders) ruimhartig rekening houden met feiten en omstandigheden. Een bestuursorgaan moet een besluit kunnen nemen dat strikt genomen afwijkt van wat voortvloeit uit geautomatiseerde beslisregels, gebruikte databestanden en aanwezige registraties om zo evident onterechte benadeling van een burger te vermijden.
Een dergelijke benadering komt in de praktijk neer op het geven van voldoende discretionaire bevoegdheid aan bestuursorganen (lees: uitvoeringsorganen) om dergelijke besluiten te nemen.
De Afdeling onderkent het risico van willekeur. Nu kan worden betoogd dat de beslisregel (het algoritme) niet de wetsbepaling (of bepaling in een uitvoeringsregeling) zelve is, maar "slechts" een vertaling, en dat een op goede gronden afwijkende vertaling derhalve niet contra legem is; echter, dat doet niet de ogen sluiten voor de risico’s van deze benadering.
Andere in theorie denkbare benaderingen, zoals het geven van bevoegdheden aan toezichthouders over een keten aan overheidsorganisaties heen of het geven van een bevoegdheid aan een bestuursorgaan dat het uiteindelijke besluit neemt jegens andere bestuursorganen in een keten, hebben grotere nadelen. Dergelijke alternatieven vergen een andere (lees: inhoudelijk en bestuurlijk complexe) inrichting van bevoegdheden en verantwoordelijkheden, en verzekeren niet op voorhand beter dat de individuele burger om wiens besluit het gaat, er mee geholpen is.

Het geheel overziend adviseert de Afdeling de positie van burgers te verbeteren door - afhankelijk van het type (geautomatiseerd) besluit waar het om gaat - telkens de balans te vinden tussen (criteria voor) die besluiten die niet geautomatiseerd tot stand behoren te komen, het motiveren van gebruik van algoritmen en data van die besluiten die wel geautomatiseerd (kunnen) worden genomen, het bieden van maatwerk en "menselijke" heroverweging in de bezwaarfase van geautomatiseerd tot stand gekomen besluiten en het verstandig (eventueel verplicht) benutten van signalen uit individuele bezwaren en uit steekproeven die op meer algemene problemen duiden. (zie noot 38)

4. Digitale dienstverlening - zinvol contact met de overheid

4.1 Digitaal contact vanuit de overheid
Overheidsdiensten digitaliseren in toenemende mate. Van de burger wordt met het oog daarop verwacht dat hij, om contact met de overheid te onderhouden, met internet, computers en smartphones overweg kan.
Voor het elektronisch berichtenverkeer tussen burger en overheid is de website MijnOverheid opgezet. Burgers kunnen met behulp van hun DigiD beveiligd inloggen op MijnOverheid en de berichtenbox openen. Zij kunnen zelf aanvinken van welke bij MijnOverheid aangesloten overheidsorganisaties zij berichten in de berichtenbox willen ontvangen. Niet alle overheidsorganisaties zijn op DigiD en MijnOverheid aangesloten; daar staat tegenover dat er een groot aantal organisaties buiten de overheid is die wel gebruik maken van DigiD: zorgverleners, zorgverzekeraars, onderwijsinstellingen en pensioenfondsen.

Mijn overheid
De Nationale Ombudsman heeft onderzoek gedaan naar MijnOverheid. Daaruit is gebleken dat aan zo'n 17% van de geactiveerde accounts geen e-mailadressen zijn gekoppeld en dat 1 op de 5 Nederlanders langer dan 1 jaar niet op zijn of haar account komt. Als berichten louter digitaal in de berichtenbox van MijnOverheid worden geplaatst, zullen burgers met niet-gekoppelde accounts of onbezochte accounts daarvan niet op de hoogte zijn of de berichten niet lezen. (zie noot 39)

Blauwe envelop
Een voorbeeld van de worsteling met (verplicht) elektronisch verkeer tussen burger en overheid is de inwerkingtreding van de Wet Elektronisch berichtenverkeer Belastingdienst op 1 november 2015, die tot afschaffing van de blauwe envelop voor toeslaggerechtigden leidde. Voorschotbeschikkingen werden enkel en alleen digitaal aan de burger toegezonden. In onderzoek van de Nationale Ombudsman werd geconstateerd dat bij de overheid het belang van de ontoereikend zelfredzame burger, als gevolg van de afschaffing van de blauwe envelop, en daarmee de papieren weg om met de overheid te communiceren, uit het oog is verloren. (zie noot 40) Hevige protesten hebben ertoe geleid dat het toch weer mogelijk is om belastingzaken per post te ontvangen. Het derde kabinet-Rutte heeft besloten burgers structureel de keus te bieden om alle post van de Belastingdienst elektronisch óf op papier te ontvangen. (zie noot 41)

De omslag naar een digitale overheid, die momenteel gaande is, vergt het opnieuw doordenken wat wel en niet van de burger mag worden verwacht in het verkeer met de overheid. (zie noot 42) Bij veel overheidsregelingen wordt verondersteld dat de burger beschikt over een hoge mate van zelfredzaamheid. Uit verschillende onderzoeken is gebleken dat dat niet zomaar kan worden aangenomen. De Wetenschappelijke Raad voor het Regeringsbeleid, de Nationale Ombudsman en de Nederlandse Vereniging voor Rechtspraak hebben geconcludeerd dat lang niet alle burgers in alle omstandigheden werkelijk zelfredzaam zijn. Ook burgers met een goede opleiding en een goede maatschappelijke positie kunnen in situaties verzeild raken waarin hun redzaamheid ontoereikend is, bijvoorbeeld bij "life events" zoals echtscheiding of overlijden van dierbaren: er moet dan veel worden geregeld terwijl emoties daar weinig ruimte voor laten. (zie noot 43) De schijn kan bedriegen: wie bedreven is met Facebook hoeft nog niet overweg te kunnen met een complex webformulier. Dat geldt ook voor ondernemers uit het midden- en kleinbedrijf en zzp’ers, die meestal niet beschikken over professionele ondersteuning voor het onderhouden van contact met de overheid.

De Nationale ombudsman heeft in 2016 in zijn rapport "Het verdwijnen van de blauwe envelop" opgemerkt dat de groep burgers die niet zelfredzaam is, door de digitalisering wordt vergroot: mensen die wel in staat waren om zelf de brieven van de Belastingdienst te openen, te beoordelen en vervolgens eventueel hulp in te schakelen, zijn vaak niet in staat de digitale berichtenbox van de overheid bij te houden. (zie noot 44) Door digitalisering van de overheid ontstaat er dus niet alleen een probleem voor burgers die vroeger al waren aangewezen op hulp van anderen, maar ook voor een nieuwe groep burgers.

Complexe regelingen kunnen er gemakkelijk toe leiden dat degenen voor wie de regelingen zijn bedoeld - de burgers - de weg in de digitale uitvoering niet meer kunnen vinden. Het stelsel van toeslagen voor inkomensondersteuning is een duidelijk voorbeeld. (zie noot 45) Een ander, hiervoor eerder genoemd, voorbeeld is het programma AERIUS, waarmee uitstoot van stikstof wordt berekend.

Er bestaan grote verschillen tussen bestuursorganen in de stand van digitalisering. In het bijzonder gemeenten lijken zelfstandig te innoveren en gebruiken daarvoor hun eigen ICT-systemen. Zij maken hun eigen keuzes op het gebied van technologie, digitalisering, en creëren eigen applicaties en websites waarop burgers accounts kunnen aanmaken. Deze verschillen lijken te blijven bestaan: het wetsvoorstel Wet modernisering elektronisch bestuurlijk verkeer geeft bestuursorganen de ruimte om zelf in te vullen hoe berichten aan hen moeten worden verstuurd. Het is aan de burger om uit te zoeken wat hij van een bepaald bestuursorgaan kan verwachten.

Op de hoogte
Zo kunnen burgers zich via MijnOverheid aanmelden voor "berichten over uw buurt". Ze worden dan via de app of de mail op de hoogte gehouden over besluiten die in hun gemeente, waterschap of provincie worden genomen. Met de slogan "Vanaf nu is er ook de mogelijkheid om via de e-mailservice of app van ‘Over uw buurt’ continu op de hoogte [te] blijven van berichten van de overheid" op de website, lijkt het een betrouwbare informatiebron voor burgers te zijn. Echter, niet alle bestuursorganen zijn bij de service aangesloten. Mist iemand daardoor een besluit, zodat hij niet op tijd bezwaar kan indienen, dan is hij bij de bestuursrechter niet-ontvankelijk. (zie noot 46)

SVB in je Berichtenbox
Wie op MijnOverheid de SVB aanvinkt, geeft aan de SVB toestemming om digitale post in de Berichtenbox te ontvangen en dus niet meer op papier. Echter, de Sociale Verzekeringsbank verstuurt niet al zijn berichten digitaal. Er zijn, zoals dat op MijnOverheid staat aangegeven, "brieven die niet geschikt zijn voor de Berichtenbox". Om wat voor brieven dat precies gaat, wordt niet duidelijk gemaakt. Na contact door de Nationale Ombudsman met SVB, blijkt dat die duidelijkheid naar de burger toe door SVB ook overbodig gevonden wordt. (zie noot 47)

Interoperabiliteit, de onderlinge uitwisselbaarheid van systemen tussen overheid en burger, maar ook tussen overheden onderling, is derhalve geboden. Dit wordt met de term standaardisatie bedoeld.

Digitaal Stelsel Omgevingswet
Op dit moment zijn Rijk, provincies, gemeenten en waterschappen druk doende het stelsel van de Omgevingswet in te richten. De ICT-kant van die wet staat bekend als het Digitaal Stelsel Omgevingswet (DSO). Dit stelsel moet uiteindelijk alle feitelijke en juridische informatie bevatten over de ruimtelijke omgeving. Het betekent dat enkele honderden bestuursorganen er samen voor moeten zorgen dat de gegevens in DSO gestandaardiseerd, correct, volledig en actueel zijn. De Afdeling heeft geadviseerd om af te wijken van het stelsel van generiek toezicht op decentrale overheden en de minister hier specifieke toezichtsbevoegdheden toe te kennen. (zie noot 48) Zo mogelijk nog ingewikkelder is de manier waarop - op termijn - de hele overheid, samen met de onderwijs- en zorgsector en de pensioenfondsen, gezamenlijk een stelsel voor communicatie met burgers in stand moet houden.

De Algemene Rekenkamer heeft in zijn onderzoek over Basisregistraties (2014) (zie noot 49) gewezen op het belang van gegevenskwaliteit, ook vanuit het perspectief van burgers, en opgemerkt dat de overheid sturing en toezicht (governance) beter moet vormgeven. Burgers, aldus de Rekenkamer, kunnen profiteren van een betere en efficiëntere overheidsdienstverlening door de inzet van basisregistraties, maar zij kunnen buiten hun schuld ook in de knel komen door fouten daarin. Een simpele correctiemethode volstaat niet; dat heeft te maken met onderlinge koppelingen en afhankelijkheden, waardoor fouten doorwerken naar andere registraties en instanties. De Rekenkamer beveelt aan inzage- en correctievoorzieningen te realiseren voor burgers en een gezaghebbend centraal meldpunt in te stellen. De Minister van BZK wordt een coördinerende rol toebedacht. (zie noot 50)

4.2 De Europese dimensie: Algemene verordening gegevensbescherming
Met het oog op de kwaliteit van de digitale dienstverlening en de beginselen van behoorlijk bestuur die in dat kader tegenover de burger in acht moeten worden genomen, is ook de recent in werking getreden AVG van belang. Daarbij gaat het om verschillende in de AVG neergelegde rechten van burgers zoals het recht op inzage en rectificatie van gegevens (in ketens) van overheidsorganisaties, (zie noot 51) het recht van bezwaar (zie noot 52) en het recht op vrijwaring van geautomatiseerde besluitvorming. (zie noot 53) Voorts legt de AVG de overheid in zijn hoedanigheid van verwerkingsverantwoordelijke de nodige plichten op die overlap vertonen met de onderwerpen die in dit advies aan de orde komen. De overheid is op grond van de AVG verplicht om algemene beginselen van rechtmatigheid, behoorlijkheid en transparantie in acht te nemen. (zie noot 54) Voorts wijst de Afdeling op de in de AVG neergelegde verplichting om de burger uit eigen beweging te informeren (zie noot 55) en de verplichting om reeds bij de inrichting van systemen rekening te houden met de bescherming van persoonsgegevens (met inbegrip van recht op inzage en correctie). (zie noot 56) In algemene zin legt de AVG de plicht op aan de overheid om zich te verantwoorden dat op een rechtmatige en zorgvuldige wijze met persoonsgegevens wordt omgegaan. (zie noot 57)

De AVG is een kaderwet die veel open normen bevat. Dat betekent dat de AVG met het oog op de toepassing in de dagelijkse praktijk op tal van punten nader moet worden ingevuld en geoperationaliseerd. Omdat de omgang met persoonsgegevens een hoeksteen vormt van de verhouding tussen burger en overheid bij digitale dienstverlening, acht de Afdeling van groot belang dat de overheid zijn verantwoordelijkheid neemt om een effectieve, op de digitale praktijk toegesneden uitvoering van de AVG waar te maken. Daarbij gaat het niet alleen om de verantwoordelijkheid als wetgever maar ook en misschien zelfs in de eerste plaats in de hoedanigheid van verwerkingsverantwoordelijke. Deze verantwoordelijkheid kan niet worden overgelaten aan de toezichthouders (met name de Autoriteit persoonsgegevens) of de rechter. De overheid heeft een primaire verantwoordelijkheid om zelf de AVG te operationaliseren op een wijze die recht doet aan de positie van de burger in de digitale (overheids-) omgeving.

In de relatie tussen de burger en de overheid als verwerkingsverantwoordelijke voor gegevensverwerking speelt ook de mogelijke samenloop tussen de Algemene wet bestuursrecht (Awb) en de AVG. De Awb en de AVG regelen deels vergelijkbare beginselen. Diverse verplichtingen uit de AVG vallen samen of vertonen raakvlakken met het zorgvuldigheidsbeginsel, het motiveringsbeginsel en het gelijkheidsbeginsel. In de praktijk zal moeten worden bepaald hoe Awb en de AVG zich hier tot elkaar verhouden. Voorts gebruiken de Awb en de AVG soms dezelfde begrippen met verschillende juridische betekenissen. Voorbeelden van dit laatste zijn begrippen als ‘klacht’, ‘bezwaar’ en ‘besluit’. (zie noot 58) De AVG biedt geen ruimte voor de nationale wetgever om begrippen uit de AVG af te stemmen op de Awb. Bestuursorganen zullen hierdoor in de praktijk moeten nagaan hoe de AVG inwerkt op de bestaande klacht- en bezwaarprocedures in de zin van de Awb en in hoeverre als gevolg daarvan de daarop afgestemde communicatie met de burger moet worden aangepast.

4.3 Toegang tot de overheid
Tegen deze achtergrond en in aanvulling op het voorgaande adviseert de Afdeling om het recht op toegang tot de overheid als beginsel van behoorlijk bestuur nader te ontwikkelen en operationaliseren. De Afdeling doet daartoe de volgende handreikingen.

In de eerste plaats moet dit recht worden opgevat als een materieel vereiste. Toegang moet inhouden dat er sprake is van zogeheten "zinvol" contact met de overheid. Het is geen vormvereiste (contact via papier of via menselijke interactie), maar een materieel vereiste dat de burger inhoudelijk "te woord wordt gestaan" en dat het contact zich niet beperkt tot uitleggen maar kan leiden tot bijstelling van voornemens of handelingen - met andere woorden, dat het contact zinvol is - dat de burger zich serieus behandeld voelt en dat de overheid hem daadwerkelijk helpt. Toegang tot en zinvol contact met de overheid zal bijvoorbeeld ook zo geoperationaliseerd moeten worden dat er voorzieningen komen waardoor de burger en tijdig en adequaat wordt geïnformeerd en waarmee hij het recht op inzage in en correcties van persoonsgegevens eenvoudig en doeltreffend kan uitoefenen.
Zinvol contact kan worden gezien als een uitvloeisel van de menselijke waardigheid als een van de centrale publieke waarden: hoe voelt een burger zich als hij alleen contact onderhoudt met de overheid via een computersysteem dat hij niet begrijpt en dat niet ingaat op zijn probleem?

Regeerakkoord
In het regeerakkoord van het derde kabinet-Rutte is bepaald dat personen die niet elektronisch kunnen communiceren dat ook op een andere manier moeten kunnen blijven doen. Daarom blijft er een keuzemogelijkheid om per post met de overheid te communiceren. Als eerste uitwerking van dit uitgangspunt heeft het kabinet besloten dat burgers kunnen kiezen om berichten van de Belastingdienst elektronisch óf per post te ontvangen; die keus is niet beperkt tot burgers die niet elektronisch kunnen communiceren. (zie noot 59) De Europese Commissie moedigt regeringen aan om digitale communicatie als standaard aan te wijzen. Wel moeten andere kanalen openblijven voor mensen die geen digitaal contact kunnen of willen onderhouden. (zie noot 60)

In de tweede plaats zal de overheid een recht op toegang van de burger tot de overheid, en ook de in paragraaf 3 genoemde beginselen van motivering en zorgvuldigheid, moeten "inregelen" in de eigen organisatie en de eigen werkprocessen. (zie noot 61)

Voorbeelden
- Software zo inrichten dat alle verwerkingen worden geprotocolleerd (zie noot 62) en dat het correctierecht eenvoudig kan worden uitgeoefend (access by design, rectification by design). Elk bestuursorgaan de verantwoordelijkheid geven in te staan voor de kwaliteit van haar gegevensbestanden. Daar passen regelmatige controles bij.
-  Om de burger daadwerkelijk tegemoet te komen bij het corrigeren van onjuiste gegevens in de keten zou er een Burgerinspectie kunnen komen, met de bevoegdheid om een en ander af te dwingen.

In de derde plaats zal een recht op toegang van de burger tot de overheid ook concreet moeten worden uitgewerkt voor het recht op inzage en correctie van gegevens. Zinvol contact met de overheid gaat uiteraard om veel meer dan persoonsgegevens alleen. Tegelijkertijd is voor de burger recht op inzage en correctie daarvan wel een veel voorkomend en belangrijk onderwerp in zijn contact met overheidsorganisaties. Dit vormt van de verhouding tussen burger en overheid bij digitale dienstverlening door (ketens van) overheidsorganisaties een hoeksteen.
Deze nadere uitwerking moet plaatsvinden in de context van de AVG (zie hiervoor, paragraaf 4.2).

5. Digitalisering en wetgeving - dilemma’s

5.1 Digitalisering en wetgeving
In de voorgaande paragrafen is naar voren gekomen dat digitalisering gevolgen heeft voor de manier waarop de overheid omgaat met haar burgers. Die zijn niet allemaal gunstig: onder invloed van digitalisering wordt het contact met burgers steeds afstandelijker en bij het nemen van geautomatiseerde besluiten is er steeds minder ruimte voor een individuele afweging. Soms weet de overheid zelf niet hoe de computer tot een besluit is gekomen. De wetgeving is er vooral op gericht om snel en efficiënt werken mogelijk te maken; het burgerperspectief wordt soms gemist.
Daar komt iets anders bij. In een gedigitaliseerde samenleving gaan veranderingen en ontwikkelingen sneller dan vroeger. Men wordt plotseling geconfronteerd met geheel nieuwe manieren van organisatie van diensten, zoals Uber, Airbnb of Deliveroo, of met nieuwe productiemogelijkheden, zoals het 3D-printen van vuurwapens. De traditionele methoden om regels aan maatschappelijke veranderingen aan te passen, zijn hier niet meer toereikend. De wetgever worstelt dan ook met dit verschijnsel. Onder diverse aanduidingen - experimentele, toekomstbestendige, techniekonafhankelijke wetgeving - worden nieuwe wegen gezocht om met regelgeving het tempo van maatschappelijke veranderingen bij te benen.

Het lijkt erop dat de wetgever niet altijd voldoende rekening houdt met de nieuwe digitale werkelijkheid. Dat roept de vraag op of wetten nog wel altijd op de juiste manier tot stand worden gebracht. In het slotpunt van dit advies wordt op die vraag ingegaan.

5.2 Eenheid van wetgeving
Een eerste elementaire waarborg van de positie van burgers is de eenheid van wetgeving; het uitgangspunt dat gelijke vraagstukken op gelijke wijze worden beantwoord, zodat niet de burger (en overheidsdiensten) met steeds weer andere regels voor dezelfde vraagstukken worden geconfronteerd, staat in het bijzonder als het gaat om digitalisering op de tocht. In punt 2 is al gewezen op het grote aantal wetten en regels waarmee wetgever en bestuur trachten greep te krijgen op de verschijnselen van de digitale wereld. Recente voorstellen die de Afdeling heeft ontvangen geven het beeld dat de door digitalisering opgeworpen vragen daarbij verschillend en ad hoc worden beantwoord.

Het gaat daarbij om vraagstukken zoals die in het voorgaande aan de orde zijn gekomen, zoals algoritmische besluitvorming, de correctie van onjuiste gegevens en effectieve rechtsbescherming. Bij deze centrale elementen van geautomatiseerde besluitvorming, uitvoering en dienstverlening dient de wetgever een coherente en eenvormige beleidslijn te ontwikkelen die in de Aanwijzingen voor regelgeving vastgelegd zou moeten worden. Anders worden burgers en bedrijven opgezadeld met een verwarrende verscheidenheid aan oplossingen, waarvan zij de risico’s en consequenties dragen.

Het gaat echter om meer dan alleen eenduidigheid en eenvormigheid bij de oplossing van deze centrale elementen. Het gaat ook om eenheid en coherentie in het omgaan met de verstrengeling van regelgeving. In wet- en regelgeving is het niet ongebruikelijk om gelijke begrippen, zoals inkomen, jongere of eigen vermogen, in verschillende regelingen net weer iets anders te definiëren al naar gelang de strekking van die regeling en de beleidsdoelstellingen die daarmee worden nagestreefd. Voor de uitvoering kan dat bezwaarlijk zijn, maar het doet recht aan de pluriformiteit van maatschappelijke vraagstukken. Het gaat echter fout als zulke begrippen aan elkaar worden gekoppeld, zodat geen recht meer wordt gedaan aan de pluriformiteit van de werkelijkheid. Recht doen aan pluriformiteit is een wezenlijke waarde in het overheidsbestuur; zowel ongerechtvaardigde verscheidenheid alsook ongerechtvaardigde eenvormigheid zijn daarmee in strijd.

Eenheid en coherentie van wetgeving zijn moeilijk te bereiken wanneer aspecten van uitvoering en handhaving pas laat in het proces worden betrokken - zoals nu nog steeds vaak gebeurt. Dat geldt nog sterker bij digitaliseringsaspecten. Is eenmaal besloten tot wettelijke regeling en gedigitaliseerde uitvoering, dan zal de digitale rationaliteit vanaf het begin adequaat aandacht moeten krijgen. Dat impliceert dat men zich bij het opzetten en ontwerpen van een wettelijke regeling reeds in een vroeg stadium bewust moet zijn van de implicaties en beperkingen van een gedigitaliseerde uitvoering.

De toelichting bij wetsvoorstellen schenkt doorgaans wel aandacht aan aspecten als uitvoering, handhaving en informatievoorziening, maar doet dit meestal vanuit het bestuurlijk oogmerk om ruimte te scheppen en recht te doen aan de verscheidenheid van situaties en complicaties waarmee men bij de uitvoering geconfronteerd zal worden. Dat wordt dan op de klassieke manier opgelost: door de bepalingen vaag te formuleren en in de toelichting alle mogelijkheden open te laten. Juristen en beleidsmakers gaan er doorgaans van uit dat een gedigitaliseerde uitvoering de ruimte voor flexibiliteit, variëteit en oneindige mogelijkheden biedt. Het is echter precies omgekeerd: gedigitaliseerde uitvoering vraagt om precisie, standaardisatie en centralisatie, want alleen zo heeft men de voordelen van digitalisering. Overheidsdiensten zullen vaak voor de uitvoering van nieuwe wetgeving een nieuw systeem en eigen programma opzetten, om recht te doen aan de specifieke aard, eisen en kenmerken van het beleidsterrein. Daarbij zal echter ook steeds gebruik gemaakt worden van de sturingspakketten van grote software-aanbieders. Pakketten die met grote regelmaat geüpdatet worden en waar de daarop aangesloten programma’s steeds moet worden aangepast en steeds minder goed aansluiten. Op die wijze gaat wat in de opzet van het eigen programma een bijzaak was steeds meer het functioneren daarvan bepalen.

Soms is de volgorde van gebeurtenissen anders: een ICT-verschijnsel ontstaat in de praktijk en wordt pas later wettelijk geregeld. Dat geldt ook soms voor ICT-verschijnselen die door de overheid zelf in het leven worden geroepen. Zo zijn DigiD en MijnOverheid rond 2006 van start gegaan, maar is er pas in 2015 een wettelijke grondslag voor gekomen, waarbij de materiële regels bij ministeriële regeling werden vastgesteld. Een ander voorbeeld is de Verwijsindex Risicojongeren: die was al lang op stoom en de inrichting was al lang concreet bepaald voordat het wetgevend fundament werd gelegd.

Anderzijds kan het verstandig zijn om een nieuw ICT-verschijnsel dat buiten de overheid opduikt niet meteen te regelen. Soms gaat het om een eendagsvlieg; soms kan een nieuw verschijnsel goed worden geregeld met bestaande regels. Vaak zal het verstandig zijn eerst af te wachten hoe een nieuw verschijnsel (zoals blockchain) zich ontwikkelt. Zo is het bij platformdiensten van de deeleconomie van belang hoe het verschijnsel kan worden gekwalificeerd: is Uber een taxibedrijf of alleen een bemiddelingsdienst? (zie noot 63) Wel is het nuttig als de overheid zo’n nieuw verschijnsel actief volgt, zodat het achterwege laten van regels een bewuste keus is. Wanneer een ICT-verschijnsel gevolgen heeft voor de uitoefening van grondrechten, kan het noodzakelijk zijn niet te wachten met het treffen van een wettelijke regeling. Ook zal onder ogen moeten worden gezien of regulering op Europees niveau wellicht effectiever is, vanwege het grensoverschrijdend karakter van dit soort diensten.

Is eenmaal besloten om iets wettelijk te regelen, dan is van belang dat de ICT daarbij voldoende aandacht krijgt. Digitalisering vormt inmiddels een dominante rationaliteit van overheidsbeleid en met name de uitvoering daarvan. (zie noot 64) Als dat niet gebeurt, wordt het overheidsbeleid onuitvoerbaar (bijvoorbeeld omdat de software niet op tijd af of niet adequaat is), of zijn de nadelige gevolgen onaanvaardbaar groot.

5.3 Handreikingen voor de wetgever
In het voorgaande is aangegeven dat daar waar de wetgever niet altijd voldoende rekening houdt met de digitale werkelijkheid, de burger nadeel ondervindt. Dit werpt de vraag op hoe dit bij het voorbereiden en vaststellen van wet- en regelgeving ondervangen kan worden.

De wetgever als systeembeheerder
Lokin houdt in haar proefschrift een pleidooi om de ICT van begin af aan een centrale plaats te geven bij het ontwikkelen van wetgeving. Wetgeving, zo betoogt zij, komt nu grotendeels tot stand volgens een methode die bij de ontwikkeling van ICT bekend staat als de watervalmethode. Daarbij wordt het traject ingedeeld in afzonderlijke stappen. Elke volgende stap wordt pas doorlopen als de vorige stap met succes is afgesloten; blijkt gaandeweg dat er in een al doorlopen stap fouten zijn geslopen, dan wordt (net als bij ganzenborden) eerst die stap opnieuw gedaan. Inmiddels zijn er verschillende methodes ontwikkeld die in de praktijk beter blijken te werken, zoals de scrummethode. Die methodes houden in dat een project wordt opgeknipt in kleinere onderdelen, waaraan parallel wordt gewerkt. Het werk wordt gedaan in een multidisciplinair team, waarin ontwikkelaars en de eindgebruikers van de software samen de problemen in kaart brengen, oplossingen testen en het tussenresultaat bijstellen. (zie noot 65) Beleidsmedewerker, jurist en ICT’er moeten elkaars taal leren spreken of in ieder geval leren verstaan. (zie noot 66)

Het is hoe dan ook van belang dat de normatieve, juridische invalshoek en de digitale invalshoek meer en structureel met elkaar in verbinding worden gebracht.

Operatie BRP
Dit speelt ook - nog steeds - bij automatiseringsprojecten van de overheid. Bij de evaluatie van het tussentijds beëindigde project modernisering van de Gemeentelijke Basisregistratie Personen / Operatie BRP (2009-2017) werd geconcludeerd dat de stuurgroep vooral was samengesteld uit politiek-bestuurlijke kringen; de stuurgroep miste de technisch-inhoudelijke expertise om als klankbord te dienen voor het programmateam en kritische tegenspraak te bieden aan de gedelegeerd opdrachtgever. Het programmateam miste voldoende begrip voor overheid specifieke vereisten van rechtsstatelijkheid en maatschappelijk bewustzijn. De logica’s van de twee realiteiten lijken gedurende het programma telkens met elkaar te hebben geschuurd. (zie noot 67)

De Afdeling adviseert om vanaf het prille begin van het concipiëren van wet- en regelgeving uitvoering en ICT onderdeel van de voorbereiding daarvan te laten zijn en niet pas achteraf (als uitvoeringstoets), wanneer meestal de spreekwoordelijke pap al gestort is. Bij zo’n multidisciplinaire benadering kan ook een #doenvermogentoets (zie noot 68) worden uitgevoerd. Het is van belang dat in de memorie van toelichting de gevolgen voor ICT eerlijk worden behandeld en dat de Kamers aandacht voor de ICT-aspecten organiseren.

Dit kan langs een aantal manieren verder worden uitgewerkt.
- In de voorbereiding door ministeries kan daar waar digitalisering aan de orde is (nog) nadrukkelijker worden gewerkt in een multidisciplinair team. Naast de juridische, beleidsmatige en financiële disciplines, dient daarin ook de ICT-discipline vroegtijdig, vanaf het begin, vertegenwoordigd te zijn.
- Een #doenvermogentoets en een #uitvoeringstoets kan onderdeel zijn van de verschillende stappen en fases van de intra- en interdepartementale voorbereiding. Indien tussentijds uit dergelijke toetsen majeure bevindingen komen die niet voorzien of beoogd waren, dient dit snel aan de verantwoordelijke bewindspersonen te worden voorgelegd. Deze kunnen dan afwegen of de oorspronkelijke beleidsvoornemens opnieuw moeten worden besproken in het kabinet en met de Kamers.
-  Het is in elk geval van belang in de memorie van toelichting de gevolgen voor ICT-gerelateerde uitvoering uitgebreider te behandelen, en inzichtelijk te maken hoe afwegingen zijn gemaakt en in welke mate nadere afwegingen worden overgelaten aan lagere regelgeving of de uitvoering. (zie noot 69)
-  Het is zinvol om de Aanwijzingen voor de wetgeving en het Integraal afwegingskader voor beleid en regelgeving te actualiseren voor de meest recente inzichten op het gebied van digitalisering en wetgeving.
-  Het is goed om te letten op de samenloop met het wetgevingsprogramma van de Europese Unie. Een groot deel van de wetgeving die in Nederland geldt wordt immers op dat niveau vastgesteld. Het is dan ook verstandig dat de Nederlandse regering het belang van ICT meeneemt bij haar eigen inbreng in de Brusselse besluitvorming, en dat zij stimuleert dat de instellingen van de EU en de andere lidstaten dat eveneens doen. Niet als onderdeel van een uitvoeringstoets, maar vanaf het begin.

Ook in de fase van de parlementaire behandeling mag het bovenstaande niet zonder gevolgen blijven. De Afdeling meent dat de aanbevelingen uit het Parlementair onderzoek naar ICT-projecten bij de overheid wat betreft de rol van de Tweede Kamer nog onverminderd actueel zijn. Zo is het nog steeds een zinvolle gedachte om bij moties, initiatiefwetsvoorstellen en amendementen op wetsvoorstellen een ICT-toets en (al dan niet daarmee gecombineerd) een uitvoeringstoets verplicht te stellen.

Positie van de Staten-Generaal
Lokin betoogt dat het op het eerste gezicht niet goed past bij de positie van het parlement om bij de totstandkoming van wetgeving samen op te trekken met de regering: er is immers behoefte aan meer dualisme. Zij stelt daar tegenover dat het parlement meer werk zou kunnen maken van zijn medewetgevende taak, zodat het minder vaak nodig zal zijn om achteraf verantwoording te vragen. Zij zoekt de oplossing verder vooral in versterking van de ICT-deskundigheid van Eerste en Tweede Kamer en in het gebruik van andere vormen van wetgeving, zoals aanbouwwetgeving, kaderwetgeving en techniekonafhankelijke reguleringsvormen. (zie noot 70)

5.4 Wanneer kan wetgeving techniekonafhankelijk zijn?
Zoals gezegd (punt 5.1), worstelt de wetgever met het verschijnsel van het tempo van verandering en ontwikkeling in een digitale werkelijkheid. Aangezien wetgeving doorgaans geschreven wordt met bepaalde verschijnselen of activiteiten en de bezwaren daarvan voor ogen, is het heel wel mogelijk dat nieuwe verschijnselen niet aan de gestelde regels beantwoorden, met als mogelijk gevolg dat maatschappelijk gewenste ontwikkelingen niet zijn toegestaan, terwijl maatschappelijk ongewenste ontwikkelingen nu juist aan de werking ‘ontsnappen’. Vandaar dat op verschillende manieren in de wetgeving getracht wordt om deze zo nodig snel en flexibel aan te kunnen passen om nieuwe ontwikkelingen mogelijk te maken, dan wel daartegen op te kunnen treden. Vergaande delegatie van regelgevende bevoegdheid, het voorzien van de mogelijkheid tot afwijking van gestelde regels of het mogelijk maken van experimenten, zijn daarbij veel voorkomende figuren in de wetgeving. Dat is begrijpelijk, maar daardoor wordt de functie van wetgeving als houvast, waarborg en beperking uitgehold. Het betekent ook dat de burger niet weet of de investeringen die hij doet lonend zullen zijn, omdat de regels waar hij vanuit gaat op ieder moment weer anders kunnen zijn.

Om zulke bezwaren te vermijden streeft de regering ernaar om wetgeving in beginsel techniekonafhankelijk te formuleren. Dat houdt in dat in wettelijke bepalingen geen concrete eisen aan de bouw van voorzieningen worden gesteld, maar dat alleen aan de functionaliteit en werkzaamheid van een voorziening eisen worden gesteld, waarnaast randvoorwaarden worden ingevuld via aanwijzing van standaarden, bijvoorbeeld een standaard voor beveiliging. (zie noot 71) Techniekonafhankelijke wetgeving moet - zo is de gedachte - toekomstbestendig zijn: zij moet kunnen gelden voor toekomstige technologische ontwikkelingen.

Techniekonafhankelijke regelgeving leidt echter, dat is een eerste bezwaar, tot zeer abstracte formuleringen en algemene beginselen die geen concreet houvast bieden. De concretisering moet uit de toepassing blijken, maar daarmee geeft de wetgever de invulling van het beleid uit handen aan de uitvoering en de te ontwikkelen automatisering. Bovendien is werkelijk techniekonafhankelijke wetgeving niet altijd goed mogelijk, omdat de toekomst ten principale niet bekend is en men, weliswaar in abstracte termen, blijft vastzitten in bekende technieken.

Berichtenbox moeilijk te herkennen
Het voorstel van Wet modernisering elektronisch bestuurlijk verkeer bevat termen en begrippen die weliswaar abstract zijn geformuleerd, maar die zijn geschreven met het oog op de huidige stand van de techniek. Zo wordt het invullen van een contactformulier of webformulier omschreven als: "een bericht aan een bestuursorgaan, [dat wordt] verzonden door de rechtstreekse invoer van gegevens in een systeem voor gegevensverwerking van het bestuursorgaan. Met "een systeem voor gegevensverwerking waarin de geadresseerde toegang heeft tot het bericht" wordt bedoeld: de berichtenbox op een website.

In veel gevallen probeert de wetgever zulke bezwaren te ondervangen door de nadere, meer concrete, invulling te delegeren naar lagere regelgeving. Dat levert een tweede bezwaar op: het parlement komt buiten spel te staan en daarmee komt de democratische legitimatie van wetgeving onder druk. Het is overigens nog maar de vraag of het in uitvoeringsregelingen wel lukt om tot bepalingen te komen die beter kenbaar zijn en de burger meer houvast bieden.

Overigens doen deze vragen zich in vele Europese landen voor. Op een Colloquium van de Europese vereniging van Raden van State en hoogste bestuursrechters werd hier in mei 2018 in Den Haag over gesproken. Daarbij bleek onder meer dat Ierland in een deel van haar wetgeving voor een technologie-neutrale aanpak heeft gekozen, maar dat zich bij de uitleg daarvan moeilijkheden voordoen, ook als de rechter dit moet doen. Daarom is daar gekozen voor een "Interpretation Act" die de rechter ruimte biedt tot interpretatie. In Estland wordt het begrip techniek neutraal in die zin uitgelegd dat de wetgever geen onderscheid maakt in de wijze waarop burgers communiceren met de overheid en eventueel welk digitaal platform men gebruikt. In veel andere landen, waaronder Frankrijk en Duitsland, wordt de spanning tussen techniekonafhankelijke resp. -neutrale wetgeving en interpretatie door de rechter herkend, maar het ei van Columbus is nog niet gelegd.

De problematiek van wetgeving en de digitale technologische ontwikkeling is ook herkenbaar in het aanpassingsproces van de Algemene wet bestuursrecht (Awb). Die wet is in oorsprong en in hoofdzaak bedoeld als techniekafhankelijke wet; zij is geschreven voor schriftelijke besluitvorming en papieren communicatie. In de afgelopen jaren is zij op onderdelen aangepast aan de digitale werkelijkheid. In 2004 werd een afdeling in de wet opgenomen over elektronisch verkeer tussen overheid en burger (afdeling 2.3), bedoeld om elektronisch verkeer te faciliteren uitgaande van wederzijdse instemming. Sinds 2009 kunnen besluiten die niet tot een of meer belanghebbenden zijn gericht elektronisch worden bekendgemaakt. (zie noot 72) Sinds juni vorig jaar biedt de wet de grondslag om elektronisch te kunnen procederen bij de bestuursrechter; uiteindelijk zal dit verplicht worden, behalve voor natuurlijke personen.

Het gaat in al deze gevallen om incidentele aanpassingen van de Awb. De hoofdstructuur van de wet is onaangetast gebleven. Nog steeds bevat de Awb gedetailleerde en verfijnde regels voor papieren communicatie tussen burger en overheid. Die regels worden in afzonderlijke hoofstukken gedifferentieerd voor bijzondere categorieën van besluiten en voor andere rechtsfiguren, zoals dwangbevelen bij bestuurlijke geldschulden, bevoegdheden van toezichthouders, de last onder dwangsom, de last onder bestuursdwang en de bestuurlijke boete. De consequenties van elektronische communicatie voor al die typen besluiten en rechtssituaties worden niet of in elk geval niet toereikend geregeld. Het ligt in de rede de Awb op dit aspect nader te doordenken.

Al met al ziet de Afdeling in de praktijk twee bezwaren met techniekonafhankelijk wetgeven, wanneer het gaat om regels die gericht zijn op ICT toepassingen zelf of daar niet los van gezien kunnen worden.
Het eerste bezwaar is dat van pseudo-techniekonafhankelijkheid. De wetgever wil een bepaalde dienst of techniek regelen, denkt dat techniekonafhankelijk te moeten doen en kiest dan voor een abstractieniveau dat vlees-noch-vis is. Dit doet afbreuk aan de kenbaarheid van de wet. "Wat staat er nu? Wat wordt bedoeld?" En het bereikt het doel niet. Het concrete geval, een dienst of techniek, wordt niet geregeld. Regelmatig wordt geprobeerd deze valkuil te vermijden door alsdan de regeling van de dienst of techniek te delegeren naar lagere regelgeving. Dan is het nog maar zeer de vraag of het in lagere regelgeving wel lukt om tot materiële normstelling te komen.
Een dergelijke delegatie levert een tweede probleem op, namelijk het buiten spel zetten van het parlement. Gegeven de gevolgen van digitalisering voor de positie van de burger is democratische legitimatie van belang.

Een bijkomend dilemma is dat de "levensduur" van bepaalde digitale techniek (en daarmee vormgegeven dienstverlening) niet op voorhand te voorspellen is. Soms gaat bepaalde techniek en daarop gebaseerde diensten een fors aantal jaren mee. Dan kan het verstandig zijn om techniekafhankelijk te wetgeven. Soms kan een ICT-ontwikkeling van voorbijgaande of heel kortdurende aard zijn; dan is het verstandiger om überhaupt te wachten met regelgeving.

Het rode potlood en de wet
In 1966 worden bij verkiezingen voor het eerst stemmachines gebruikt. De Kieswet en het Kiesbesluit bevatten zeer gedetailleerde regels voor het stemmen door middel van stembiljetten; voor het stemmen met stemmachines worden in de Kieswet alleen abstract geformuleerde functionele eisen opgenomen. De keus voor machines of papier is aan de gemeente; na verloop van jaren wordt bijna overal gekozen voor stemmachines, maar wettelijk blijft het rode potlood het uitgangspunt. In de praktijk is de overheid sterk afhankelijk van twee leveranciers van stemmachines en van het bedrijf dat de uitslagen berekent. Er is geen goedkeuringsprocedure voor programmatuur; de broncodes zijn niet bekend.
In 2006 ontstaat ophef over de betrouwbaarheid en controleerbaarheid van het stemmen met stemmachines. Dan blijkt dat de minister over weinig bevoegdheden beschikt om in te grijpen in het verkiezingsproces. In 2007 wordt besloten om de stemmachines voorlopig af te schaffen. (zie noot 73)
Bij een wijziging van de kieswetgeving in 2010 wordt voorgesteld ook de papieren stemprocedure uit de wet te halen en op te nemen in uitvoeringsregelingen. De Raad van State is van oordeel dat zulke vergaande delegatie niet past bij het bijzondere karakter van het kiesrecht. Hij merkt op dat de regels voor stemmachines onder de oude wet al via delegatie werden vastgesteld, maar niet actueel werden gehouden. (zie noot 74) Het voorstel wordt niet verder voortgezet.

Voor deze dilemma’s bestaat geen standaardoplossing. Telkens zal de wetgever een afweging moeten maken tussen de mate van techniekafhankelijkheid en van techniekonafhankelijkheid en tussen de mate van regeling in de wet en van delegatie naar lagere regelgeving. Op deze twee "assen" ware telkens de juiste balans te vinden, gegeven de te regelen vraagstukken. In de toelichting op wet- en regelgeving kan worden onderbouwd hoe in het voorstel deze balans is gevonden. Dit biedt aan het parlement een aanknopingspunt om zich hier expliciet over uit te laten.
De rechtszekerheid zal in ieder geval voorop moeten staan: burgers mogen naar eigen inzicht handelen tenzij dit in strijd is met duidelijke, concrete wettelijke regels. Dit uitgangspunt kan in het gedrang komen wanneer de wetgever een uitweg zoekt in onbepaalde begrippen en de invulling overlaat aan de al dan niet digitale uitvoering.
De Afdeling adviseert daarom om techniekonafhankelijk regelgeven slechts daar toe te passen waar dit aantoonbaar het beoogde doel bereikt. Zo niet, dan is tenminste uiterste terughoudendheid geboden.

6. Tot slot
Digitalisering van de samenleving zal verder gaan; dat is niet alleen onvermijdelijk maar schept onder de goede voorwaarden ook kansen. Dat mag ook bij alle kritische kanttekeningen in dit advies wel benadrukt worden. Dankzij ICT kan de overheid aanzienlijk meer werk verzetten; het kan sneller en betrouwbaarder. En voor de meeste burgers wordt het eenvoudiger om informatie van de overheid te verzamelen en om met de overheid zaken te regelen. In dit advies wordt vanuit burgerperspectief de wetgever en het overheidsbestuur opgedragen de nodige verbeteringen aan te brengen. Vanzelfsprekend mag ook van de burger worden verwacht zorgvuldig om te gaan met zijn gegevens en zijn contact met de overheid.

De regering gaat in NL DIGIbeter op de kansen in, onder andere voor betere publieke dienstverlening en innovatie. Met dit advies beoogt de Afdeling daar een bijdrage aan te leveren, namelijk op de basisvoorwaarde van het rechtstatelijk functioneren door de overheid naar de burger toe.

De vice-president van de Raad van State


Bijlage 1. Lopende wetgeving waarin digitalisering een rol speelt
Stand 1 september 2018
 Tabel 1A
Tabel 1B
Tabel1C


Tabel2A
Tabel 2B
Tabel 2C


Bijlage 3. Aangehaalde literatuur

Algemene Rekenkamer, Basisregistraties 2014
Algemene Rekenkamer, Onderzoeksrapport Basisregistraties vanuit het perspectief van de burger, fraudebestrijding en governance, Den Haag, 2014.

Van Eck, Geautomatiseerde ketenbesluiten & rechtsbescherming 2018
B.M.A. (Marlies) van Eck, Geautomatiseerde ketenbesluiten & rechtsbescherming: Een onderzoek naar de praktijk van geautomatiseerde ketenbesluiten over een financieel belang in relatie tot rechtsbescherming, proefschrift, Tilburg 2018.

De Jong, Berghout & Van Twist, Niet te stoppen 2018
Henk de Jong, Egon Berghout & Mark van Twist, Onderzoeksrapport over de aansturing en besluitvorming omtrent de operatie Basisregistratie Personen (brp), Kamerstukken II 2017/18, 27 859 nr. 124, bijlage.

Kranenborg & Verhey, De AVG 2018
H.R. Kranenborg en L.F.M. Verhey, De Algemene Verordening Gegevensbescherming in Europees en Nederlands perspectief, Deventer 2018.

Lokin, Wendbaar wetgeven 2018
Mariette Lokin, Wendbaar wetgeven. De wetgever als systeembeheerder, proefschrift Vrije Universiteit, Boom Juridisch (verschijnt op 31 oktober 2018).

Van Male, Digitalisering van discretionaire bevoegdheden 2017
R.M. van Male, "Digitalisering van discretionaire bevoegdheden: verkenning van rechtsstatelijke grenzen bij het voorbereiden, nemen en bekendmaken van besluiten", in: R.J.N. Schlössels, B.A. Beijen, A.M.M.M. Bots & J.A.F. Peters (red.), In het nu… Over toekomstig bestuursrecht, Deventer: Wolters Kluwer 2018, p. 263-284.

Meuwese, Grip op normstelling in het datatijdperk 2017
A.C.M. Meuwese, "Grip op normstelling in het datatijdperk", preadvies voor de Vereniging voor bestuursrecht (VAR-reeks 158), Den Haag: Boom juridisch, 2017.

Nationale ombudsman, Gevraagd: maatwerk! 2015
Nationale ombudsman, Gevraagd: maatwerk! Een onderzoek naar de uitvoeringspraktijk van de Belastingdienst, (rapportnummer: 2015/025), Den Haag: Nationale Ombudsman 2015.

Nationale ombudsman, Het verdwijnen van de blauwe envelop 2016
Nationale ombudsman, Het verdwijnen van de blauwe envelop. Een onderzoek naar de digitalisering van het berichtenverkeer van de Belastingdienst, 5 april 2016, (rapportnummer: 2016/030), Den Haag: Nationale Ombudsman 2016.

Nationale Ombudsman, Hoezo MijnOverheid? 2017
Nationale Ombudsman, Hoezo MijnOverheid? Onderzoek naar knelpunten voor burgers bij MijnOverheid / de Berichtenbox, (rapportnummer: 2017/098), Den Haag: Nationale Ombudsman 2017.

Nationale Ombudsman, SVB: Digitaliseren = informeren 2017
Nationale Ombudsman, SVB: Digitaliseren = informeren. Een onderzoek naar de communicatie van de SVB over digitalisering, (rapportnummer 2017/001), Den Haag: Nationale Ombudsman 2017.

Prakken, NJB 2018, blz. 269-274
Henry Prakken, "Komt de robotrechter er aan?", Nederlands Juristenblad 26 januari 2018, aflevering 4, blz. 269-274.

Rathenau, Opwaarderen 2017
L. Kool, J. Timmer, L. Royakkers & R. van Est, Opwaarderen - Borgen van publieke waarden in de digitale samenleving, Den Haag: Rathenau Instituut 2017

Scheltema, Advies integrale geschilbeslechting 2017
M. Scheltema, Advies integrale geschilbeslechting in het sociaal domein, Kamerstukken II 2017/18, 34 477 nr. 27, bijlage.

Stevens, Vertrouwen in de toekomst 2018
L. Stevens, Vertrouwen in de toekomst; vertrouwen in elkaar, persoonlijke reflecties op belastingheffing in turbulente omstandigheden, 2018

Veerman, De wet als zinsbegoochelingstoestel 2004
Veerman, De wet als zinsbegoochelingstoestel. Over de kwaliteit van wetgeving, oratie, Universiteit Maastricht, 2004

Widlak & Peeters, De Digitale Kooi 2018
A. Widlak & R. Peeters, De Digitale Kooi. Over (on)behoorlijk bestuur door Informatiearchitectuur, Den Haag: Boom bestuurskunde 2018.

WRR, Big Data in een vrije en veilige samenleving 2016
Wetenschappelijke Raad voor het Regeringsbeleid, Big Data in een vrije en veilige samenleving, Amsterdam: Amsterdam University Press, 2016.

WRR, iOverheid 2011
Wetenschappelijke Raad voor het Regeringsbeleid, iOverheid, Amsterdam: Amsterdam University Press, 2011.

WRR, Weten is nog geen doen 2017
Wetenschappelijke Raad voor het Regeringsbeleid, Weten is nog geen doen. Een realistisch perspectief op redzaamheid, Den Haag: 2017.


Nader rapport (reactie op het advies) van 5 september 2018

De Afdeling advisering van de Raad van State (de Afdeling advisering) heeft uit eigen beweging een advies uitgebracht inzake de effecten van digitalisering voor de rechtsstatelijke verhoudingen, gebaseerd op artikel 21 van de Wet op de Raad van State. Dit advies, gedateerd 31 augustus 2018, nr. W04.18.0230/I, moge ik U hierbij aanbieden.

In de bijlage bij dit nader rapport is het advies van de Afdeling integraal opgenomen. De aanbevelingen van de Afdeling zijn niet voorzien van een reactie, maar worden betrokken bij de uitvoering van Agenda Digitale Overheid ‘NL DigiBeter’. Over de uitvoering van deze beleidsagenda van het kabinet zal de Tweede Kamer jaarlijks worden geïnformeerd, in welk verband tevens zal worden ingegaan op de door de Afdeling gedane aanbevelingen.

Ik moge U verzoeken goed te vinden dat dit nader rapport en het advies openbaar worden gemaakt door toezending aan de beide Kamers der Staten-Generaal.

De Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties


Kabinetsreactie (op het advies) van 2 november 2018

Met interesse heeft het kabinet het advies gelezen van de Afdeling advisering van de Raad van State (hierna: de Afdeling). Ik wil de Afdeling danken voor de gedane aanbevelingen. Technologieën bieden vele kansen om maatschappelijke uitdagingen het hoofd te bieden. Tegelijkertijd herken ik de zorgen van de Afdeling. Er ligt een duidelijke taak voor de overheid om ervoor te zorgen dat burgers en ondernemers niet in de knel komen vanwege deze ontwikkelingen.

Antwoorden op de vragen die deze ontwikkelingen met zich meebrengen, zijn niet eenvoudig te geven. Het is niet alleen een kwestie van aanpassen van wetgeving en het ontwerpen van afwegingskaders, maar ook van overheidsbrede bewustwording in vele beleidsvelden en uitvoeringsprocessen. Er moet recht worden gedaan aan een veelheid van doelen, belangen en partijen.

Aan de orde is het borgen van publieke waarden als privacy, zelfbeschikking en gelijkheid. Dat vertaalt zich in belangrijke principes voor de overheidsdienstverlening als de mens centraal, één-loket, eigen regie op gegevens, inclusie (ondersteunen van niet-digivaardigen), proactieve dienstverlening en een strategie waarbij burgers kunnen kiezen tussen website, app, balie en papieren post alsmede daartussen kunnen wisselen (zie noot 75).

De meeste aanbevelingen van de Afdeling omarm ik en zie ik als ondersteunend aan het door het kabinet ingezette beleid. Daarbij dient gezegd te worden dat er nog werk aan de winkel is. De ICT systemen die in de praktijk zijn ontworpen communiceren niet altijd even goed en het recht van correctie blijkt niet altijd geëffectueerd te kunnen worden. Dit is niet meteen geregeld, maar het heeft mijn aandacht en er wordt hard aan gewerkt.

Op een enkel punt behoeft de stellingname van de Afdeling nuancering. De Afdeling stelt in haar advies dat digitalisering bij de overheid met name wordt gedreven vanuit kostenbeheersing en een streven naar doelmatigheid en vreest dat de nadelige gevolgen van de digitale overheid bij burgers en ondernemers worden neergelegd.

Reactie kabinet
Met het aantreden van dit kabinet is er voor het eerst één verantwoordelijk bewindspersoon voor de digitale overheid voor burgers en ondernemers. Ik heb daarom aan het begin van dit jaar een nieuwe, interbestuurlijke, governance ingericht om de partijen bijeen te brengen en de verdere ontwikkeling van beleid en uitvoering gezamenlijk vorm te geven.

Ik ben het eens met de Afdeling dat de overheid ICT lang heeft benaderd en toegepast vanuit de invalshoek van efficiency en bedrijfsvoering. Mede naar aanleiding van het adviesrapport ‘Maak Waar’ (zie noot 76) van de Studiegroep Informatiesamenleving en Overheid heeft het vorige kabinet een andere koers ingezet. Het huidige kabinet en de medeoverheden hebben de lijn voortgezet om niet het systeem, maar de mens centraal te stellen. Hierbij refereer ik aan de eerder dit jaar gelanceerde Agenda Digitale Overheid ‘NL DIGIbeter’ waarin de burger en ondernemer centraal staan. Evenals aan de Nederlandse Digitaliseringsstrategie en lopende domeinspecifieke en algemene wetgeving, in samenhang met diverse digitaliseringsinitiatieven van medeoverheden, zoals de Digitale Agenda 2020 van de VNG. In de uitwerking van deze agenda zijn ook de adviezen van de WRR en de Nationale Ombudsman vertaald in diverse actiepunten.

Hiermee zijn we er niet. De effecten van de digitalisering voor de rechtsstatelijke verhoudingen en de positie van de burger hebben onze continue aandacht.

1. Digitale besluitvorming

Reactie kabinet
In het overheidsdomein maakt digitalisering dienstverlening aan burgers en ondernemers doelmatiger, sneller en beter. Technologieën kunnen ook risico’s, voor publieke waarden en mensenrechten, met zich brengen. Van belang is de kansen te benutten en risico’s op een adequate wijze te adresseren. Wat betreft het punt van de Afdeling over besluiten zonder menselijke tussenkomst en toepassing van profilering wijs ik op de Algemene Verordening Gegevensbescherming (hierna: AVG) en de Uitvoeringswet AVG. De AVG en de Uitvoeringswet AVG bevatten in de praktijk toe te passen bepalingen inzake geautomatiseerde besluitvorming inclusief profilering. Geautomatiseerde individuele besluitvorming op basis van profilering vergt op grond van artikel 40

Uitvoeringswet AVG een specifieke wettelijke grondslag. De vraag is of de zorg van de Afdeling zich richt op het gebruik van data-analyse in de vorm van profilering, die resulteert in risico-taxatie als sturingsinformatie voor bijvoorbeeld toezicht en handhaving. Het is de vraag of dan al van een besluit kan worden gesproken. Meestal is aanvullende informatie nodig op basis waarvan de overheid met menselijke tussenkomst een besluit kan nemen. Als het gaat om een besluit tegen verwijtbaar handelen, zal een causaal verband moeten worden gelegd. Profilering leent zich daar niet voor, omdat dit uitgaat van correlatie. Dit neemt niet weg dat het juist bij profilering door de overheid wenselijk is om, zoals een interdepartementale werkgroep nu aan het doen is, kwaliteitswaarborgen te ontwikkelen om fouten te voorkomen. Uw Kamer zal over de uitkomsten hiervan te zijner tijd worden geïnformeerd.

Bestaande beginselen van behoorlijk bestuur moeten door de bestuursorganen en de rechtspraktijk tegen de achtergrond van de AVG worden toegepast, de zogenoemde beginselbenadering. Dit betreft met name het motiveringsbeginsel (welke automatische beslisregels zijn gebruikt, is er sprake van ketenbesluitvorming etc.) en het zorgvuldigheidsbeginsel (rekening houden met feiten en omstandigheden, desnoods in afwijking van geautomatiseerde beslisregels).

Uit de AVG volgt dat voor gebruik van persoonsgegevens in ketens dan wel bij ketenbesluitvorming dezelfde regels gelden voor het verantwoordelijke (overheids)orgaan. Dat orgaan is op grond van de Algemene wet bestuursrecht (Awb) verantwoordelijk voor de kwaliteit van de besluiten die het neemt (incl. het eventueel daarbij gebruikt algoritme) en het moet betrokkene op grond van de AVG informeren over onder meer het recht op correctie en inzage van diens persoonsgegevens.

Operationalisering van het voorgaande, waarbij wordt bezien hoe de benodigde transparantie gerealiseerd kan worden, is momenteel onderwerp van divers onderzoek. U heeft inmiddels een brief over transparantie van algoritmen bij de overheid van de minister voor Rechtsbescherming ontvangen. (zie noot 77) Het kabinet ontwikkelt voorts richtlijnen voor het inzichtelijk maken van algoritmen voor toezicht en rechterlijke toetsing; belangen als nationale veiligheid kunnen beperkingen stellen aan transparantie. Ook is een kabinetsreactie in voorbereiding op het rapport ‘effecten van algoritmen op grondrechten’ van de Universiteit Utrecht. Voorts doet de Raad voor het Openbaar Bestuur onderzoek naar de effecten van digitalisering op democratische waarden. Er start nog in opdracht van het WODC een verkennend onderzoek naar de juridische aspecten van algoritmen die zelfstandig besluiten nemen. Tot slot wordt een onderzoek uitgevoerd naar het gebruik en de toepassing van algoritmen binnen de overheid. Uw Kamer wordt over deze trajecten separaat geïnformeerd, waar mogelijk voorzien van een kabinetsstandpunt.

De Afdeling beschrijft ook risico’s rondom het digitaal koppelen van gegevens in verschillende contexten. Een voorbeeld waar gegevens worden gekoppeld is SyRI (Systeem Risico Indicatie). Anders dan de Afdeling veronderstelt, is SyRI geen toepassing van deep learning en ook geen zelflerend systeem. SyRI is nadrukkelijk géén hulpmiddel bij het voorspellen of een individu een overtreding zou kunnen begaan. Met SyRI worden bestanden met bestaande, feitelijke gegevens van de op grond van artikel 64 van de Wet structuur uitvoeringsorganisatie werk en inkomen (SUWI) genoemde partijen, zoals UWV, SVB, colleges van B&W, Belastingdienst, Inspectie SZW, met elkaar vergeleken en wordt beoordeeld of er discrepanties tussen deze gegevens zijn. Indien uit de onderlinge vergelijking van deze gegevens na toetsing aan het risicomodel een discrepantie is gebleken, moet deze discrepantie eerst door één of meer van de genoemde partijen worden onderzocht, voordat er een beslissing mag worden genomen die voor de betrokkene rechtsgevolgen kan hebben. Dit onderzoek is met waarborgen (zoals hoor- en wederhoor) omkleed. Op basis van de toepassing van SyRI vindt dus geen automatische besluitvorming plaats. (zie noot 78)

Over het toepassen van de beginselen van behoorlijk bestuur is hierboven het een en ander gemeld vanuit het perspectief van de AVG. BZK werkt ook samen met een aantal gemeenten aan een Code Goed Digitaal Openbaar Bestuur. BZK en deze zogenaamde smart cities doen dit samen met de VNG. Hierbij wordt de vigerende code geactualiseerd en worden er aanvullende afspraken gemaakt over het (her)gebruik van gegevens en data. De Code Goed Digitaal Openbaar Bestuur beoogt bestuurders te ondersteunen bij hun dagelijks werk door reflectie op en concrete handvatten te bieden voor modern openbaar bestuur en moderne vormen van democratie. Hierbij wordt ook aandacht geschonken aan de positie en de bescherming van de burger en ondernemer. Voor het kabinet blijft voorop staan dat de Grondwet, mensenrechten en onderliggende beginselen als menselijke waardigheid, gelijke behandeling, privacy, recht op veiligheid, zelfbeschikking, recht op een eerlijk proces en vrijheid van meningsuiting onverkort ook online gelden. Het is zaak dat deze fundamentele rechten binnen de ‘Rechtstaat-online’ voldoende geborgd worden in technologieën, alsmede in de bestuurspraktijk en rechtspraktijk. De in deze brief genoemde trajecten zijn daar een voorbeeld van. Hierbij moeten alle stakeholders betrokken bij digitalisering - bedrijven, toezichthouders, wetenschap, maatschappelijk middenveld, overheid - hun verantwoordelijkheid nemen.

Mijn voornemen is dit najaar een gesprek met verschillende collegabewindslieden, uitvoeringsorganisaties en de VNG of grote gemeenten aan te gaan. Centraal zal staan waar en hoe knelpunten in de uitvoering naar boven komen, die op een tekort duiden aan menselijke maat bij overheidsbesluitvorming, alsmede wat daarvan de oorzaak is. Ik hoop in dit gesprek tot vervolgstappen te komen. Ik wil daarbij niet in het speelveld komen van lopende initiatieven, zoals rond de aanpak van problematische schulden.

2. Digitale overheidsdienstverlening

Reactie kabinet
Het kabinet wil dat iedereen mee kan doen en kan profiteren van technologische ontwikkelingen. Dit vergt dat iedereen vroeg basisvaardigheden aanleert en dat mensen ook op latere leeftijd blijven leren en zich ontwikkelen. Dit najaar stuur ik het Actieplan Inclusie aan uw Kamer. Tegelijkertijd realiseer ik me dat niet iedereen op de digitale weg mee kan doen. Ik blijf daarom kwetsbare groepen ondersteunen, bijvoorbeeld door digitaal machtigen mogelijk te maken. Hierbij wordt rekening gehouden met de aanbevelingen uit het rapport ‘Weten is nog geen doen’ van de WRR. Ook blijft contact met de overheid per post of via een loket in beginsel mogelijk.

Het kabinet omarmt het advies over het inzage- en correctierecht. Met het programma Regie op Gegevens werken we aan de basisafspraken voor veilige en betrouwbare uitwisseling van gegevens en regie daarover van de betreffende burger of ondernemer. De basisafspraken worden medio 2019 opgeleverd. Autonomie van burgers en ondernemers is daarbij het uitgangspunt. Dat betekent dat we op termijn mogelijk willen maken dat mensen op één plek belangrijke zaken kunnen regelen die aan hun persoon gekoppeld zijn. Denk daarbij aan het kunnen (laten) aanpassen van je persoonlijke gegevens, inzicht hebben over de door jezelf geregistreerde gegevens, het toestemming kunnen geven voor gebruik van je persoonlijke gegevens, en het beheer van je digitale identiteit en je digitale inlogmiddelen.

Ik zal het huidige portaal MijnOverheid omvormen tot een plek waar de burger op termijn zoveel mogelijk regie op zijn of haar (persoons)gegevens kan voeren. MijnOverheid wordt de plek waar burgers een onjuist gegeven kunnen (laten) corrigeren; doorwerking in de gehele keten moet daarbij worden gerealiseerd. De gevolgen van het gebruik van een onjuist gegeven moeten snel en voor de gehele keten kunnen worden hersteld. Bezien zal worden op welke wijze dit wettelijk kan worden verankerd, onder meer bij of krachtens de toekomstige Wet digitale overheid. (zie noot 79) De verschijningsvorm van MijnOverheid zal de komende jaren flink gaan veranderen. Het is daarbij van belang dat de ontwikkeling van de voorziening en voorbereiding van het wettelijk kader gelijk op lopen.

Voorts wordt momenteel, uitgaand van het burgerperspectief, bezien op welke wijze in de Awb meer waarborgen kunnen worden opgenomen bij bestuurlijk verkeer. Ik hoop uw Kamer binnen enkele maanden een voorstel voor de wijziging van de Awb te sturen.

3. Digitalisering en wetgeving

Reactie kabinet
Evenals de Afdeling vinden we het belangrijk dat beleid, (ICT)uitvoering en wetgeving samenwerken, teneinde wetgeving te formuleren die effectief, rechtmatig en uiitvoerbaar is. In dit verband verwijs ik naar de Aanwijzingen voor de regelgeving (Ar) en het Integraal Afwegingskader (IAK), waarin aandacht wordt gevraagd voor een goede samenwerking tussen de betrokken partijen en de verplichte toetsen als de uitvoering- en handhavingstoets, de doenvermogentoets en de Privacy Impact Assessment zijn opgenomen en toegelicht. Hierin heeft (ICT)uitvoerbaarheid een vaste plek. Het kabinet zal bezien op welke wijze het IAK en de Ar nadere specificering behoeven, teneinde wetgeving en ICT beter te verbinden.

Daarnaast refereer ik aan de BNC-fiches, waarin richting uw Kamer de inzet met betrekking tot de voorgenomen EU-regelgeving wordt geformuleerd. Het is van belang hierbij nadrukkelijk aandacht te besteden aan de (ICT)uitvoerbaarheid van EU-voorstellen.

Het is duidelijk dat technologische ontwikkelingen snel gaan en dusdanig ingrijpend kunnen zijn, dat bestaande regels niet meer voldoen of zelfs overbodig worden. Dan kunnen nieuwe regels of aanpassing van de bestaande wet- en regelgeving nodig zijn om onze waarden en fundamentele rechten te borgen.

Het is noodzakelijk om als overheid bij te blijven met de nieuwste maatschappelijke en technologische ontwikkelingen om zodoende op tijd in beweging te komen. Het gaat dan overigens niet per definitie om wijziging van wet- en regelgeving. Beleid kan ook worden gevoerd via voorlichting, (aansturen op) zelfregulering, subsidies, inkoopbeleid, keuzen in toezicht en handhaving etc.

Het kabinet zal vaker dan nu strategische verkenningen doen om in een vroeg stadium de technologische, juridische en ethische vraagstukken rondom technologieën te duiden. Hiermee wordt al geëxperimenteerd in zogenaamde fieldlabs waarin medeoverheden, uitvoeringsorganisaties, ministeries en soms private partijen op basis van maatschappelijke opgaven gezamenlijk kansen en bedreigingen verkennen en waar nodig actie nemen.

Zoals is aangegeven in de Agenda Digitale Overheid ‘NL DIGIbeter’, wil het kabinet dat wet- en regelgeving geen onnodige beperking met zich brengt voor innovatie, daarbij recht doend aan waarden als rechtszekerheid en democratische besluitvorming. Er zijn verschillende instrumenten denkbaar om wetgeving innovatievriendelijker te maken. Naast techniekonafhankelijke normen en delegatie kan daarbij ook gedacht worden aan instrumenten als doelregulering, ‘right-to-challenge’, wettelijke experimenteerbepaling en best beschikbare techniek. (zie noot 80)

Het kabinet is van oordeel dat techniekonafhankelijke normen een manier kunnen zijn om rekening te houden met snel veranderende technieken. Het kabinet is het daarbij met de Afdeling eens dat bij het opstellen van wetgeving van geval tot geval moet worden bezien of het gebruik van techniekonafhankelijke normen doeltreffend is en of het gebruik ervan geen onwenselijke gevolgen heeft voor de duidelijkheid en kenbaarheid van de wet. Wat betreft delegatie is het kabinet van oordeel dat bij de keuze welke elementen in de wet zelf regeling moeten vinden en voor welke elementen delegatie is toegestaan, het ‘primaat van de wetgever’ het richtsnoer is. Dat betekent dat de belangrijkste elementen in de wet zelf staan en niet in een lagere regeling. Het kabinet is het met de Afdeling eens dat in de memorie van toelichting van een wetsvoorstel de gemaakte keuzes aangaande techniekonafhankelijke normen en delegatie dienen te worden toegelicht en onderbouwd.

Het vraagstuk van ruimte voor innovatie in wetgeving is een voortdurend punt van aandacht in het wetgevingsbeleid. Zo heeft het kabinet in een brief van 29 juni 2018 (zie noot 81) aangegeven de mogelijkheden voor wettelijke experimenteerruimte te vergroten. Momenteel worden hiertoe de Aanwijzingen voor de regelgeving aangepast.

Tot slot
Ik ben de Afdeling erkentelijk voor haar advies. Het is goed om vast te stellen dat we dezelfde zorgen delen en het burgerperspectief centraal stellen. Het advies sluit wat mij betreft aan bij de door het kabinet ingezette acties en trajecten. Zoals vermeld bij de aanbieding van ‘NL DIGIbeter’ wordt deze ieder jaar geactualiseerd. Bij de volgende iteratie van de agenda zal ik, waar dat aan de orde is, tevens aangeven wat de voortgang is van de kabinetsacties die het advies raken.

De staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties


(1) Bijvoorbeeld https://www.utrecht.nl/bestuur-en-organisatie/betaling-aan-de-gemeente.
(2) https://www.fraudehelpdesk.nl/nieuws/naam-betaal-app-tikkie-misbruikt-phishing.
(3) Kamerstukken II 2017/18, 26 643, nr. 549, bijlage.
(4) Dit advies is onder andere voorbereid in gesprekken met vertegenwoordigers van de Algemene Rekenkamer, de Nationale Ombudsman en de Autoriteit Persoonsgegevens, en van adviesraden die te maken hebben met digitalisering (in het bijzonder het Rathenau-instituut en de Wetenschappelijke Raad voor het Regeringsbeleid), en met deskundigen van diverse ministeries, waaronder wetgevingsdirecties en uitvoeringsorganisaties. Voorts zijn de inzichten van de Afdeling bestuursrechtspraak van de Raad van State en van de Europese Vereniging van Raden van State en hoogste bestuursrechtelijke colleges benut.
(5)  Verordening (EU) 2016/679 van het Europees Parlement en de Raad, 27 april 2016, betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens en betreffende het vrije verkeer van die gegevens en tot intrekking van Richtlijn 95/46/EG, PB 2016, L 119.
(6) WRR, iOverheid 2011.
(7) Zie o.a. Raad voor de Leefomgeving en Infrastructuur (RLI), Technologie op waarde schatten, 2017, Publicatie Rli 2017/01: "… de omgang met technologie [is] een balanceer act waarin aandacht nodig is voor het evenwicht tussen wendbaarheid en stabiliteit." (blz. 46).
(8) Rathenau, Opwaarderen 2017.
(9) Staatscommissie parlementair stelsel, Probleemverkenning, Kamerstukken II 2017/18, 34 430, nr. 5, bijlage, o.a. blz. 43-49 e.v.
(10) Zie ook Stevens, Vertrouwen, "Zo vragen de grootschaligheid en aard van de belastingheffing door de Belastingdienst dat de dienst een geautomatiseerde en gedigitaliseerde werkomgeving creëert. De daarmee gepaard gaande standaardisatie van werkprocessen impliceert evenwel het risico van een onpersoonlijk en vervreemdend systeem van uitvoering." (blz. 72).
(11) Kamerstukken II 2013/14, 29 398, nr. 390, bijlage.
(12) Nationale ombudsman, Hoezo MijnOverheid?, 2017, Het verdwijnen van de blauwe envelop, 2016, Gevraagd: Maatwerk!, 2015.
(13) Kamerstukken II 2017/18, 34 986, nrs. 1-3.
(14) Zie bijvoorbeeld de drie adviezen die de Afdeling kort geleden heeft uitgebracht:
- het advies van 15 maart 2018 over het voorstel van Wet modernisering elektronisch bestuurlijk verkeer, dat vooral ingaat op de verhouding tussen burger en overheid (W04.17.0190, nog geen nader rapport),
- het advies van 3 mei 2018 over het voorstel van Wet digitale overheid, dat voorlopig alleen regels geeft over het inloggen bij de overheid en over het gebruik van open standaarden (W04.17.0400, Kamerstukken II 2017/18, 34 972, nr. 4).
- het advies van 22 december 2017 over het voorstel van invoeringswet Omgevingswet, Kamerstukken II 2017/18, 34 986, nr. 4, punten 12-16.
(15) In al deze situaties vindt geautomatiseerde verwerking van gegevens plaats. Hierna worden verschillende voorbeelden gegeven om inzicht te krijgen in de aard van de problematiek. Gegeven het perspectief van de burger, die hier centraal staat, wordt ingegaan op het gebruik van algoritmen bij de verwerking van persoonsgegevens, niet op de juridische status van algoritmen in het algemeen.
(16) Een beslisregel vormt de formele vertaling van een rechtsregel voor concrete toepassing. Zo komt kiesrecht toe aan iedereen van achttien jaar en ouder. Dit recht kan worden vertaald in een beslisregel volgens het als-dan-schema: als 18 jaar of ouder dan kiesrecht. De meeste beslisregels zijn aanzienlijk complexer. Beslisregels kunnen worden gebruikt als tussenstap om regels in menselijke taal te vertalen naar computersoftware.
(17) Afdeling Bestuursrechtspraak 17 mei 2017, ECLI:NL:RVS:2017:1259 (Stichting Werkgroep Behoud de Peel tegen gedeputeerde staten van Noord-Brabant), r.o. 14.3, 14.4 en 24.3. In deze uitspraak werden een aantal rechtsvragen voorgelegd aan het Hof van Justitie van de EU.
(18) Afdeling Bestuursrechtspraak 18 juli 2018, ECLI:NL:RVS:2018:2454, r.o. 23.2-23.5.
(19) Artikel 22, eerste lid, en tweede lid, onder b, van de AVG.
(20) Artikel 40 van de Uitvoeringswet Algemene verordening gegevensbescherming.
(21) Dat hangt samen met het feit dat bij profilering door middel van geautomatiseerde verwerking van persoonsgegevens persoonsprofielen worden opgesteld op grond waarvan analyses worden gemaakt van of voorspellingen worden gedaan over iemands gedrag, beroepsprestaties, gezondheid of persoonlijke voorkeuren. Daarbij doet zich het risico voor dat bij individuele besluiten generieke kenmerken van een bepaalde groep (bijvoorbeeld mensen die wonen in een gebied met een bepaalde postcode) worden tegengeworpen aan een individu die deze kenmerken helemaal niet hoeft te hebben.
(22) Advies van 17 oktober 2008 over het voorstel van wet houdende wijziging van de Wet op de jeugdzorg in verband met de introductie van een verwijsindex waarin jeugdigen kunnen worden gemeld die bepaalde risico's lopen (verwijsindex risico’s jeugdigen), W13.08.0265, Kamerstukken II 2008/09, 31 855, nr. 4, punt 1. De verwijsindex wordt nu geregeld in hoofdstuk 7 van de Jeugdwet.
(23) Advies van de Afdeling van 15 mei 2014 over het ontwerpbesluit houdende regels voor fraudeaanpak door gegevensuitwisselingen en het effectief gebruik van binnen de overheid bekend zijnde gegevens (Besluit SyRI), W12.14.0102, Staatscourant 2014, nr. 26306, punt 1a.
(24) WRR, Big data in een in een vrije en veilige samenleving, blz. 10-11. Advies van de Afdeling van 10 oktober 2017 over de Uitvoeringswet Algemene verordening gegevensbescherming, Kamerstukken II 2017/18, 34 851, nr. 4. Kranenborg & Verhey, De AVG, 2018, blz. 12.
(25) Zie in dit verband ook artikel 25 AVG.
(26) Aanhangsel Handelingen II 2017/18, nr. 2239. NRC Handelsblad 8 april 2018.
(27) Kamerstukken II 2017/18, 17 050, nr. 541.
(28) Prakken, NJB 2018, blz. 269-274.
(29) Van Eck, Geautomatiseerde ketenbesluiten & rechtsbescherming 2018, blz. 248-249.
(30) Zie o.a. onderzoek Algemene Rekenkamer, Basisregistraties, 2014.
(31) Widlak & Peeters, De Digitale Kooi 2018, blz. 67-70.
(32) Artikel 19 AVG,
(33) Afdeling Bestuursrechtspraak 20 maart 2013, ECLI:NL:RVS:2013:BZ4937; rechtbank Den Haag 20 april 2016, ECLI:NL:RBDHA:2016:4231. Voor een vergelijkbaar geval, zie Widlak & Peeters, De digitale kooi 2018, blz. 27-29. Zie ook Europees Hof voor de Rechten van de Mens 14 februari 2012, no. 7094/06, LJN: BW2721 (Romet tegen Nederland).
(34) Aanhangsel Handelingen II, 2017/18, nr. 2606.
(35) Bijvoorbeeld Widlak & Peeters, De Digitale Kooi 2018, blz. 105-125.
(36) Zie in dit verband artikel 13, eerste lid, onderdeel f, en artikel 14, tweede lid, onderdeel g, van de AVG. Op grond van deze bepalingen dient het bestuursorgaan informatie te verstrekken over de "onderliggende logica" van verwerkingen van persoonsgegevens en over de voor de burger te verwachten gevolgen daarvan. Zie voorts artikel 15, eerste lid, onderdeel h, AVG in het kader van het recht op inzage.
(37) Scheltema, Advies integrale geschilbeslechting 2017.
(38) Zie ook artikel 22, eerste lid, AVG: "De betrokkene heeft het recht niet te worden onderworpen aan een uitsluitend op geautomatiseerde verwerking, waaronder profilering, gebaseerd besluit waaraan voor hem rechtsgevolgen zijn verbonden of dat hem anderszins in aanmerkelijke mate treft."
(39) Nationale Ombudsman, Hoezo MijnOverheid? 2017, blz. 25.
(40) Nationale Ombudsman, Hoezo MijnOverheid? 2017, blz. 25.
(41) Kamerstukken II 2017/18, 31 066, nr, 421.
(42) Zie ook de Initiatiefnota van de leden Middendorp en Verhoeven over identiteit en persoonsgegevens bij de Digitale Overheid, Kamerstukken II 2017/18, 34 993 nr. 2.
(43) WRR, Weten is nog geen doen 2017, blz. 22.
(44) Nationale ombudsman, Het verdwijnen van de blauwe envelop 2016, blz. 40.
(45) Nationale ombudsman, Gevraagd: maatwerk! 2015.
(46) Afdeling bestuursrechtspraak van de Raad van State 13 december 2017, ECLI:NL:RVS:2017:3419 (verlening van dakterrasvergunning door Stadsdeel Zuid van Amsterdam).
(47) Nationale Ombudsman, SVB: Digitaliseren = informeren 2017, blz. 14-17.
(48) Advies van 22 december 2017 over het voorstel van Invoeringswet Omgevingswet, Kamerstukken II 2017/18, 34 986, nr. 4, punt 12 en 12c.
(49) Algemene Rekenkamer, Basisregistraties 2014.
(50) De Algemene Rekenkamer is inmiddels begonnen met een vervolgonderzoek naar de uitvoering van de aanbevelingen uit 2014.
(51) Artikel 15tot en met 18 AVG.
(52) Artikel 21 AVG.
(53) Artikel 22 AVG. Zie hiervoor hoofdstuk 3.
(54) Artikel 5 AVG.
(55) Artikel 13-14 AVG
(56) Artikel 25 AVG.
(57) Artikel 24 AVG.
(58) De AVG kent bijvoorbeeld in artikel 21 aan betrokkene het recht van bezwaar toe tegen de verwerking van hem betreffende persoonsgegevens. Dat recht heeft hij, ook als de verwerking niet de vorm aanneemt van een (op rechtsgevolg gericht) besluit. In de Awb kan alleen bezwaar worden gemaakt tegen een besluit. Betrokkene heeft voorts op grond van artikel 77 AVG het recht om een klacht in te dienen bij de toezichthoudende autoriteit bij een inbreuk op de AVG. Op grond van artikel 9.1 Awb kan betrokkene een klacht indienen bij een bestuursorgaan over de wijze waarop deze zich jegens de betrokkene heeft gedragen. Zo’n klacht gaat nu juist niet over de rechtmatigheid van de gegevensverwerking  maar over de wijze van bejegening van de burger door de overheid .
(59) Kamerstukken II 2017/18, 31 066, nr, 421.
(60) Mededeling van de Europese Commissie over het EU-actieplan inzake e-overheid 2016-2020 "Voor een snellere digitalisering van overheidsdiensten", COM(2016) 179, blz. 3 en 4.
(61) Ook de medeoverheden moeten de inrichting van hun organisatie en werkprocessen onder invloed van de digitale ontwikkelingen aanpassen. Zo vergt de aankomende EU-verordening tot oprichting van één digitale toegangspoort (COM(2017) 256) dat gemeenten en provincies diensten ook voor (andere) EU-burgers toegankelijk maken en vertalen voor EU-burgers. Vooral overheidsorganisatie die diensten aan burgers en bedrijven leveren worden daardoor geraakt.
(62) Artikel 30 van de AVG geeft de verwerkingsverantwoordelijke die meer dan 250 personen in dienst heeft de verplichting om een register van de verwerkingsactiviteiten bij te houden.
(63) Het Hof van Justitie van de EU heeft op 20 december 2017 geoordeeld dat Uber een taxidienst is, omdat Uber bestuurders selecteert, de voorwaarden (zoals een maximumprijs) bepaalt en de kwaliteit van de voertuigen controleert (zaak C‑434/15, Asociación Profesional Elite Taxi tegen Uber Systems SpainSL), ECLI:EU:C:2017:981.
(64) Voor rationaliteiten bij het maken van wetten, zie Snellen, Boeiend en geboeid 1987.
(65) Lokin, Wendbaar wetgeven 2018, blz. 245-270.
(66) Bij het personeelsbeleid van het Rijk is al enkele jaren het uitgangspunt dat medewerkers voldoende ICT-kundig zijn om hun functie te kunnen vervullen (Kamerstukken II 2014/15, 33 326, nr. 13, blz. 19).
(67) De Jong, Berghout & Van Twist, Niet te stoppen 2018, blz. 116, 121.
(68) Bij de doenvermogentoets wordt nagegaan of een voorgenomen wet zo in elkaar zit dat burgers adequaat op die wet zullen reageren. Dat vergt niet alleen voldoende denkvermogen (het vermogen om te begrijpen wat een regeling voor de burger betekent), maar ook voldoende doenvermogen (het vermogen om op het juiste moment te handelen, zodat kansen worden benut en bedreigingen worden gekeerd). Het doenvermogen kan met name onder druk komen te staan bij zogeheten "life events", zoals echtscheiding, ziekte en overlijden van dierbaren, waarin er vaak allerlei juridische zaken moeten worden geregeld. (WRR, Weten is nog geen doen 2017).
(69) Dit veronderstelt dan wel dat relevante wetgeving voldoende zelfstandig en kenbaar door de regering aan de Staten-Generaal wordt voorgelegd en niet in bijvoorbeeld verzamelwetten wordt "verstopt".
(70) Lokin, Wendbaar wetgeven 2018, blz. 270-278.
(71) Kamerstukken II 2015/16, 26 643, nr. 373, blz. 3.
(72) Artikel 3:42 Awb zoals gewijzigd in de Wet elektronische bekendmaking.
(73) L.M.L.H.A. Hermans & M.J.W. van Twist, Stemmachines, een verweesd dossier. Rapport van de Commissie Besluitvorming Stemmachines, Kamerstukken II 2006/07, 30 800 VII nr. 46, bijlage.
(74) Advies van 13 april 2010 over het voorstel van Wet inrichting verkiezingsproces, W04.10.0038, Staatscourant 2010, nr. 19451, paragrafen 2 en 3.
(75) Zie ook de reactie op de initiatiefnota "Online identiteit en regie op persoonsgegevens" van de leden Middendorp (VVD) en Verhoeven (D66).
(76) Maak Waar! (18 april 2017); adviesrapport van de Studiegroep Informatiesamenleving en Overheid over het functioneren van de digitale overheid in relatie tot de snelle digitalisering van de samenleving.
(77) Zie de brief van 9 oktober 2018: Kamerstukken II, 2017-2018, 26 643, nr. 570.
(78) Zie de brief van 8 juni 2018: Kamerstukken II, 2017-2018, 32 761, nr. 122.
(79) Kamerstukken II, 2017-2018, 34 972, nr. 2.
(80) Zie de brief van de toenmalige minister van Veiligheid en Justitie van 6 juli 2016 inzake toekomstbestendige wetgeving: Kamerstukken II, 2015/16, 33 009, nr. 30.
(81) Kamerstukken II, 2017-2018, 34 775 VI, nr. 114.