Voorlichting met betrekking tot het wetsvoorstel Wet gegevensverwerking door samenwerkingsverbanden.


Volledige tekst

Bij brief van 12 juli 2021 heeft de Voorzitter van de Eerste Kamer op de voet van artikel 21a, eerste lid, van de Wet op de Raad van State aan de Afdeling advisering van de Raad van State gevraagd haar van voorlichting te dienen over het wetsvoorstel gegevensverwerking door samenwerkingsverbanden.

De Afdeling advisering van de Raad van State merkt allereerst op dat het wetsvoorstel in vergelijking met de huidige praktijk een belangrijke verbetering betekent. Op dit moment vindt de gegevensverwerking in de betreffende samenwerkingsverbanden zonder wettelijke grondslag plaats. Bij de beoordeling van het wetsvoorstel acht de Afdeling verder van belang dat het uit rechtsstatelijk oogpunt niet uitsluitend gaat om waarborging van het recht op eerbiediging van de persoonlijke levenssfeer en het recht op bescherming van persoonsgegevens. Algemeen wordt erkend dat een belangrijke opgave van de overheid in deze tijd is gelegen in de bestrijding van ernstige en onder meer ondermijnende criminaliteit. In die zin vormt niet alleen de bescherming van persoonsgegevens, maar ook effectieve misdaadbestrijding rechtsstatelijk handelen. De noodzakelijke weging van de proportionaliteit dient in die brede context gestalte te krijgen.

De Afdeling realiseert zich dat het wetsvoorstel potentieel vérgaande vormen van gegevensverwerking mogelijk maakt. Niet alle risico’s die daarmee gepaard gaan kunnen door de wet worden uitgesloten. Cruciaal is daarom dat de wetgever moet kunnen vertrouwen op een kwalitatief goede uitvoeringspraktijk. Dat vereist niet of niet primair nadere regels of protocollen, maar professionaliteit en (ook juridische) deskundigheid op de werkvloer. De mate waarin dat wordt gerealiseerd zal bepalend zijn voor het vertrouwen in een overheid die rechtmatig én effectief persoonsgegevens verwerkt.

Het gewijzigde wetsvoorstel inzake de Wet gegevensverwerking door samenwerkingsverbanden (WGS) komt in belangrijke mate tegemoet aan de eisen die worden gesteld aan wetgeving waarin aanzienlijke grondrechtenbeperkende maatregelen worden voorgesteld. Randvoorwaardelijk en daarmee urgent, is echter wel de adequate en zorgvuldige uitvoering van deze wet en de daaruit voortvloeiende nadere regelgeving.

1. De Afdeling vraagt mede daarom aandacht voor de diverse delegatiegrondslagen die het wetsvoorstel bevat met het oog op de introductie van nieuwe samenwerkingsverbanden (artikelen 3.1 en 3.2). Ook dienen de wezenlijke elementen van nieuwe samenwerkingsverbanden op het niveau van de formele wet te worden vastgelegd. (zie noot 1) Tegen die achtergrond behoeft het voorliggende wetsvoorstel in elk geval op termijn aanpassing.

2. Daarnaast vraagt de Afdeling aandacht voor het beginsel van doelbinding. Aangezien een zeker abstractieniveau bij het omschrijven van de doelstellingen van gegevensverwerking onvermijdelijk is, klemt een zorgvuldige uitvoeringspraktijk temeer. Daarbij zal telkens, in de voorgenomen algemene maatregelen van bestuur (amvb’s) en vervolgens in de uitvoering, moeten worden bezien of en zo ja, op welke wijze aan het doelbindingsbeginsel kan worden voldaan. In het licht van dit beginsel dient bovendien nader te worden beargumenteerd wat de plaats is van de Zorg en Veiligheidshuizen binnen de WGS. Indien dit niet mogelijk blijkt, dienen deze samenwerkingsverbanden uit het wetsvoorstel te worden geschrapt.

3. Ook waar het gaat om de naleving van artikel 1 van de Grondwet en andere gelijke behandeling- en non-discriminatieregimes, benadrukt de Afdeling het belang van een zorgvuldige uitvoeringspraktijk. Het wetsvoorstel bevat diverse waarborgen die de risico’s op ongelijke behandeling en discriminatie in de context van geautomatiseerde gegevensanalyse in theorie kunnen verkleinen. Desalniettemin rijst bij de samenstelling van datasets, het formuleren van doelvariabelen, het inrichten van algoritmen en de transparantie in verschillende fasen van het proces van geautomatiseerde gegevensverwerking telkens weer de vraag of een samenspel van gegevens bij de uitvoering ongelijke behandeling of discriminatie kan opleveren. Een zorgvuldige uitvoering van de wettelijke waarborgen in de praktijk is in dat verband cruciaal.

4. Voor die zorgvuldige uitvoering in de praktijk is het van belang dat wordt geïnvesteerd in professionaliteit en (juridische) deskundigheid op de werkvloer, evenals in een cultuur waarin kan en mag worden afgeweken van algoritmische uitkomsten. Daarnaast zijn afwegingskaders van belang om te bevorderen dat algoritmen zorgvuldig en met respect voor relevante grondrechten tot stand worden gebracht. Ook dienen relevante derde partijen, zoals belangenorganisaties, te worden betrokken bij het ontwerp van algoritmen die een samenwerkingsverband hanteert. Daarmee kunnen onrechtmatige verwerkingen worden voorkomen en kan tevens het maatschappelijk draagvlak voor het gebruik van algoritmen worden vergroot. Tot slot wijst de Afdeling op het belang van een zorgvuldige evaluatie en terugkoppeling als het gaat om de resultaten van de toepassing van algoritmen.

1. Inleiding en leeswijzer

Het wetsvoorstel Wet gegevensverwerking door samenwerkingsverbanden beoogt een juridische basis te bieden voor samenwerkingsverbanden. Samenwerkingsverbanden zijn, volgens het wetsvoorstel, verbanden van bestuursorganen en private partijen die gezamenlijk gegevens verwerken voor zwaarwegende algemene belangen, zoals als de bestrijding van fraude en de georganiseerde criminaliteit. Het wetsvoorstel maakt het mogelijk dat samenwerkingsverbanden daarbij geautomatiseerde gegevensverwerking toepassen. (zie noot 2)

Momenteel bevindt het wetsvoorstel zich in de schriftelijke voorbereidingsfase bij de Eerste Kamer. Gelet op de diverse aanpassingen die het voorstel sinds de advisering van de Afdeling (zie noot 3) eind 2019 heeft ondergaan, heeft de Eerste Kamer om voorlichting gevraagd. De Afdeling wordt gevraagd de volgende vragen te beantwoorden:

a. Te ruime reikwijdte en gebrek aan specificatie (rechtsonzekerheid)
In het wetsvoorstel zelf zijn voorbeelden van samenwerkingsverbanden toegevoegd. Andere samenwerkingsverbanden kunnen bij algemene maatregel van bestuur worden toegevoegd, die aan een nahangprocedure is onderworpen. Is hiermee sprake van een toereikende inperking van de reikwijdte van het wetsvoorstel? Is het voldoende specifiek? Zijn de beperkingen op het recht op bescherming van de persoonlijke levenssfeer, zoals vervat in artikel 10 van de Grondwet, voldoende ingekaderd? Wat zijn de consequenties van artikel 1.7 voor de grondrechten van burgers? Zijn extra waarborgen nodig?;

b. Discriminatierisico's
Is naleving van artikel 1 van de Grondwet voldoende geborgd, gelet op de beoogde inzet van profilering? Welke risico's ziet de Afdeling advisering van de Raad van State?

In deze voorlichting zal de Afdeling eerst de achtergrond van het verzoek om voorlichting schetsen (punt 2). In dat verband gaat zij in op het oorspronkelijke wetsvoorstel en het advies van de Afdeling daaromtrent, evenals de inhoud van het gewijzigde wetsvoorstel en de aangenomen amendementen. Vervolgens gaat de Afdeling over tot de beantwoording van de vragen die de Eerste Kamer aan haar heeft voorgelegd. Daarbij geeft zij eerst een inleidende beschouwing (punt 3). Vervolgens maakt zij opmerkingen over de reikwijdte en specificatie van het wetsvoorstel (punt 4). Daarna gaat de Afdeling in op de risico’s op ongelijke behandeling en discriminatie, gelet op de beoogde inzet van geautomatiseerde gegevensanalyse (punt 5). De voorlichting wordt afgesloten met een conclusie (punt 6).

2. Achtergrond van het verzoek om voorlichting

a. Oorspronkelijk wetsvoorstel en advies Afdeling advisering
Het wetsvoorstel inzake de WGS zoals dat aan de Afdeling ter advisering werd voorgelegd, was vormgegeven als een kaderwet met een aantal algemene regels over de taak van het samenwerkingsverband, de inrichting en het functioneren daarvan. Het voorzag in een juridische grondslag om persoonsgegevens systematisch te delen en te verwerken, waaronder door profilering. Bij amvb zou worden bepaald welke samenwerkingsverbanden onder deze kaderwet zouden vallen. Bij amvb zou ook de aanwijzing van de deelnemende partijen plaatsvinden, de concretisering van het zwaarwegende algemene belang waarvoor persoonsgegevens zouden mogen worden verwerkt evenals de werkwijze van de samenwerkingsverbanden. (zie noot 4)

In haar advies onderschreef de Afdeling het nut en de noodzaak van een wettelijke regeling inzake gegevensverwerking door samenwerkingsverbanden ten behoeve van de voorkoming, opsporing en bestrijding van ernstige en ondermijnende criminaliteit. Desalniettemin was de Afdeling kritisch over de destijds voorliggende kaderwet. (zie noot 5)

In de eerste plaats had het wetsvoorstel betrekking op diverse zeer uiteenlopende soorten samenwerkingsverbanden. Mede daardoor hadden de voorgestelde regels een te ruime reikwijdte en waren zij te weinig specifiek. De verantwoordelijkheid voor de gegevensverwerking kwam te liggen bij alle deelnemers aan het samenwerkingsverband gezamenlijk en was daardoor niet duidelijk belegd. Bovendien konden samenwerkingsverbanden er zelf voor kiezen of zij onder het wetsvoorstel wilden worden gebracht. Daarmee droeg het voorstel maar in beperkte mate bij aan de beoogde regulering en harmonisering van samenwerkingsverbanden. (zie noot 6)

In de tweede plaats nam het voorstel de juridische onzekerheid over de toelaatbaarheid van de gegevensuitwisseling door samenwerkingsverbanden op de toen voorgestelde wijze niet weg. Het voorstel beoogde vérgaande beperkingen van het recht op bescherming van de persoonlijke levenssfeer mogelijk te maken. De wezenlijke elementen en begrenzingen van het wettelijk regime op het niveau van de wet in formele zin ontbraken echter. Daarom voldeed het voorstel naar het oordeel van de Afdeling niet aan de eisen van artikel 10 van de Grondwet in het licht van het legaliteitsbeginsel en het primaat van de wetgever. Die bepaling beschermt het recht op eerbiediging van de persoonlijke levenssfeer. Als zodanig bood het wetsvoorstel een onvoldoende juridische grondslag en daarmee onvoldoende zekerheid voor de beoogde vergaande verwerking en uitwisseling van gegevens. Concretisering van wezenlijke elementen bij lagere regelgeving, zoals de kaderwet beoogde, nam deze bezwaren niet weg en zette het parlement als medewetgever te zeer op afstand. (zie noot 7)

De Afdeling merkte op dat, juist vanwege het belang van de bestrijding van ernstige en ondermijnende criminaliteit, beter gekozen zou kunnen worden voor een alternatieve benadering waarmee de genoemde bezwaren in elk geval grotendeels konden worden weggenomen. Die benadering gaat uit van wetgeving toegespitst op een (samenhangend cluster van) samenwerkingsverband(en). Daarin zouden de concrete doelen van de gegevensuitwisseling en -verwerking, de deelnemende partijen en hun bevoegdheden en verantwoordelijkheden, en de waarborgen met het oog op de bescherming van de persoonlijke levenssfeer veel specifieker in de wet moeten worden bepaald. In die alternatieve benadering zou in dat kader veel minder delegatie naar lagere regelgeving nodig zijn. (zie noot 8)

In het licht van het voorgaande adviseerde de Afdeling het wetsvoorstel niet bij de Tweede Kamer in te dienen, tenzij in aangepaste vorm.

b. Amendementen
Mede naar aanleiding van het advies van de Afdeling is het wetsvoorstel op belangrijke onderdelen gewijzigd alvorens het bij de Tweede Kamer is ingediend. (zie noot 9) Het wetsvoorstel is vervolgens door de Tweede Kamer op een vijftal punten geamendeerd. (zie noot 10)

Ten eerste is bij amendement een expliciete grondslag voor het onderling delen van de resultaten van samenwerkingsverbanden met andere samenwerkingsverbanden toegevoegd. De gegevensverwerking van de verschillende in de WGS genoemde samenwerkingsverbanden leidt tot resultaten die kunnen bijdragen aan de doelen die andere in de wet genoemde samenwerkingsverbanden nastreven, aldus de indiener. Het delen van dergelijke resultaten met een ander samenwerkingsverband was volgens de indiener echter niet zonder meer mogelijk. Bij amendement is daarom in een grondslag daarvoor voorzien. (zie noot 11)

Ten tweede is geschrapt de uitzondering op de verplichting om aan het publiek op toegankelijke wijze uitleg te bieden over de bij geautomatiseerde gegevensverwerking gehanteerde patronen en indicatoren of andere onderliggende logica. De indieners van dit amendement achtten transparantie over geautomatiseerde gegevensverwerking van groot belang. Zij waren van mening dat te allen tijde openheid moet worden gegeven aan betrokkenen over de gebruikte patronen en indicatoren of andere onderliggende logica. Daarom is de uitzondering op het verschaffen van duidelijkheid met dit amendement geschrapt. (zie noot 12)

Voorts is bij amendement de regel ingevoerd dat bij geautomatiseerde gegevensanalyse geen algoritmes mogen worden gehanteerd waarvan de uitkomsten niet navolgbaar en controleerbaar zijn. Geautomatiseerde gegevensverwerking kan immers leiden tot onverklaarbare, onjuiste en zelfs discriminatoire uitkomsten. Deze risico’s zijn volgens de indiener het gevolg van een gebrek aan inzicht in de totstandkoming van de automatisch gegenereerde gegevens. Van alle uitkomsten van de analyse moet het daarom navolgbaar en uitlegbaar zijn hoe deze tot stand zijn gekomen. (zie noot 13)

Daarnaast is alsnog een voorhangprocedure geïntroduceerd voor de aanwijzing bij amvb van nieuwe deelnemers aan de samenwerkingsverbanden die zijn opgenomen in hoofdstuk 2 van het wetsvoorstel. Op grond daarvan wordt een uitbreiding van de grote samenwerkingsverbanden uit de WGS nog vóór advisering door de Raad van State over de ontwerp-amvb ter controle aan de Tweede Kamer voorgelegd. (zie noot 14)

Tot slot werd het onwenselijk geacht dat uitbreiding van samenwerkingsverbanden met nieuwe partijen niet aan de Tweede Kamer hoefde te worden voorgelegd. Het parlement zou te allen tijde de mogelijkheid moeten krijgen om een uitbreiding van een samenwerkingsverband goed te keuren dan wel af te wijzen, voordat deze uitbreiding een feit is, zo werd gesteld. Dat is als gevolg van dit amendement alsnog geregeld. (zie noot 15)

c. Inhoud gewijzigd wetsvoorstel
Op 17 december 2020 heeft de Tweede Kamer het gewijzigde en tevens geamendeerde wetsvoorstel aangenomen. (zie noot 16) Dat behelst nu op hoofdlijnen het volgende.

i. Algemene bepalingen samenwerkingsverbanden

Het gewijzigde voorstel bevat diverse algemene bepalingen over samenwerkingsverbanden. (zie noot 17) Zo bepaalt de WGS welke beperkingen gelden voor de deelname van private partijen en dat de deelnemers gezamenlijk verwerkingsverantwoordelijk zijn. Ook zijn algemene bepalingen opgenomen over de verstrekking van gegevens door de deelnemers aan het samenwerkingsverband, de verwerking van gegevens binnen het samenwerkingsverband, en de verstrekking van de resultaten van de verwerking aan de deelnemers en aan derden.

Daarnaast zijn verschillende algemene waarborgen in het voorstel opgenomen die voor alle vier de in de wet geregelde samenwerkingsverbanden gelden. (zie noot 18) Zo wordt bijvoorbeeld een rechtmatigheidscommissie ingesteld, die de rechtmatigheid van nieuwe verwerkingen van persoonsgegevens en wijzigingen daarvan beoordeelt. Ook wordt een verplichte periodieke privacy audit geïntroduceerd.

Samenwerkingsverbanden zijn verder verplicht een jaarverslag op te stellen en

terugkoppeling te geven over de bruikbaarheid van de gegevens die worden verwerkt. Tevens krijgen zij een verplichting om aan het publiek op toegankelijke wijze uitleg te geven over de gehanteerde patronen en indicatoren of andere onderliggende logica bij gezamenlijke geautomatiseerde gegevensanalyse door het samenwerkingsverband.

ii. Aanwijzing samenwerkingsverbanden

In het gewijzigde voorstel worden vier concrete samenwerkingsverbanden aangewezen. Het betreft het Financieel Expertisecentrum (FEC), de Infobox Crimineel en Onverklaarbaar Vermogen (iCOV), de Regionale Informatie- en Expertisecentra (RIEC’s) en de Zorg- en Veiligheidshuizen (ZVH’s). Ook worden de deelnemers van deze samenwerkingsverbanden aangewezen evenals de voor hun deelname relevante taken. Het voorstel omschrijft per samenwerkingsverband onder meer de doelen van de gezamenlijke gegevensverwerking, de activiteiten die worden verricht met het oog op die doelen en de categorieën persoonsgegevens die mogen worden verwerkt. (zie noot 19)

iii. Aanwijzing toekomstige samenwerkingsverbanden

Tot slot maakt het gewijzigde voorstel het mogelijk dat ook andere dan de vier aangewezen samenwerkingsverbanden worden gecreëerd. Deze toekomstige samenwerkingsverbanden kunnen bij amvb worden aangewezen. (zie noot 20) Zij dienen zich te richten op een doelstelling van zwaarwegend algemeen belang inzake het voorkomen en bestrijden van ernstige criminaliteit, het voorkomen en bestrijden van grootschalig of systematisch ernstig gebruik van overheidsgelden en overheidsvoorzieningen, of het voorkomen en bestrijden van grootschalige of systematische ontduiking van wettelijke verplichtingen tot betaling van belastingen, retributies en rechten bij in- en uitvoer. (zie noot 21) Ook de nadere invulling van deze samenwerkingsverbanden zal bij amvb plaatsvinden. (zie noot 22)

Hierna gaat de Afdeling in op de twee vragen die de Eerste Kamer aan haar heeft voorgelegd. Voordat de Afdeling daartoe overgaat, geeft zij eerst een korte beschouwing over het wetsvoorstel.

3. Inleidende beschouwing

De Afdeling heeft vastgesteld dat het wetsvoorstel na haar eerder uitgebrachte advies en na amendering door de Tweede Kamer ingrijpend is gewijzigd. Als gevolg daarvan zijn enkele wezenlijke elementen van de voorgestelde samenwerkingsverbanden alsook enkele belangrijke begrenzingen en waarborgen in het wetsvoorstel neergelegd (zie ook hierna onder 4 en 5). Daarmee voldoet het wetsvoorstel in beginsel aan de eis van artikel 10, eerste lid, van de Grondwet. De beperkingen van het in genoemd artikellid gewaarborgde recht op eerbiediging van de persoonlijke levenssfeer zijn op hoofdlijnen op het niveau van de wet in formele zin geregeld.

Met deze aanpassingen kunnen nog niet alle vragen over het wetsvoorstel in relatie tot het genoemde grondrecht definitief worden beantwoord. Dat is tot op grote hoogte onvermijdelijk. Met de onzekerheidsmarges die inherent zijn aan de beoordeling van de proportionaliteit van de voorgestelde regeling kan niet met zekerheid worden vastgesteld hoe de rechter en in het bijzonder het HvJEU en het EHRM in eventuele procedures hierover zal oordelen. Daarbij merkt de Afdeling op dat op grond van het wetsvoorstel nog belangrijke elementen bij amvb moeten worden geconcretiseerd. In die regeling zullen in het licht van de proportionaliteit nog nadere afwegingen moeten plaatsvinden.

De Afdeling merkt op dat het wetsvoorstel in vergelijking tot de huidige praktijk een belangrijke verbetering betekent. Op dit moment vindt de gegevensverwerking in de betreffende samenwerkingsverbanden plaats zonder wettelijke grondslag. Bij de beoordeling van het wetsvoorstel acht de Afdeling verder van belang dat het uit rechtsstatelijk oogpunt niet uitsluitend gaat om waarborging van het recht op eerbiediging van de persoonlijke levenssfeer en het recht op bescherming van persoonsgegevens.

Zoals ook uit de vele debatten in de Tweede en Eerste Kamer blijkt, wordt breed erkend dat een belangrijke opgave van de overheid in deze tijd is gelegen in de bestrijding van ernstige en onder meer ondermijnende criminaliteit. Deze vormt een ernstige bedreiging van de rechtsstaat. Gegevensverwerking is onmiskenbaar een belangrijk instrument om genoemde vormen van criminaliteit tegen te gaan. In die zin vormt niet alleen bescherming van persoonsgegevens, maar ook effectieve misdaadbestrijding rechtsstatelijk handelen. De noodzakelijke weging van de proportionaliteit dient, zoals de grondrechtelijke kaders ook bepalen, in die context gestalte te krijgen.

De Afdeling realiseert zich dat het wetsvoorstel potentieel vérgaande vormen van gegevensverwerking mogelijk maakt. Niet alle risico’s die daarmee gepaard gaan kunnen door de wet en de daarop gebaseerde amvb’s worden uitgesloten. Cruciaal is daarom dat de wetgever moet kunnen vertrouwen op een kwalitatief goede uitvoeringspraktijk. Daarin moeten de noodzakelijke nadere afwegingen op een zodanig evenwichtige en controleerbare manier plaatsvinden, dat een rechtmatige uitvoering van het gegevensbeschermingsrecht is gewaarborgd. Dat vereist niet primair nadere regels of protocollen, maar professionaliteit en (ook juridische) deskundigheid op de werkvloer. Een samenwerkingsverband dient, voordat het overgaat tot geautomatiseerde gegevensverwerking, met het oog op de uitvoerbaarheid zeker te stellen dat daadwerkelijk het in staat is de vereiste zorgvuldigheid te betrachten. De mate waarin dat wordt gerealiseerd zal bepalend zijn voor het vertrouwen in een overheid die rechtmatig én effectief persoonsgegevens verwerkt.

4. Reikwijdte en specificatie wetsvoorstel

De eerste voorlichtingsvraag bouwt grotendeels voort op het advies dat de Afdeling eerder uitbracht. Dat gaat in het bijzonder in op de verhouding van het wetsvoorstel tot artikel 10 van de Grondwet, waarin het recht op eerbiediging van de persoonlijke levenssfeer is vervat. Het oorspronkelijke wetsvoorstel beoogde vérgaande beperkingen van dit recht mogelijk te maken en bevatte grondslagen om op een groot aantal onderwerpen nadere regels te stellen bij amvb.

Het gevolg hiervan was dat de wezenlijke elementen en begrenzingen van de wettelijke regeling aanvankelijk niet op het niveau van de formele wet zouden worden geregeld. Daarmee voldeed het oorspronkelijke voorstel volgens de Afdeling niet aan de vereisten die artikel 10 van de Grondwet in het licht van het legaliteitsbeginsel en het primaat van de wetgever stelt aan wetten waarin aanzienlijke grondrechtenbeperkende maatregelen worden voorgesteld. Aan de Afdeling is thans de vraag voorgelegd of het gewijzigde voorstel daaraan nu wel tegemoetkomt.

Artikel 10 van de Grondwet bepaalt dat het recht op eerbiediging van de persoonlijke levenssfeer door de formele wetgever mag worden beperkt. De wetgever mag die bevoegdheid delegeren aan lagere regelgevers, zo blijkt uit het gebruik van de delegatietermen "bij of krachtens de wet". (zie noot 23) Daarbij heeft de wetgever echter geen carte blanche, zo benadrukte de Afdeling. Beperkingen van het grondrecht moeten voldoende specifiek zijn en er dient op het niveau van de formele wet - in elk geval op hoofdlijnen - een belangenafweging plaats te vinden in het licht van artikel 10 van de Grondwet. (zie noot 24)

In dat verband heeft de wetgever een belangrijke verantwoordelijkheid. Deze moet beoordelen of de beperking van fundamentele rechten van burgers binnen de grenzen blijft die de Grondwet stelt en daarbij voldoet aan eisen van noodzakelijkheid, proportionaliteit en subsidiariteit. Aan deze verantwoordelijkheid wordt geen recht gedaan wanneer de concrete invulling van een wettelijke regeling vrijwel geheel wordt overgelaten aan een amvb. In de wet in formele zin dienen in elk geval de reikwijdte en de hoofdelementen van een regeling worden neergelegd. (zie noot 25)

Met de gemaakte aanpassingen komt de WGS in belangrijke mate tegemoet aan de vereisten die de Grondwet stelt. Zo worden nu in hoofdstuk 2 concrete samenwerkingsverbanden aangewezen en wordt het doel daarvan afgebakend, evenals de deelnemende partijen en de te verwerken categorieën persoonsgegevens. Daarmee bevat het gewijzigde voorstel nu wel diverse wezenlijke elementen en begrenzingen van de wettelijke regeling op het niveau van de formele wet. Daaraan doet niet af dat bepaalde aspecten bij amvb nader geregeld worden. De grondwetgever heeft in artikel 10, eerste lid, van de Grondwet delegatie toegestaan.

De Afdeling spreekt haar waardering uit voor de aangebrachte wijzigingen. Met het oog op de eisen die artikel 10 van de Grondwet in het licht van het legaliteitsbeginsel en het primaat van de wetgever stelt, vraagt zij evenwel aandacht voor de volgende aspecten van het wetsvoorstel.

a. Delegatiegrondslagen m.b.t. overige samenwerkingsverbanden
Naast de samenwerkingsverbanden die in hoofdstuk 2 van het wetsvoorstel worden aangewezen (het FEC, de iCOV, de RIEC’s, en de ZVH’s) bevat het wetsvoorstel in artikel 3.1 een grondslag om bij amvb andere samenwerkingsverbanden aan te wijzen. Deze dienen zich te richten op een doelstelling van zwaarwegend algemeen belang inzake:

a) het voorkomen en bestrijden van ernstige criminaliteit;
b) het voorkomen en bestrijden van grootschalig of systematisch ernstig gebruik van overheidsgelden en overheidsvoorzieningen; of
c) het voorkomen en bestrijden van grootschalige of systematische ontduiking van wettelijke verplichtingen tot betaling van belastingen, retributies en rechten bij in- en uitvoer.

Het wetsvoorstel kadert de vormgeving en de bevoegdheden van deze nieuwe samenwerkingsverbanden niet nader in. Regels daaromtrent kunnen blijkens artikel 3.2 bij amvb worden gesteld, ook waar het de verstrekking en verwerking van persoonsgegevens betreft, waaronder geautomatiseerde gegevensverwerking.

Bij de beoogde verstrekking en verwerking van persoonsgegevens kunnen ook nieuwe samenwerkingsverbanden inbreuk maken op het recht op eerbiediging van de persoonlijke levenssfeer. De vraag rijst of het wetsvoorstel, nu het de wezenlijke elementen van nieuwe samenwerkingsverbanden aan een amvb overlaat, in het licht van artikel 10 van de Grondwet een adequate wettelijke grondslag biedt voor de beoogde (vergaande) verwerking en verstrekking van gegevens. Niet geheel duidelijk is in hoeverre aan een dergelijke wettelijke voorziening in de praktijk behoefte zal bestaan. (zie noot 26) Indien een nieuw samenwerkingsverband moet worden opgericht, ligt in het normale geval een wetswijziging in de rede.

Indien echter een samenwerkingsverband in geval van spoed mogelijk tijdelijk bij amvb geregeld zou moeten worden, mag ook dan worden verwacht dat de wezenlijke elementen uiteindelijk op het niveau van de formele wet worden vastgelegd. (zie noot 27) De wet zou in dat geval kunnen bepalen dat in geval van spoed een nieuw samenwerkingsverband bij amvb kan worden geregeld en in dat geval onverwijld een wetsvoorstel wordt ingediend om het betreffende samenwerkingsverband in de wet te regelen.

Tegen die achtergrond behoeft het voorliggende wetsvoorstel in elk geval op termijn aanpassing. Toegespitst op dit punt ziet zij voor de Eerste Kamer een tweetal opties. De eerste is om het wetsvoorstel aan te houden totdat een novelle ter aanpassing door de Tweede Kamer is aanvaard en deze in samenhang met het voorliggende wetsvoorstel in de Eerste Kamer kan worden behandeld. Een andere benadering zou zijn om het thans voorliggende wetsvoorstel aan te nemen, met als voorwaarde dat aanpassing vervolgens zal plaatsvinden in een separaat voorstel dat de normale wetgevingsprocedure doorloopt (‘reparatiewet’). Het voordeel van deze optie is dat op korte termijn recht zou kunnen worden gedaan aan het belang van een wettelijke regeling om de bestaande gegevensverwerking binnen de nu al in het wetsvoorstel opgenomen samenwerkingsverbanden van een deugdelijke wettelijke grondslag te voorzien.

b. Doelbinding
Het gewijzigde wetsvoorstel concretiseert de doelstellingen van gegevensverwerking door de vier aangewezen samenwerkingsverbanden. (zie noot 28) Hoewel daarmee sprake is van een aanzienlijke verbetering ten opzichte van het oorspronkelijke wetsvoorstel, blijft de naleving van het doelbindingsbeginsel een punt van aandacht. Op grond van de Algemene verordening gegevensverwerking (AVG) mogen gegevens slechts worden verzameld voor welbepaalde, uitdrukkelijk omschreven en gerechtvaardigde doeleinden. Vervolgens mogen gegevens niet op een met die doeleinden onverenigbare wijze worden verwerkt. (zie noot 29) Uitzonderingen op het doelbindingsbeginsel zijn slechts beperkt toelaatbaar. (zie noot 30)

Het wetsvoorstel bevat de doelstellingen van gegevensverwerking door de vier aangewezen samenwerkingsverbanden in vrij algemene termen. (zie noot 31) Zo bepaalt artikel 2.2 bijvoorbeeld dat het FEC ‘met het oog op risico’s van inbreuken op de integriteit van het financiële stelsel, of onderdelen daarvan, [gegevens verwerkt] voor zover dat noodzakelijk is voor de uitoefening van publiekrechtelijke taken en bevoegdheden van de deelnemers’.

De Afdeling onderkent dat een zeker abstractieniveau bij dergelijke omschrijvingen onvermijdelijk is. Met het oog op het vereiste van doelbinding is een zorgvuldige uitvoeringspraktijk dan temeer cruciaal (zie ook punt 3 hiervoor). Telkens zal moeten worden bezien of en zo ja, op welke wijze aan het doelbindingsbeginsel kan worden voldaan. Het voorgaande geldt eveneens ten aanzien van de nieuwe, nog aan te wijzen samenwerkingsverbanden.

De Afdeling wijst verder op de mogelijkheden die het wetsvoorstel biedt om de resultaten van gegevensverwerking te delen met derden, waaronder ook private partijen. Als waarborg is opgenomen dat de verstrekking vooraf door een in te stellen rechtmatigheidsadviescommissie (zie noot 32) moet zijn getoetst. In het geval van een private partij dient de verstrekking noodzakelijk te zijn voor "de behartiging van de gerechtvaardigde belangen of uitvoering van wettelijke verplichtingen" van deze private derde. Deze belangen of verplichtingen dienen tevens verenigbaar te zijn met het doel van het samenwerkingsverband. (zie noot 33) Ook in dit verband benadrukt de Afdeling het belang van een zorgvuldige uitvoeringspraktijk, waarin de vraag of en hoe kan worden voldaan aan het beginsel van doelbinding telkens aandacht behoeft.

Tot slot vraagt de Afdeling aandacht voor de ZVH’s. (zie noot 34) Dit samenwerkingsverband heeft tot doel een bijdrage te leveren aan het voorkomen, verminderen en bestrijden van criminaliteit en ernstige overlast en het bieden van passende zorg, in situaties waarin sprake is van complexe (zorg)problematiek die zonder interventie leidt of kan leiden tot onveilige situaties voor personen of binnen een gebied. (zie noot 35) Binnen de ZVH’s worden casusoverleggen georganiseerd over personen waarbij sprake is van een complexe problematiek die een multidisciplinaire aanpak van zorg, hulpverlening, straf- en bestuursrecht vereist. (zie noot 36) Blijkens de website van de Zorg- en Veiligheidshuizen gaat het daarbij onder meer om huiselijk geweld, kindermishandeling, re-integratie van (ex-)gedetineerden, personen met verward gedrag, radicalisering en (gewelddadig) extremisme. (zie noot 37)

Mede tegen de achtergrond van (de doelstellingen van) de andere samenwerkingsverbanden die in hoofdstuk 2 van het wetsvoorstel worden aangewezen, blijft enigszins onduidelijk hoe het werkterrein van de ZVH’s precies past binnen (de doelstelling van) de WGS. Daarmee blijft ook onduidelijk in hoeverre aan het vereiste van doelbinding wordt voldaan. In het licht hiervan moet nader worden beargumenteerd wat de plaats is van de ZVH’s binnen de WGS. Indien dit niet mogelijk blijkt, dienen deze samenwerkingsverbanden uit het wetsvoorstel te worden geschrapt.

5. Risico’s op ongelijke behandeling en discriminatie

De tweede voorlichtingsvraag ziet op de risico’s op ongelijke behandeling en discriminatie als gevolg van de inzet van profilering en de vraag welke waarborgen hiertegen zouden moeten worden geboden in het licht van artikel 1 van de Grondwet.

De inzet van profilering kan in bepaalde situaties een duidelijke meerwaarde hebben. Het betreft evenwel een methode waaraan grote risico’s zijn verbonden, zo merkte de Afdeling eerder op. (zie noot 38) In het geval van profilering doorzoeken algoritmen immers grote hoeveelheden data om patronen te laten zien van variabelen die gecorreleerd zijn. Op basis daarvan worden vervolgens profielen van personen opgesteld. (zie noot 39) Bij de inzet van dergelijke profielen door de overheid kan aan een individu een generiek kenmerk van een groep worden tegengeworpen, terwijl dat kenmerk op hem niet van toepassing is. Voor het individu kunnen de gevolgen daarvan indringend zijn. Daarnaast bestaat het risico dat het gebruik van profilering (al dan niet bewust) leidt tot ongelijke behandeling of discriminatie.

Tegen de achtergrond van deze implicaties concludeerde de Afdeling in haar advies over het wetsvoorstel dat de bevoegdheid tot profileren met concrete waarborgen dient te zijn omgeven, als uitwerking van de algemene waarborgen die de AVG bevat. (zie noot 40) Deze ontbraken in het oorspronkelijke wetsvoorstel op het niveau van de wet in formele zin. De vraag rijst of het gewijzigde wetsvoorstel dergelijke waarborgen nu wel bevat.

Het verzoek om voorlichting richt zich in dat verband op de verhouding tot artikel 1 van de Grondwet. Hierbij tekent de Afdeling aan dat een verbod op ongelijke behandeling en discriminatie niet alleen is vervat in de Grondwet. Ook andere anti-discriminatieregimes - zowel algemeen als meer specifiek - kunnen in het kader van de WGS relevant zijn. Gedacht kan worden aan artikel 14 van het Europees Verdrag voor de Rechten van de Mens (EVRM), het Twaalfde Protocol bij het EVRM, artikel 18 van het Verdrag betreffende de Werking van de EU (VWEU), de artikelen 20 en 21 van het Handvest van de grondrechten van de Europese Unie, artikel 26 van het Internationaal Verdrag inzake Burgerlijke en Politieke Rechten, en de Algemene wet gelijke behandeling (AWGB). Daarnaast kan ook andere nationale wetgeving op het terrein van gelijke behandeling relevant zijn, evenals diverse Europese richtlijnen.

Deze grondrechtelijke regimes zijn pas van toepassing wanneer de verzameling en analyse van gegevens leidt tot daadwerkelijke benadeling. Dat kan het geval zijn bij zowel directe als indirecte discriminatie. Vervolgens hangt het af van de grond waarop onderscheid wordt gemaakt en het terrein waarop dit gebeurt welk regime van toepassing is.

De Afdeling benadrukt in dit verband dat de verschillende anti-discriminatieregimes enigszins afwijkende rechtvaardigingsmogelijkheden kennen. Ook binnen eenzelfde wettelijke regeling kan differentiatie zich voordoen al naar gelang de context van de discriminatie en de grond waarop deze is gebaseerd. Zo stelt de AWGB bijvoorbeeld strengere eisen in het geval van ongelijke behandeling op de arbeidsmarkt indien de discriminatie op bepaalde gronden is gebaseerd. (zie noot 41)

Hierna brengt de Afdeling in kaart welke risico’s op discriminatie en ongelijke behandeling zich bij geautomatiseerde gegevensanalyse door samenwerkingsverbanden in het kader van de WGS in algemene zin kunnen voordoen.

a. Fasen in het proces van gegevensverwerking door samenwerkingsverbanden
In het wetsvoorstel kunnen drie fasen van gegevensverwerking worden onderscheiden:
- Fase 1: een deelnemer verstrekt gegevens aan het samenwerkingsverband op grond van artikel 1.5 van de WGS;
- Fase 2: deelnemers van het samenwerkingsverband verwerken die gegevens gezamenlijk voor het doel van het samenwerkingsverband op grond van hoofdstuk 2 van de WGS of amvb;
- Fase 3: het samenwerkingsverband verstrekt de resultaten van de gezamenlijke gegevensverwerking aan deelnemers van het samenwerkingsverband of aan derden onder de voorwaarden van artikel 1.7 van de WGS. (zie noot 42)

Dit is waar de reikwijdte van het wetsvoorstel eindigt. De in het kader van de WGS verkregen en geanalyseerde gegevens (fasen 1-3) kunnen vervolgens leiden tot handelen door deelnemers van het samenwerkingsverband:
- Fase 4: de resultaten worden gebruikt voor het opstellen van specifiek beleid (bijvoorbeeld inzake toezicht en handhaving) of voor de voorbereiding van besluiten van een deelnemer aan het samenwerkingsverband (bijvoorbeeld van de politie of het FIOD);
- Fase 5: er wordt overgegaan tot een concrete interventie op basis van beleid. Dit is het moment waarop voor een individuele burger rechtsgevolgen kunnen ontstaan. (zie noot 43) In het geval van zelflerende algoritmen worden de uitkomsten van een dergelijke interventie vervolgens weer teruggeleid om het systeem te trainen (de zogenaamde ‘feedback loop’).

Eventuele daadwerkelijke discriminatie - direct of indirect - van een individu zal zich veelal pas manifesteren in deze laatste fasen die buiten de reikwijdte van de WGS vallen (fasen 4 en 5). Zoals hierna zal blijken, kan de basis voor discriminatie echter al worden gelegd in de fasen die wel door het wetsvoorstel gereguleerd worden. In die fasen (fasen 1-3) zal daarom moeten worden geanticipeerd op mogelijke discriminatie of ongelijke behandeling voortvloeiend uit de verkregen resultaten.

b. Risico’s op discriminatie en ongelijke behandeling
Hierna gaat de Afdeling per fase in op de risico’s op discriminatie en ongelijke behandeling die zich in het kader van het wetsvoorstel kunnen voordoen. Daarbij gaat zij tevens in op de wettelijke waarborgen - uit de WGS of anderszins - die in die context relevant zijn.

Fase 1: gegevensverstrekking aan het samenwerkingsverband

In deze eerste fase verstrekken deelnemers van het samenwerkingsverband datasets die gegevens bevatten die in een eerder stadium door deze deelnemers op grond van hun wettelijke taak zijn verwerkt.

De kans bestaat dat de verstrekte datasets persoonskenmerken bevatten die uit het oogpunt van non-discriminatie en gelijke behandeling ‘verdacht’ zijn, zoals ras, etniciteit, geloofs- en levensovertuiging of seksuele gerichtheid. Als dergelijke kenmerken in de fase van gegevensverwerking (fase 2) worden opgenomen in een algoritmisch model, stelt dit het algoritme in staat om een correlatie te vinden tussen deze persoonskenmerken en het risico op bepaalde problematiek. Wanneer er geen objectieve rechtvaardiging bestaat om op basis van deze gegevens over te gaan tot handelen (fasen 4 en 5), vormt dat een mogelijke oorzaak voor ongelijke behandeling of discriminatie. (zie noot 44)

Een ander risico is gerelateerd aan de zogenaamde ‘bias’ die de aan het samenwerkingsverband verstrekte datasets bevatten. Die ‘bias’ ontstaat bijvoorbeeld doordat de politie intensief surveilleert in wijken met een eenzijdige samenstelling wat betreft sociale of etnische opbouw. Als gevolg daarvan zal de dataset van de politie gevuld zijn met informatie over personen met een dergelijke sociale of etnische achtergrond. Wanneer dergelijke datasets in de fase van gegevensverwerking (fase 2) worden inzet bij voorspellende analyses, zal het algoritme hierdoor worden gevoed en, in het geval van zelflerende algoritmen, zichzelf een discriminatoire benadering aanleren. Bepaalde groepen van personen zullen daardoor als risicoverhogend worden aangemerkt, zonder dat daarvoor noodzakelijkerwijs een rechtvaardiging bestaat. Ook dit vormt een mogelijke oorzaak voor ongelijke behandeling of discriminatie. (zie noot 45)

Gelet op het voorgaande is de kwaliteit van de datasets die de deelnemers verstrekken aan het samenwerkingsverband dus van groot belang om (onbedoelde) ongelijke behandeling of discriminatie te voorkomen. Het wetsvoorstel bevat enkele waarborgen die in dit verband relevant zijn. Zo is per samenwerkingsverband vastgelegd welk type gegevens kunnen worden verstrekt. (zie noot 46) Ook mogen deze gegevens alleen worden verstrekt ‘voor zover noodzakelijk voor het doel van het samenwerkingsverband’. (zie noot 47) Bij amvb (met voorhangprocedure) kunnen typen gegevens worden toegevoegd en kunnen daarover nadere regels worden gesteld. (zie noot 48) Mits van deze mogelijkheid zorgvuldig gebruik wordt gemaakt, kan ook hierin een waarborg worden gezien die het risico op ongelijke behandeling of discriminatie inperkt.

Op de verstrekking van gegevens in het kader van de WGS kunnen daarnaast ook andere wettelijke regimes ten aanzien van de verwerking van persoonsgegevens van toepassing zijn. Zoals al werd opgemerkt, zal het in deze fase immers gaan om gegevens die al eerder door een deelnemer aan het samenwerkingsverband zijn verwerkt. Met het oog daarop kan bijvoorbeeld gewezen worden op artikel 5 van de Wet politiegegevens, waarin eisen worden gesteld aan de verwerking van bijzondere categorieën politiegegevens door de politie.

Fase 2: gegevensverwerking door het samenwerkingsverband

Bij de verwerking van gegevens door een samenwerkingsverband kan in sommige gevallen gebruik worden gemaakt van geautomatiseerde gegevensanalyse. In dat verband is ook profilering mogelijk onder de WGS. Zo mag de iCOV gegevens geautomatiseerd analyseren en op basis daarvan profileren. (zie noot 49) Hetzelfde geldt voor de RIEC, mits dat noodzakelijk is voor het wettelijk omschreven doel van de gegevensverwerking en indien dit krachtens amvb wordt aangewezen. (zie noot 50) Voor het FEC geldt hetzelfde. (zie noot 51)

Zoals de Afdeling hiervoor heeft opgemerkt, kan in deze fase van gegevensverwerking een verboden onderscheid optreden, wanneer de verstrekte datasets ‘verdachte’ kenmerken bevatten of het algoritmisch model onbewust gevoed wordt met gegevens die een ‘bias’ bevatten. Een dergelijke ‘bias’ kan echter ook bewust worden vastgelegd bij de inrichting van een algoritme dat gebruikt wordt voor de analyse van datasets, namelijk bij het formuleren van de doelvariabele van het algoritme. De doelvariabele ziet op de uitkomst van een algoritme en kan bijvoorbeeld worden uitgedrukt in een risicoscore. Wanneer de vertaalslag wordt gemaakt van een probleem naar een doelvariabele, kan de keuze voor een doelvariabele bepaalde groepen benadelen. (zie noot 52)

Het wetsvoorstel bevat diverse normen die het gebruik van geautomatiseerde gegevensanalyse reguleren. Zo mag alleen gebruik worden gemaakt van vormen van geautomatiseerde analyse van persoonsgegevens die bij amvb zijn aangewezen. (zie noot 53) Ook dient de verwerking van persoonsgegevens in geautomatiseerde systemen te worden vastgelegd (‘gelogd’). (zie noot 54) Per samenwerkingsverband worden tevens nadere eisen gesteld aan de analyse van gegevens. (zie noot 55) Voor zover het politiegegevens betreft, is ook artikel 5 van de Wet politiegegevens van toepassing (zie hiervoor).

Met het oog op de voornoemde risico’s die zich in het kader van geautomatiseerde gegevensanalyse kunnen voordoen, is het relevant dat het wetsvoorstel bepaalt dat samenwerkingsverbanden geen algoritmen mogen hanteren waarvan de uitkomsten niet navolgbaar en controleerbaar zijn. (zie noot 56) Daarnaast moet het publiek op toegankelijke wijze uitleg gegeven worden over de gehanteerde patronen, indicatoren en andere onderliggende logica. (zie noot 57) Zoals de toelichting terecht opmerkt, (zie noot 58) betreft deze transparantie een belangrijke waarborg, mede in het licht van de uitspraak van de Rechtbank Den Haag inzake het Systeem Risico Indicatie (SyRI, zie ook punt 5c van deze voorlichting). (zie noot 59) Daarbij zij wel opgemerkt dat in de uitvoeringspraktijk deze waarborg ook zichtbaar en concreet gestalte moet krijgen.

In dit verband moet ook de in te stellen rechtmatigheidsadviescommissie worden genoemd, die de rechtmatigheid van de verwerking van persoonsgegevens door het samenwerkingsverband zal beoordelen. (zie noot 60) Blijkens de toelichting dient deze commissie om te adviseren over grondslagen en over te treffen technische en organisatorische maatregelen. De precieze inrichting en werkwijze van de commissie worden niet in de wet geregeld. (zie noot 61) Gelet op deze risico’s is het van belang dat de bevoegdheden van de commissie zo worden gelezen dat ook toezicht op mogelijke discriminatierisico’s daaronder valt. De wettekst laat een dergelijke lezing ook toe.

Daarnaast is het gebruik van afwegingskaders van belang om te bevorderen dat algoritmen zorgvuldig en met respect voor relevante grondrechten tot stand worden gebracht. (zie noot 62) In dat verband is het tevens aangewezen om relevante derde partijen, zoals belangenorganisaties, te betrekken bij het ontwerp van algoritmen die een samenwerkingsverband hanteert. (zie noot 63) Daarmee kunnen onrechtmatige verwerkingen worden voorkomen en kan tevens het maatschappelijk draagvlak voor het gebruik van algoritmen worden vergroot.

Fase 3: verstrekking van resultaten aan deelnemers of derden

In het geval van sommige samenwerkingsverbanden monden de resultaten van de gezamenlijke gegevensverwerking uit in sturingsinformatie. Deze wordt vervolgens gedeeld met de deelnemers aan het samenwerkingsverband en, onder bepaalde voorwaarden, met derden. Dit geldt voor het FEC en de iCOV. (zie noot 64) Het kan bijvoorbeeld gaan om een eerste vermoeden dat er sprake zou kunnen zijn van een strafbaar feit of een onrechtmatige handeling of overtreding. (zie noot 65) Dergelijke informatie biedt de deelnemers ‘handelingsperspectieven’, aldus de toelichting. (zie noot 66)

De Afdeling wijst in dit verband op het risico dat uitkomsten die ‘besmet’ zijn door de inrichting van een algoritme of door het gebruik van discriminerende gegevens, zonder nadere beoordeling of controle wordt doorgegeven en vervolgens als basis voor beleid of een concrete interventie dienen (fasen 4 en 5). Een belangrijke waarborg in dit verband betreft de vereiste menselijke tussenkomst bij het verstrekken van het resultaat van de geautomatiseerde gegevensverwerking, waarbij wordt beoordeeld of het resultaat op zorgvuldige wijze tot stand is gekomen. (zie noot 67) Het risico op het delen van ‘besmette’ resultaten kan daarmee worden verkleind. Daartoe is evenwel van belang dat wordt geïnvesteerd in professionaliteit en (juridische) deskundigheid op de werkvloer, evenals in een cultuur waarin kan en mag worden afgeweken van algoritmische uitkomsten. (zie noot 68)

Met het oog op de eerder genoemde transparantie die wordt vereist, (zie noot 69) mag bovendien worden verwacht dat het samenwerkingsverband bij de verstrekking van resultaten zoveel mogelijk motiveert op basis van welke informatie de signalering tot stand is gekomen.

Fase 4 en 5: handelen op basis van de gegevens

Waar het in de voorgaande fase nog handelingsperspectieven betrof, kan er op een zeker moment sprake zijn van een situatie waarin op basis van de gegevensanalyse daadwerkelijk gehandeld wordt door een deelnemer van een samenwerkingsverband. Die handeling kan bijvoorbeeld het opstellen en uitvoeren van handhavingsbeleid betreffen, maar ook het overgaan tot daadwerkelijke interventies in concrete situaties.

Ongelijke behandeling of discriminatie van een individu zal zich veelal pas manifesteren in deze fasen die betrekking hebben op beleids- en besluitvorming of interventies op basis van dat beleid. Zo kan bijvoorbeeld sprake zijn van ongelijke behandeling wanneer bepaalde groepen personen als gevolg van profilering aan een meer nauwgezette controle worden onderworpen dan andere. (zie noot 70) Dergelijke handelingen vallen buiten de reikwijdte van het wetsvoorstel. De basis voor discriminatie of ongelijke behandeling kan, zoals de Afdeling hiervoor heeft uiteengezet, echter al worden gelegd in de fasen die zien op de verstrekking aan het samenwerkingsverband en de verwerking van gegevens door het samenwerkingsverband of de verstrekking van de resultaten daarvan een of meer deelnemers (fasen 1-3).

Wanneer in het geval van zelflerende algoritmen uitkomsten van interventies telkens worden teruggeleid om het systeem te trainen (de zogenaamde ‘feedback loop’), bestaat bovendien het risico dat ongelijkheden steeds worden versterkt. Of en in hoeverre dit het geval is, zal afhangen van de gegevens die worden teruggeleid en de praktijk die daarachter schuilgaat. Mede tegen deze achtergrond benadrukt de Afdeling het belang van een zorgvuldige evaluatie en terugkoppeling als het gaat om de resultaten van de toepassing van algoritmen. Telkens dient de vraag gesteld te worden of het systeem naar behoren functioneert en of aanpassing noodzakelijk is. (zie noot 71)

c. Factoren en elementen voor de vaststelling van discriminatie of ongelijke behandeling
Nu de risico’s op discriminatie en ongelijke behandeling bij de verwerking van gegevens in het kader van de WGS in kaart zijn gebracht, rijst de vraag hoe in deze context moet worden beoordeeld of in een bepaald geval daadwerkelijk sprake is van dergelijke ongeoorloofde behandeling. Op dit moment is er (nog) geen rechtspraak voorhanden die specifiek ziet op de verwerking en verstrekking van persoonsgegevens die binnen de reikwijdte van de WGS valt en de verhouding tot anti-discriminatieregimes of regelgeving inzake gelijke behandeling. Dat neemt niet weg dat uit de toepasselijke bepalingen en de bestaande rechtspraak enkele factoren en elementen kunnen worden gedestilleerd die in dit verband van belang zijn.

Ten eerste dient de overheid zich in de verschillende fasen uiteraard te houden aan de algemene beginselen die in algemene zin gelden ten aanzien van beperkingen van grondrechten, waaronder derhalve ook het verbod op ongelijke behandeling en discriminatie. Het gaat daarbij onder meer om de eisen van noodzakelijkheid, proportionaliteit en subsidiariteit. Dit betekent dat het gemaakt onderscheid noodzakelijk en geschikt is om het gestelde doel te bereiken en dat er geen andere, minder belastende manieren zijn om hetzelfde doel te realiseren.

In aanvulling daarop kunnen uit rechtspraak op zowel nationaal als Europees niveau enkele beginselen worden afgeleid die meer specifiek van toepassing zijn op de situaties die door het wetsvoorstel worden bestreken. Zo moet men in de fasen die worden gereguleerd door het wetsvoorstel alert zijn op het gebruik van gegevens die in het licht van het discriminatieverbod verdacht zijn, zoals etniciteit en geslacht. (zie noot 72)

Daarnaast volgt uit rechtspraak dat er een zekere mate van transparantie dient te bestaan over de totstandkoming van beleid - en daarmee tevens de onderliggende gegevensverwerking - op basis waarvan een interventie heeft plaatsgevonden die een persoon heeft benadeeld. Dat is van belang voor de controleerbaarheid en, gerelateerd daaraan, de rechtsbescherming van de betrokken personen. (zie noot 73)

Zo merkte de Rechtbank Den Haag in haar uitspraak inzake SyRI (het concrete systeem van gegevensverwerking dat aan haar ter beoordeling was voorgelegd) hierover op dat ‘niet kan worden gecontroleerd hoe de eenvoudige beslisboom, waarover de Staat spreekt, tot stand komt en uit welke stappen deze bestaat. Aldus valt moeilijk in te zien hoe een betrokkene zich kan verweren tegen het gegeven dat ten aanzien van hem of haar een risicomelding is gedaan. […] Het belang van transparantie, met het oog op controleerbaarheid, is mede zwaarwegend omdat aan het gebruik van het risicomodel en de analyse die in dat verband wordt verricht het risico verbonden is dat (onbedoeld) discriminerende effecten optreden’. (zie noot 74)

In dit verband merkt de Afdeling tevens op dat wanneer er sprake is van een prima facie verdenking van discriminatie, de bewijslast verschuift naar de verweerder. De verweerder - in deze context de overheid - zal dan moeten aantonen dat de gebruikte data en algoritmen géén verboden onderscheid bevatten. Dit beginsel is ook vastgelegd in nationale en Europese regelgeving inzake gelijke behandeling. (zie noot 75) Een weigering de benodigde informatie te leveren, kan volgens het Hof van Justitie van de Europese Unie (HvJEU) onder omstandigheden worden beschouwd als een eerste indicatie van discriminatie, op basis waarvan de bewijslast wordt verplaatst. (zie noot 76)

6. Conclusies

Met de gemaakte aanpassingen komt de WGS in belangrijke mate tegemoet aan de eisen die worden gesteld aan wetgeving waarin aanzienlijke grondrechtenbeperkende maatregelen worden voorgesteld. De Afdeling vraagt evenwel aandacht voor een aantal aspecten van het wetsvoorstel.

a. Reikwijdte en specificatie wetsvoorstel
Ten eerste wijst de Afdeling op de diverse delegatiegrondslagen die het wetsvoorstel bevat met het oog op de introductie van nieuwe samenwerkingsverbanden. Ook de wezenlijke elementen van nieuwe samenwerkingsverbanden dienen op het niveau van de formele wet te worden vastgelegd. (zie noot 77) Het gaat daarbij om de vormgeving en de bevoegdheden van nieuwe samenwerkingsverbanden. Dit betreft ook de verstrekking en verwerking van persoonsgegevens, waaronder geautomatiseerde gegevensverwerking. Tegen die achtergrond behoeft het voorliggende wetsvoorstel in elk geval op termijn aanpassing.

Daarnaast vraagt de Afdeling aandacht voor het beginsel van doelbinding. Aangezien een zeker abstractieniveau bij het omschrijven van de doelstellingen van gegevensverwerking onvermijdelijk is, klemt een zorgvuldige uitvoeringspraktijk temeer. Daarbij zal telkens moeten worden bezien of en zo ja, op welke wijze aan het doelbindingsbeginsel kan worden voldaan. In het licht van dit beginsel dient bovendien nader te worden beargumenteerd wat de plaats is van de ZVH’s binnen de WGS. Indien dit niet mogelijk blijkt, dienen deze samenwerkingsverbanden uit het wetsvoorstel te worden geschrapt.

b. Risico’s op ongelijke behandeling en discriminatie
Het wetsvoorstel bevat diverse waarborgen die de risico’s op ongelijke behandeling en discriminatie kunnen verkleinen. Zo kan een resultaat van geautomatiseerde gegevensanalyse bijvoorbeeld uitsluitend aan een deelnemer of derde worden verstrekt na menselijke tussenkomst, waarbij beoordeeld moet worden of het resultaat op zorgvuldige wijze is tot stand gekomen. Ook de in te stellen rechtmatigheidsadviescommissie kan bijdragen aan het verkleinen van de risico’s op ongelijke behandeling en discriminatie. Daarbij is het wel van belang dat de bevoegdheden van de commissie zo worden gelezen dat dit ook toezicht op dergelijke risico’s omvat.

Met het oog op controleerbaarheid en, gerelateerd daaraan, de rechtsbescherming van betrokken personen, is een zekere mate van transparantie vereist in verschillende fasen van het proces van geautomatiseerde gegevensverwerking.

In dit verband wijst de Afdeling op de waarborg dat bij geautomatiseerde gegevensanalyse geen algoritmen worden gehanteerd waarvan de uitkomsten niet navolgbaar en controleerbaar zijn. Ook de verplichting het publiek op toegankelijke wijze uitleg te geven over de gehanteerde patronen, indicatoren en andere onderliggende logica, komt tegemoet aan de vereiste transparantie.

De mogelijkheden die het wetsvoorstel biedt voor de verwerking van gegevens zullen voor een groot deel nader worden ingekaderd door voorgenomen amvb’s (zie hierover ook punt 3a). Het is daarom van belang dat ook bij de verdere inrichting van het systeem aandacht wordt besteed aan de risico’s op discriminatie en ongelijke behandeling, evenals aan de vereiste transparantie. Bij de samenstelling van datasets, het formuleren van doelvariabelen en het inrichten van algoritmen rijst telkens weer de vraag of een samenspel van persoonskenmerken bij de uitvoering ongelijke behandeling of discriminatie kan opleveren. De Afdeling benadrukt dan ook dat ook op dit vlak een zorgvuldige uitvoeringspraktijk cruciaal is.

Om een zorgvuldige uitvoeringspraktijk te waarborgen is het van belang dat wordt geïnvesteerd in professionaliteit en (juridische) deskundigheid op de werkvloer, evenals in een cultuur waarin kan en mag worden afgeweken van algoritmische uitkomsten. Daarnaast zijn afwegingskaders van belang om te bevorderen dat algoritmen zorgvuldig en met respect voor relevante grondrechten tot stand worden gebracht. Ook dienen relevante derde partijen, zoals belangenorganisaties, te worden betrokken bij het ontwerp van algoritmen die een samenwerkingsverband hanteert. Daarmee kunnen onrechtmatige verwerkingen worden voorkomen en kan tevens het maatschappelijk draagvlak voor het gebruik van algoritmen worden vergroot. Tot slot wijst de Afdeling op het belang van een zorgvuldige evaluatie en terugkoppeling als het gaat om de resultaten van de toepassing van algoritmen.

De vice-president van de Raad van State

Voetnoten

(1) Gelet op de vereisten van artikel 10 van de Grondwet, bezien in het licht van het legaliteitsbeginsel en het primaat van de wetgever.
(2) Zie Kamerstukken II 2019/20, 35447, nr. 2 (Voorstel van wet) en nr. 3 (Memorie van toelichting).
(3) Kamerstukken II 2019/20, 35447, nr. 4.
(4) Kamerstukken II 2019/20, 35447, nr. 2 en nr. 3.
(5) Advies van de Afdeling advisering over de WGS, Kamerstukken 2019/20, 35447, nr. 4.
(6) Idem, punt 3-4.
(7) Idem, punt 7.
(8) Idem, punt 8.
(9) Gewijzigd voorstel van wet, Kamerstukken II 2020/21, 35447, nr. A en Memorie van toelichting, Kamerstukken 2019/20, 25447, nr. 3.
(10) Zie Overzicht van stemmingen in de Tweede Kamer betreffende wetsvoorstel 35447, 17 december 2020.
(11) Artikel 1.7, achtste lid, WGS. Amendement van het lid Yeşilgöz-Zegerius, Kamerstukken II 2020/21, 35447, nr. 14.
(12) Artikel 1.9, derde lid, WGS. Amendement van het lid Van Nispen en Buitenweg, Kamerstukken II 2020/21, 35447, nr. 9. In artikel 1.9, derde lid, werd de zinsnede ‘voor zover naar het oordeel van een deelnemer zwaarwegende redenen zich daartegen niet verzetten’ geschrapt.
(13) Artikel 1.9, zesde lid, WGS. Amendement van het lid Buitenweg, Kamerstukken II 2020/21, 35447, nr. 13.
(14) Diverse Artikelen. Amendement van het lid Kuiken, Kamerstukken 2020/21, 35447, nr. 18.
(15) Diverse Artikelen. Amendement van het lid Van Nispen, Kamerstukken 2020/21, 35447, nr. 11.
(16) Zie Overzicht van stemmingen in de Tweede Kamer betreffende wetsvoorstel 35447, 17 december 2020.
(17) Artikel 1.1 t/m 1.12 van het gewijzigde wetsvoorstel.
(18) Artikel 1.8 t/m 1.12 van het gewijzigde wetsvoorstel.
(19) Artikel 2.1 t/m 2.32 van het gewijzigde wetsvoorstel.
(20) Artikel 3.1 van het gewijzigde wetsvoorstel.
(21) Idem.
(22) Artikel 3.2 van het gewijzigde wetsvoorstel.
(23) Artikel 10, eerste lid, van de Grondwet luidt als volgt: "Ieder heeft, behoudens bij of krachtens de wet te stellen beperkingen, recht op eerbiediging van zijn persoonlijke levenssfeer."
(24) Kamerstukken II 1975/76, 13872, nrs. 1-5, p. 20-21, p. 28.
(25) Zie ook Aanwijzing 2.19 van de Aanwijzingen voor de regelgeving en het Jaarverslag 2018 van de Raad van State, paragraaf 1.3.2 (‘Inhoud: alternatieven voor klassieke regulering’).
(26) Zie in dit verband ook de Autoriteit Persoonsgegevens, Advies over het gewijzigd voorstel voor de Wet gegevensverwerking door samenwerkingsverbanden (WGS), 9 november 2021, p. 27-28.
(27) Gelet op de vereisten van artikel 10 van de Grondwet in het licht van het legaliteitsbeginsel en het primaat van de wetgever.
(28) Zie artikel 2.2, 2.10, 2.17 en 2.25 van het gewijzigde wetsvoorstel.
(29) Artikel 5, eerste lid, onderdeel b, AVG.
(30) Artikel 6, vierde lid, AVG. Zie in dit verband ook de Autoriteit Persoonsgegevens, Advies over het gewijzigd voorstel voor de Wet gegevensverwerking door samenwerkingsverbanden (WGS), 9 november 2021, p. 7.
(31) Zie artikel 2.2, 2.10, 2.17 en 2.25 van het gewijzigde wetsvoorstel.
(32) Zie artikel 1.8, zesde lid, van het gewijzigde wetsvoorstel.
(33) Zie artikel 1.7, tweede lid, van het gewijzigde wetsvoorstel.
(34) Zie paragraaf 2.4 van het gewijzigde wetsvoorstel.
(35) Memorie van toelichting, Kamerstukken II 2019/20, 35447, nr. 3, artikelsgewijze toelichting bij artikel 2.24.
(36) Memorie van toelichting, Kamerstukken II 2019/20, 35447, nr. 3, artikelsgewijze toelichting bij artikel 2.24 en 2.25.
(37) Zie www.veiligheidshuizen.nl/wat-doet-een-zvh.
(38) Zie het advies van de Afdeling advisering over de WGS, Kamerstukken 2019/20, 35447, nr. 4, punt 5b.
(39) Zie Wetenschappelijke Raad voor het Regeringsbeleid, Big data in een vrije en veilige samenleving (2016), p. 43-44.
(40) Artikel 22 AVG; zie het advies van de Afdeling advisering over de WGS, Kamerstukken 2019/20, 35447, nr. 4, punt 5b.
(41) Zie ook M.J. Vetzo e.a., Algoritmes en grondrechten (Den Haag: Boom Juridisch 2018), p. 138.
(42) Memorie van toelichting, artikelsgewijs deel, toelichting bij artikel 1.5.
(43) Opgemerkt moet worden dat de verwerking van gegevens niet altijd eindigt bij een interventie. Zo volgt in het geval van zelflerende algoritmen een zogenaamde ‘feedback loop’: uitkomsten van interventies worden telkens weer teruggeleid om het systeem te trainen.
(44) Zie hierover uitgebreider M.J. Vetzo e.a., Algoritmes en grondrechten (Den Haag: Boom Juridisch 2018), p. 142-144.
(45) Idem.
(46) Artikelen 2.4, 2.12, 2.22 en 2.30 van het gewijzigde wetsvoorstel.
(47) Artikel 1.5, eerste lid, van het gewijzigde wetsvoorstel.
(48) Artikel 2.4, tweede lid, artikel 2.12, derde lid, artikel 2.22, tweede lid, en artikel 2.30, tweede lid, van het gewijzigde wetsvoorstel.
(49) Artikel 2.13 van het gewijzigde wetsvoorstel.
(50) Artikel 2.18, tweede lid, van het gewijzigde wetsvoorstel.
(51) Artikel 2.5, tweede lid, van het gewijzigde wetsvoorstel.
(52) Zie M.J. Vetzo e.a., Algoritmes en grondrechten (Den Haag: Boom Juridisch 2018), p. 144-145; H. Lammerant e.a., ‘Big data besluitvormingsprocessen en sluipwegen van discriminatie’, NTM/NJCM-bulletin 2018-1, p. 4.
(53) Artikel 1.1 van het gewijzigde wetsvoorstel.
(54) Artikel 1.8, vierde lid, van het gewijzigde wetsvoorstel.
(55) Zie in het bijzonder de artikelen 2.7, 2.13, 2.23 en 2.29 van het gewijzigde wetsvoorstel.
(56) Artikel 1.9, zesde lid, van het gewijzigde wetsvoorstel.
(57) Artikel 1.9, derde lid, van het gewijzigde wetsvoorstel.
(58) Memorie van toelichting, artikelsgewijs deel, toelichting bij artikel 1.9, derde lid.
(59) Rb Den Haag, 5 februari 2020, ECLI:NL:RBDHA:2020:865, r.o. 6.90-6.91. Deze transparantie wordt tevens vereist door artikel 13, tweede lid, onderdeel f, AVG.
(60) Artikel 1.8, zesde lid, van het gewijzigde wetsvoorstel.
(61) Memorie van toelichting, artikelsgewijs deel, toelichting bij artikel 1.8, zesde lid.
(62) In dit verband kan bijvoorbeeld worden gewezen op het Impact Assessment Mensenrechten en Algoritmes, dat recent werd ontwikkeld door de Universiteit Utrecht (november 2021), https://www.uu.nl/sites/default/files/Rebo-IAMA.pdf. Zie ook, in bredere zin Wetenschappelijke Raad voor het Regeringsbeleid (WRR), Opgave AI. De nieuwe systeemtechnologie (2021), p. 199.
(63) Zie ook idem, p. 420-421.
(64) Artikelen 2.8 en 2.15 van het gewijzigde wetsvoorstel.
(65) Zie de definitieomschrijving in artikel 1.1 van het gewijzigde wetsvoorstel.
(66) Memorie van toelichting, artikelsgewijze toelichting bij artikel 1.1 (definities).
(67) Artikel 1.9, tweede lid, van het gewijzigde wetsvoorstel.
(68) De WRR wijst in dit verband op het risico van ‘automation bias’, een psychologisch mechanisme waarbij mensen blind de suggesties van een computer volgen, ook als die incorrect zijn. Zie Wetenschappelijke Raad voor het Regeringsbeleid, Opgave AI. De nieuwe systeemtechnologie (2021), p. 251.
(69) Zie ook artikel 1.9, derde lid, van het gewijzigde wetsvoorstel.
(70) Zie in dit verband ook de amicus curiae brief inzake SyRI van de Special Rapporteur van de Verenigde Naties op het gebied van extreme armoede en mensenrechten, https://www.ohchr.org/Documents/Issues/Poverty/Amicusfinalversionsigned.pdf, paragraaf 29.
(71) Zie hierover ook het Impact Assessment Mensenrechten en Algoritmes, https://www.uu.nl/sites/default/files/Rebo-IAMA.pdf, hoofdstuk 3.
(72) Zie bijvoorbeeld EHRM, Linguarar v. Romania, 16 april 2019, nr. 48474/14, paragraaf 76.
(73) Zie bijvoorbeeld ABRvS, 17 mei 2017, ECLI:NL:RVS:2017:1259, r.o. 14.4; ABRvS, 18 juli 2018, ECLI:NL:RVS:2018:2454, r.o. 23.3.
(74) Rb Den Haag, 5 februari 2020, ECLI:NL:RBDHA:2020:865, r.o. 6.90-6.91.
(75) Zie bijvoorbeeld artikel 10 van de Algemene wet gelijke behandeling; Richtlijn 97/80/EG van de Raad van 15 december 1997 inzake de bewijslast in gevallen van discriminatie op grond van het geslacht; HvJEU 21 juli 2011, C-104/10, Kelly, ECLI:EU:C:2011:506, punt 34.
(76) Zie bijvoorbeeld HvJEU 19 april 2012, C-415/10, Meister, ECLI:EU:C:2012:217, punt 47.
(77) Gelet op de vereisten van artikel 10 van de Grondwet bezien in het licht van het legaliteitsbeginsel en het primaat van de wetgever.