Wetsvoorstel Uitvoeringswet AI-verordening

Den Haag, 8 juli 2026

Aan het ministerie van Justitie en Veiligheid
t.a.v. Directeur-generaal Rechtspleging en Rechtshandhaving
Mevrouw mr. M. Commelin
Postbus 20301
2500 EH  Den Haag

Betreft: Reactie conceptwetsvoorstel Uitvoeringswet AI-verordening en uitvoeringstoets

Geachte mevrouw Commelin,

Bij brief van 7 mei 2026 heeft u mij namens de staatssecretaris van Justitie en Veiligheid de mogelijkheid geboden om te reageren op het conceptwetvoorstel Uitvoeringswet AI-verordening en tevens om een uitvoeringstoets verzocht over de uitvoerbaarheid en de handhaafbaarheid van het wetsvoorstel voor de Afdeling bestuursrechtspraak van de Raad van State.

In het wetsvoorstel wordt, in artikel 2.2, eerste lid, onderdeel c, onder 4, de voorzitter van de Afdeling bestuursrechtspraak van de Raad van State aangewezen als markttoezichtautoriteit voor onderdeel 8, onder a, van bijlage III van de AI-verordening. Deze markttoezichtautoriteit houdt toezicht op hoog-risico AI-systemen die worden ontwikkeld en gebruikt ten behoeve van de Afdeling bestuursrechtspraak van de Raad van State.

1. Inleiding

De Afdeling bestuursrechtspraak is de hoogste algemene bestuursrechter. Zij doet als onafhankelijke instantie uitspraken over geschillen tussen burgers en de overheid, maar ook over geschillen tussen overheden onderling.

Als voorzitter van de Afdeling bestuursrechtspraak onderschrijf ik volledig dat in de uitvoeringswet is verankerd dat het markttoezicht op gerechtelijke instanties wordt uitgevoerd door gerechtelijke instanties. Hiermee sluit de wet aan op de constitutionele waarborgen in artikel 116, vierde lid, van de Grondwet. Ook wordt op die manier voldaan aan het gestelde in artikel 74, achtste lid, van de AI-verordening waarin onder meer staat dat de markttoezichtactiviteiten geenszins afbreuk mogen doen aan de onafhankelijkheid van gerechtelijke instanties of anderszins afbreuk doen aan hun activiteiten wanneer zij optreden in hun gerechtelijke hoedanigheid. Toegespitst op de Afdeling bestuursrechtspraak betekent dit dat het toezicht op de ontwikkeling en het gebruik van AI-systemen door de Afdeling bestuursrechtspraak van de Raad van State wordt uitgeoefend door de voorzitter van die Afdeling. Ook acht ik het, gelet op de hierboven aangestipte constitutionele waarborgen, juist dat in de situaties waarin interpretatieverschillen kunnen bestaan over de vraag wie de aangewezen als markttoezichtautoriteit is, het aan de voorzitter van de Afdeling bestuursrechtspraak is om vast te stellen wie de bevoegde markttoezichtautoriteit is, zoals beschreven staat in paragraaf 4.2.2.5 van de Memorie van Toelichting bij het conceptwetvoorstel.

Toezicht op de ontwikkeling en het gebruik van AI-systemen die de Afdeling bestuursrechtspraak gebruikt, bestaan ten eerste uit het onderzoeken en monitoren of de ontwikkeling en het gebruik van AI-systemen door de Afdeling bestuursrechtspraak in overeenstemming zijn met de relevante wetgeving, waaronder de AI-verordening.

Ten tweede is een onderdeel van dat toezicht een voorziening voor het behandelen van klachten over het gebruik van AI-systemen door de Afdeling bestuursrechtspraak. Daartoe worden twee klachtenregelingen vastgesteld voor het indienen en afhandelen van klachten. De eerste regeling heeft betrekking op het markttoezicht en de tweede op het toezicht op grondrechten op het gebied van gegevensbescherming.

Ten slotte bevordert de voorzitter van de Afdeling bestuursrechtspraak dat indien nodig de vereiste maatregelen worden genomen om aan de relevante regelgeving te voldoen (handhaving).

2. Reactie

Over het conceptwetsvoorstel breng ik over drie onderwerpen graag een meer specifieke reactie naar voren.

Artikel 4.1 (AI-testomgeving voor de regelgeving)

In artikel 4.1 van het conceptwetsvoorstel wordt geregeld dat de markttoezichtautoriteiten gezamenlijk zorgdragen voor het opzetten van een AI-testomgeving voor de regelgeving.  Een gevolg hiervan is dat de voorzitter van de Afdeling bestuursrechtspraak hiervoor mede verantwoordelijk wordt. Zij is immers aangewezen als markttoezichtautoriteit. Dit gevolg is niet wenselijk. De bevoegde markttoezichtautoriteiten begeleiden immers aanbieders en potentiële aanbieders die deelnemen aan de AI-testomgeving voor regelgeving over de wijze waarop aan de in deze verordening vastgestelde eisen en verplichtingen moet worden voldaan (artikel 57, zevende lid, van de AI-verordening).

De voorzitter van de Afdeling bestuursrechtspraak kan als gevolg van die begeleidingstaak in de positie komen waarin zij verwachtingen zal (moeten) wekken omtrent de regelgeving en de wijze waarop aan de eisen en verplichtingen moet worden voldaan die in de AI-verordening zijn vastgesteld. Dat strookt niet met de taak van de Afdeling bestuursrechtspraak om als onafhankelijke rechterlijke instantie te oordelen over of in een specifiek geval aan de eisen en verplichtingen van de AI-verordening is voldaan. De onafhankelijke rechterlijke beoordeling van besluiten verdraagt zich niet met de mogelijkheid dat de voorzitter van die Afdeling (mede)verantwoordelijk is voor het wekken van verwachtingen omtrent de regelgeving en de wijze waarop aan de eisen en verplichtingen binnen een AI-testomgeving die in de AI-verordening zijn vastgesteld.

Ik adviseer dan ook om te regelen dat artikel 4.1 niet van toepassing is op de voorzitter van de Afdeling bestuursrechtspraak. Overigens begrijp ik uit paragraaf 4.6.2 van de ontwerp Memorie van toelichting dat dat ook de bedoeling is, omdat in de opsomming van de verantwoordelijke toezichthouders voor de AI-testomgeving, de voorzitter van de Afdeling bestuursrechtspraak niet wordt genoemd.

Artikel 5.1 (samenwerking en gegevensdeling nationale bevoegde autoriteiten)

In artikel 5.1, eerste lid, van het conceptwetsvoorstel wordt geregeld dat de nationale bevoegde autoriteiten, waaronder begrepen de voorzitter van de Afdeling bestuursrechtspraak, onderling afspraken maken. Deze afspraken worden vastgelegd in een samenwerkingsprotocol en bekendgemaakt in de Staatscourant.      Het derde lid regelt dat in dit samenwerkingsprotocol in elk geval afspraken worden gemaakt over een zo veel mogelijk gelijkluidende uitleg van begrippen die worden gehanteerd in de AI-verordening.

Ook hier breng ik naar voren dat de positie van de Afdeling bestuursrechtspraak als onafhankelijke rechter zich niet verdraagt met de mogelijkheid dat de voorzitter van die Afdeling in de rol van toezichthouder afspraken maakt over een zo veel mogelijk gelijkluidende uitleg van begrippen die worden gehanteerd in de AI-verordening.

Ik adviseer u dan ook om te regelen dat artikel 5.1 niet van toepassing is op de voorzitter van de Afdeling bestuursrechtspraak. Dit laat overigens onverlet dat de voorzitter van de Afdeling bestuursrechtspraak in de hoedanigheid van markttoezichtautoriteit samenwerkt met bevoegde autoriteiten waar dit nodig is voor de effectieve werking van het toezicht en dit de rechterlijke onafhankelijkheid niet in gevaar brengt.

Verboden toepassingen en transparantieverplichtingen

In artikel 2.2, eerste lid, onder b, van het conceptwetsvoorstel worden de Autoriteit persoonsgegevens, de Autoriteit Financiële Markten en de Nederlandsche Bank aangewezen als markttoezichtautoriteiten voor hoofdstuk II van de AI-verordening: verboden AI-praktijken. In artikel 2.2, eerste lid, onder e, worden de Autoriteit persoonsgegevens en de Autoriteit Financiële Markten aangewezen als markttoezichtautoriteiten voor hoofdstuk IV van de AI-verordening: transparantieverplichtingen voor aanbieders en gebruiksverantwoordelijken van bepaalde AI-systemen.

Het is niet goed voorstelbaar dat een systeem dat gekwalificeerd moet worden als verboden AI-praktijk op relevante wijze bruikbaar is dan wel in gebruik genomen wordt binnen de Afdeling bestuursrechtspraak. In dat opzicht is te begrijpen dat het conceptwetsvoorstel geen rol voor de voorzitter van de Afdeling bestuursrechtspraak opneemt bij verboden systemen.

Op voorhand kan echter niet worden uitgesloten dat discussie ontstaat over de vraag of een systeem gekwalificeerd moet worden als hoog risico of als verboden systeem. In dat geval kan discussie ontstaan over de competentieverdeling tussen de toezichthouders. Dit kan met name aan de orde zijn bij de vraag bij wie een eventuele klacht moet worden ingediend en of zo’n klacht zou moeten worden doorgestuurd naar de bevoegde toezichthouder.  Overigens is discussie over de competentieverdeling minder aan de orde bij een product dat in het kader van het markttoezicht al eerder beoordeeld is als verboden, omdat een dergelijk product dan de markt niet op komt. Anders ligt dit bij een product dat voor de eerste maal in gebruik wordt genomen door de Afdeling bestuursrechtspraak.

Om de rechterlijke onafhankelijkheid te waarborgen, zou ervoor gekozen kunnen worden om te regelen dat in een dergelijk geval de beoordeling of een AI-systeem valt onder de categorie van verboden AI-praktijken, dan wel een hoog-risicosysteem is, te leggen bij de voorzitter van de Afdeling bestuursrechtspraak. Een tweede mogelijkheid is om ook de voorzitter van de Afdeling bestuursrechtspraak aan te wijzen als toezichtautoriteit.

Van systemen die vallen onder de transparantieverplichtingen in hoofdstuk IV van de AI-verordening kan dit anders liggen. Het is voorstelbaar dat de Afdeling bestuursrechtspraak in de gerechtelijke hoedanigheid AI-systemen toepast die vallen onder de transparantieverplichting, maar niet kwalificeren als hoog-risicosystemen. Om te voorkomen dat de onafhankelijkheid van de Afdeling bestuursrechtspraak in het geding komt, adviseer ik het toezicht door de voorzitter van de Afdeling bestuursrechtspraak uit te breiden naar AI-systemen die de Afdeling bestuursrechtspraak gebruikt en die vallen onder de transparantieverplichting.

3. Uitvoeringstoets

3.1 De kosten

Het is op dit moment niet goed mogelijk om een indicatie te geven van benodigde financiering van dit toezicht. De Afdeling bestuursrechtspraak maakt nog geen gebruik van AI-toepassingen waarop toezicht gehouden zou moeten worden. De Raad van State is wel gestart met gecontroleerde proeven voor AI-toepassingen, maar deze bevinden zich vooralsnog vooral op het vlak van ondersteuning en administratie en gaan niet over de ondersteuning van de gerechtelijke instantie, zoals bedoeld in bijlage III  van de AI-verordening.

Het ligt in de rede dat op het moment van inwerkingtreding van de uitvoeringswet AI-verordening kleinschalig gebruik wordt gemaakt van AI-toepassingen en dat het gebruik van AI-toepassingen in het rechterlijke domein groter zal worden. De verwachting is dat de eerste jaren na de inwerkingtreding 1 extra fte benodigd zal zijn om de toezichtstaak te ondersteunen.

3.2 Administratieve lasten

De procureur-generaal bij de Hoge Raad en de voorzitter van de Afdeling bestuursrechtspaak zijn van plan een gezamenlijk expertiseteam in te richten om hun rol als marktoezichtautoriteit technisch te ondersteunen. In de begrotingen van de Hoge Raad en de Raad van State kan een claim worden ingediend voor de kosten in het kader van personele ondersteuning en voorzieningen. Voor het overige ziet de uitvoeringslast met name in het adequaat inrichten van een AI-governance en het uitvoeren van AI-geletterdheid. Zoals hierboven al toegelicht verwacht ik dat de ondersteuning van de voorzitter van de Afdeling bestuursrechtspraak bij het toezicht ongeveer 1 fte per jaar zal bedragen.

3.3 Handhaafbaarheid

De uitvoeringswet AI-verordening is, gelet op hetgeen onder 1 en 2 is vermeld, binnen de Raad van State goed uitvoerbaar. Ook is er voldoende ruimte en tijd beschikbaar.

Ik hoop u hiermee van dienst te zijn geweest. Voor een nadere toelichting houd ik mij graag beschikbaar.

Hoogachtend,
de voorzitter van de Afdeling bestuursrechtspraak van de Raad van State,
Mr. R. Uylenburg