Generatieve AI inzetten binnen de overheid? Dit zijn 6 aandachtspunten van de AP

Generatieve AI inzetten binnen jouw (overheids)organisatie zoals Copilot uitrollen? Dan is dit voor jou relevant: de Nederlandse privacytoezichthouder heeft in juli 2026 drie documenten gepubliceerd over generatieve AI. Deze documenten zijn een vervolg op de visie van de AP op generatieve AI die de Autoriteit Persoonsgegevens (“AP”) eerder dit jaar heeft gepubliceerd.

In dit blog lees je 6 aandachtspunten die volgen uit deze documenten. De kernboodschap? Begin niet bij de tool, maar bij het doel dat je wilt bereiken.

Een overzicht van de documenten van de AP

Hieronder vind je een overzicht van wat je in welke documenten kunt vinden.

Naast deze documenten kunnen (rijks)organisaties in de publieke sector de Overheidsbrede handreiking generatieve AI raadplegen. Voor andere sectoren bestaan er ook kaders, zoals de Handreiking AI in het onderwijs van Kennisnet. Vanuit de EDPB wordt er ook gewerkt aan richtsnoeren, maar die zijn er nog niet. Wel kan nu gereageerd worden op de ‘conceptversie’ van de Richtsnoeren voor web scraping in de context van generatieve AI van de EDPB.

Dan nu naar de 6 aandachtspunten die volgen uit de documenten van de AP. De documenten van de AP richten zich op generatieve AI waarbij persoonsgegevens worden verwerkt. Logisch, gezien de rol van de AP. Zet je generatieve AI in zonder persoonsgegevens te verwerken? Dan is de invulling van de aandachtspunten (deels) anders.

1. Breng informatiehuishouding en autorisaties op orde

Generatieve AI inzetten kan rechtmatig, maar alleen als je basis op orde is. Dit is met name van belang voor AI-systemen die toegang hebben tot gegevens van de organisatie: onder andere Copilot kan soms zien wat de gebruiker ziet, inclusief metadata en oude versies. Zorg daarom dat je grip hebt op je data voordat je begint, zoals:

• Zorg voor een actueel verwerkingsregister met doeleinden, categorieën en bewaartermijnen.

• Breng in kaart welke documenten/persoonsgegevens toegankelijk worden voor het AI-systeem.

• Label documenten: staan er bijzondere persoonsgegevens in? Of verouderde data?

• Beperk toegang per applicatie. Overweeg of toegang tot e-mail of chats echt nodig is.

• Houd de informatiehuishouding en de autorisaties doorlopend bij, dit is geen eenmalige opschoningsactie.

   

2. Bepaal per verwerking de grondslag

De grondslag draait om de vraag: waarom ga ik dit doen, wat is het doel en hoe draagt het bij aan mijn (publieke) taak? Beoordeel dit per verwerkingsdoel, niet per systeem.

De Handreiking generatieve AI beschrijft gerechtvaardigd belang als mogelijke grondslag, maar deze geldt vaak niet voor overheden bij de uitoefening van publieke taken. Daarvoor zal vaak een wettelijke verplichting of taak van algemeen belang de aangewezen grondslag zijn. Zijn persoonsgegevens eerder verzameld voor een ander doel? Dan beoordeel je of de AI-inzet verenigbaar is met dat oorspronkelijke doel. En check bij bijzondere persoonsgegevens altijd of een uitzondering onder artikel 9 AVG van toepassing is.

De AP geeft in haar advies aan gemeente Haarlemmermeer expliciet aan de grondslag niet te beoordelen. Die verantwoordelijkheid blijft bij de verwerkingsverantwoordelijke, schrijft de AP. Juist omdat je met Copilot veel verschillende dingen kunt doen, is een grondslag-analyse per use case van belang. Een generiek advies of referentie-DPIA van een andere organisatie volstaat niet.

3. Maak afspraken met je leverancier

Per verwerking stel je eerst vast welke rol de leverancier feitelijk heeft: verwerker, zelfstandig verwerkingsverantwoordelijke of gezamenlijk verwerkingsverantwoordelijke.

Bij het afnemen van een model ga je na of het model rechtmatig is ontwikkeld: de organisatie moet voldoende informatie en bewijs opvragen om een verantwoorde keuze te kunnen maken, maar kan meestal niet zelfstandig de volledige training reconstrueren. De AP-handreiking waarop dit is gebaseerd, is bovendien voorlopig en primair gericht op closed-weight modellen in de private sector.

Verder is van belang: hoe ondersteunt de leverancier de organisatie bij inzageverzoeken en andere rechten van betrokkenen? De leverancier speelt hierin een cruciale rol, maar de eindverantwoordelijkheid blijft bij de verwerkingsverantwoordelijke.

De AP is duidelijk: als de leverancier verwerker is en onvoldoende transparantie biedt of niet handelt conform jouw instructies, kan de dienst mogelijk niet rechtmatig worden gebruikt. Bij een partij als Microsoft is onderhandelen beperkt. Wat je wel kan doen, is weten waar je staat. Biedt de leverancier onvoldoende ondersteuning? Tref dan maatregelen of schakel de leverancier niet in.

4. Investeer in bewustwording en AI-geletterdheid

Output van generatieve AI kan onjuist of ongewenst zijn en het is van belang dat medewerkers dat herkennen. Sinds februari 2025 verplicht de AI-verordening organisaties om maatregelen te nemen om de ontwikkeling van AI-geletterdheid bij medewerkers die met AI-systemen werken te ondersteunen. Concreet betekent dit onder andere:

• Medewerkers herkennen hallucinaties en controleren bronnen.

• Behoud voldoende tijd en deskundigheid om daadwerkelijk van de AI-output te kunnen afwijken.

Ga na welk niveau van AI-geletterdheid voor jouw organisatie wenselijk is en hoe je hierover verantwoording kunt afleggen. Bijvoorbeeld richting burgers of toezichthouders.

5. Ken de spelregels voor cloud

Veel generatieve AI-systemen draaien in een cloudomgeving. Dat brengt extra risico's met zich mee, bijvoorbeeld rondom doorgifte van persoonsgegevens en afhankelijkheid van je leverancier. Voor de Rijksoverheid geldt: volg het Rijksbreed Cloudbeleid en het bijbehorende Implementatiekader risicoafweging cloudgebruik. En er is nieuwe regelgeving in de maak. Deze voorgestelde wet: de Cloud and AI Development Act (“CADA”) zou van overheden eisen dat ze bij de inkoop van clouddiensten rekening moeten houden met bepaalde niveaus.

Het kan nodig zijn om te kiezen voor een self-hosted model in plaats van een clouddienst, bijvoorbeeld bij hoog-risicoverwerkingen. De AP waarschuwt dat te grote afhankelijkheid van (buitenlandse) cloudaanbieders je grip op verantwoord gebruik beperkt. Het toevoegen van een generatief AI-systeem aan een bestaande cloudomgeving kan de risico's van die omgeving vergroten.

6. Voer de nodige assessments uit

Beoordeel of een DPIA nodig is door na te gaan of er sprake is van een hoog risicoverwerking. Besteed bij het uitvoeren van de DPIA aandacht aan de concrete doeleinden, gegevensstromen, betrokkenen, risico’s en maatregelen. Kijk niet alleen naar de risico’s van het systeem. Hou er rekening mee dat een referentie-DPIA van een andere organisatie kan helpen als startpunt, maar dat jouw context en use cases mogelijk (deels) anders zijn.

Trek het ook breder dan alleen de AVG. Onder de AI-verordening kan een Fundamental Rights Impact Assessment nodig zijn bij bepaalde hoogrisico-AI-systemen. Voor (rijks)overheidsorganisaties geldt daarnaast de BIO(2), het Rijksbreed Cloudbeleid en in de toekomst mogelijk CADA. Ook die vragen om risicobeoordelingen. Breng vooraf in kaart welke assessments voor jouw situatie relevant zijn en wie daarvoor verantwoordelijk is. Zo voorkom je dat je achteraf pas tegen verplichtingen aanloopt.

Deze 6 aandachtspunten zijn geen afvinklijstje. De technologie ontwikkelt zich snel, wetgeving en guidance worden aangescherpt en jouw use cases veranderen. Blijf monitoren, evalueer periodiek en stel bij waar nodig. En het belangrijkste: begin niet bij de tool maar bij de vraag ‘wat je wilt bereiken?’.

AI-geletterdheid begint bij je medewerkers

Wil je ervoor zorgen dat jouw medewerkers AI bewust en verantwoord inzetten? Met onze training AI-geletterdheid geef je jouw team de kennis en praktische handvatten om AI verantwoord toe te passen in het dagelijkse werk.