Afgelopen donderdag 13 november stond ons kantoor in Groningen in het teken van AI en privacy. AI verandert hoe we werken, leven en communiceren. Maar wat betekent dat voor onze privacy? Dit event was speciaal gericht op een van de meest prangende vragen van dit moment: hoe zet je AI compliant in binnen je organisatie?
Met inspirerende bijdragen van Noa van Gils en Mark Getkate en veel ruimte voor praktijkvoorbeelden ontstond een middag vol inzichten, herkenning en concrete handvatten. Samen met tientallen klanten, vakgenoten én CAICO’s doken we in de mogelijkheden en risico’s van AI en privacy. In dit blog zetten we de belangrijkste key take-aways van het event op een rij.
AI en privacy: hoe zet je dit praktisch in?
De middag werd afgetrapt door Noa van Gils, die het publiek meenam in de complexe wereld van privacy en AI. Privacy en AI schuren soms met elkaar, maar hoe ga je hiermee om? Noa benadrukte dat AI risico's met zich meebrengt op drie niveaus: het gebruik van data, de impact van geautomatiseerde besluitvorming en de bredere aantasting van menselijke waardigheid. Denk hierbij aan gevallen als AI-muziek die ten onrechte op artiestenpagina’s verschijnt of het gebruik van AI bij politieke stemadviezen die invloed uitoefenen op kiezers.
Noa legde uit hoe AI-systemen, net als mensen, door een levenscyclus heen gaan. Een gedurfde vergelijking die wel direct tot de verbeelding spreekt. Het ontwerp van een AI-systeem werd vergelijken met het opvoeden van een kind en het buiten gebruik stellen van een AI-systeem met het opstellen van een testament. In elk van deze fases kunnen verschillende soorten data een rol spelen, van biometrische gegevens tot niet-persoonsgegevens, wat de juridische en organisatorische complexiteit vergroot. Het publiek herkende de genoemde knelpunten en stelde tijdens de presentatie van Noa al de nodige vragen.
Wat zegt de AI Act?
In de AI Act worden AI-systemen ingedeeld in verschillende risicocategorieën. Van verboden AI-systemen tot modellen met transparantieplichten. Om verantwoord gebruik van AI te waarborgen en voor naleving van zowel de privacywetgeving (Algemene verordening gegevensbescherming) en de AI Verordening te zorgen, is het essentieel om je bewust te zijn van de knelpunten.
Knelpunten voor organisaties:
- Onzichtbaar AI-gebruik: medewerkers gebruiken AI zelfstandig, waardoor governance lastig wordt.
- Grondslagvraagstuk: elke fase (training, input, verificatie) vereist een geldige grondslag, maar toestemming werkt meestal niet.
- Databehoefte: het gebruik van persoonsgegevens is niet altijd nodig.
- Transparantie: vanwege de technische aard van AI kan niet altijd achterhaald worden waarop een beslissing is gebaseerd.
- Risicobeheersing: organisaties moeten in sommige gevallen zowel een DPIA (AVG) als een FRIA (AI Verordening) uitvoeren voordat ze een AI-systeem in gebruik nemen. Ook wanneer de DPIA of FRIA niet verplicht is, kan het nuttig zijn om een risicotoets uit te voeren.
De AI Act in context
Tijdens het tweede deel van de middag ging Rick Kaspers met Mark Getkate in gesprek om het te hebben over zijn praktijkervaringen met het gebruik van AI in het domein van sociaal incasseren. Dit is een gebied waar de menselijke maat centraal staat. Mark liet zien hoe zijn organisatie AI inzet voor voorspelmodellen, analyses van klantcommunicatie en beveiligingstoepassingen. Hij benadrukte dat AI niet past in traditionele bedrijfsstructuren en legde uit hoe een AI-team en een AI-register helpen om verantwoord om te gaan met de technologie. Hierbij ging hij in op de zeven pijlers voor verantwoord gebruik van AI:
- Menselijke controle en menselijk toezicht;
- Technische robuustheid en veiligheid;
- Privacy en databeheer;
- Transparantie;
- Diversiteit, non-discriminatie en rechtvaardigheid;
- Maatschappelijk en milieuwelzijn;
- Verantwoording.
Daarnaast lichtte Mark de spanningen toe die er bestaan tussen privacy en innovatie: hoe biedt je gepersonaliseerde oplossingen zonder inbreuk te maken op de privacy van klanten? Dit spanningsveld werd onderstreept met een duidelijke oproep om altijd te blijven werken met betrouwbare AI en te zorgen dat transparantie gewaarborgd is. Mark wierp een blik op de toekomst: AI zal de manier waarop we werken veranderen, maar betrouwbaarheid en verantwoordelijkheid moeten centraal staan.
Mark eindigde de dag met een mooie slotboodschap: AI is in mijn ogen blijvend. Wat we ermee kunnen, kan ik niet voorspellen, maar we weten wel dat AI een grote impact heeft. We moeten er rekening mee houden dat op termijn processen gaan veranderen. Probeer om AI in processen toe te passen, maar stel jezelf wel de volgende vragen: is het nodig en gebruik ik betrouwbare AI? Gebruik daarbij de hierboven genoemde 7 pijlers. De mogelijkheden zijn onbegrensd.
Afsluiting en borrel
Na een levendige discussie met het publiek over de belangrijkste thema’s zoals transparantie, risicobeheersing en vervolgvragen over hoe men in bepaalde situaties praktisch om moet gaan moet AI, werd het evenement afgesloten met een netwerkborrel. Deze borrel bood volop gelegenheid voor deelnemers om ervaringen en ideeën uit te wisselen en om nog dieper in te gaan op de implicaties van de AI Act binnen ieders organisatie.
Het was een interessante middag vol waardevolle inzichten. We kijken terug op een leerzame bijeenkomst. Ben jij de volgende keer ook van de partij? Schrijf je in voor onze nieuwsbrief en blijf op de hoogte van toekomstige evenementen!
Inschrijven nieuwsbrief
