De enorm snelle opkomst van generatieve AI heeft de juridische discussies rondom deze slimme technologie weer op de kaart gezet. Het is natuurlijk niet voor het eerst: al sinds de komst van de AVG zijn er vragen over wat
algoritmes mogen doen, welke rol mensen spelen in besluitvormingsprocessen, en hoe je om moet gaan met vooringenomenheid en (onbedoelde) uitsluiting. Arnoud Engelfriet, Partner en Opleidingsdirecteur ICTRecht, gaat in op de rol van de AI Act hierin en de uitdagingen waar organisaties voor staan.
Wat doet de AI Act met die juridische discussies?
“De AI Act is een keerpunt in de discussie: door uit te gaan van risico’s en een serie specifieke compliance-verplichtingen te geven, stelt de EU dynamische kaders aan een snelgroeiende technologie. Deze verplichtingen en alles daar omheen komt nu versnipperd bij allerlei rollen binnen organisaties te liggen: de bedrijfsjurist, de privacy-officer, de auditor of misschien wel de productmanager. Zij hebben al veel andere taken en verantwoordelijkheden op hun bordje en beschikken niet over het volledige plaatje om hier uitspraken over te doen. Daarom is het nu tijd voor een professionaliseringsslag door een kwalificatie tot AI Compliance Officer te introduceren.”
Voor welke uitdagingen staan organisaties?
“Als grootste uitdaging zie ik dat iedere professional snel denkt genoeg kennis te hebben vanuit zijn specialisme. Sommige privacyspecialisten zien de AI Act bijvoorbeeld als een extraatje boven op de AVG. Uiteindelijk gaat de AI Act om zaken als besluitvorming, discriminatie, ongelijke behandeling en dat kun je net zo goed binnen de AVG oplossen. De bedrijfsjurist ziet de AI Act als een checklist. Hebben wij transparantie-informatie en heeft de leverancier een vrijwaring gegeven? En de auditor wil vooral weten hoe de technologie werkt en of aan de specificaties is voldaan. Het besef is nodig dat je deze individuele gebieden voor compliance op AI-gebied moet ontstijgen.”
Is de markt klaar voor de AI Act?
“De zorgen over de AI Act beginnen te komen en langzaam maar zeker begint het besef door te dringen dat er meer nodig is dan een extra compliance-formulier of een cursus over de techniek. Tegelijkertijd is het concept van een AI Compliance Officer als zodanig nog nieuw dat men zich terecht kan afvragen hoe de kwaliteit hiervan in te schatten.”
Hoe zie je dat organisaties hiermee omgaan?
“Ik merk dat bedrijven nu nog erg zoekende zijn. Ze willen graag een heldere oplossing waarmee ze direct vooruit kunnen.”
Hoe helpt de opleiding tot AI Compliance Officer hierbij?
“Onze opleiding tot AI Compliance Officer is de enige opleiding van zijn soort in Nederland en leert je complexe AI-gerelateerde vraagstukken identificeren, analyseren en oplossen. De focus is praktijkgericht: je vertaalt de vele regels en ethische vragen naar concrete plannen om AI legaal, ethisch en robuust te laten werken. Na het succesvol afronden van de opleiding ontvang je tevens de beschermde titel CAICO.”
De enige van zijn soort?
“Wij onderscheiden ons door een hoge mate van praktijkgericht lesgeven. Je oefent met casussen en gaat aan de slag met echte documenten in plaats van te blijven hangen bij de theorie. Het onderwerp AI is uniek in de combinatie van én high tech én moeilijke juridische vragen. Wij zijn dus bij uitstek geschikt om professionals hierin op te leiden, zodat ze direct aan de slag kunnen.
Onze opleiding is tevens gecertificeerd door een onafhankelijke stichting. De beschermde titel CAICO is bewijs van kwaliteit op de inhoud, zowel voor wat betreft het juridische als voor het technische.”
Welke tip geef je mee aan organisaties?
“Inventariseer welke professionals in jouw organisatie zich bezighouden met AI en de regelgeving daar omheen. Vraag elk van hen eens om drie aandachtspunten. Je zult zien dat ze allemaal met andere zaken komen. Dat bewijst het versnipperde karakter van de aandacht voor dit punt. Daarom herhaal ik nog maar eens, het is nu tijd voor de AI Compliance Officer.”
