Op dinsdag 14 oktober organiseerden wij in Amsterdam ons AI-congres, ter ere van het nieuwe boek van onze Chief Knowledge Officer Arnoud Engelfriet: ‘De AI Act: Artikelsgewijs commentaar’. In onze splinternieuwe evenementenzaal op de nieuwe verdieping in ons kantoor namen inspirerende sprekers de ruim 100 gasten mee in uiteenlopende en boeiende thema’s rondom de AI Act. Het werd een dag vol waardevolle inzichten waarin onze relaties, vakgenoten én CAICO’s elkaar vonden om van gedachten te wisselen over de indruk en impact die de ruim 1 jaar oude AI Act tot nog toe op hen gemaakt heeft. Iedere deelnemer ontving bij binnenkomst een exemplaar van Arnoud’s nieuwe boek, zodat zij stuk voor stuk met ‘De AI Act: Artikelsgewijs commentaar’ in de hand het werkveld in kunnen om de AI Act te duiden. In dit blog zetten we de ‘key take-aways’ van het AI-congres op een rij.
Dagvoorzitter Pelçim Kaygusuz heette de deelnemers welkom, waarna zij de eerste spreker introduceerde: Laura Caroli. Vanuit het Center for Strategic and International Studies had zij als beleidsadviseur namens het Europees Parlement een leidende rol aan de onderhandeltafel voor de AI Act. In haar presentatie, getiteld ‘An insider’s view on the AI Act’, nam Laura ons mee in de ontstaansgeschiedenis van de wettekst van de AI Act. Dat die wettekst geen eenvoudig uitonderhandeld raamwerk is, bleek gauw genoeg toen Laura de hete hangijzers behandelde. Om een aantal voorbeelden te noemen: hoe zou de ‘beperkte procedurele taak’ als uitzondering voor hoog risico AI-systemen in de wet terecht moeten komen? Hoe moet de AI Act de verschillende onderdelen van de FRIA, zoals het ‘mitigeren van risico’s voor menselijk toezicht en fundamentele rechten’ beschrijven? Hoe definiëren we general purpose AI-modellen? En: wat verstaan we onder ‘biometrische categorisering’ in de zin van de verboden praktijk uit artikel 5? Laura gaf de gasten in deze ‘insider’s view’ een inkijkje in de uiteenlopende standpunten en beweegredenen van het Europees Parlement, de Europese Raad en de Europese Commissie.
Willy Tadema, AI governance consultant voor het Rijks ICT Gilde, verscheen als tweede spreker ten tonele. Vanuit haar rol heeft Willy ruime ervaring met het implementeren van standaarden voor IT-programmatuur, algoritmen en AI. Willy is aangesloten bij de NEN-normcommissie, waarin ze haar bijdrage levert aan het standaardiseren van bepaalde kaders en procedures die de AI Act stelt. Ze heeft de gasten op enthousiaste wijze laten zien hoe een standaardiseringsprocedure eruitziet en welke standaarden er voor de AI Act aan komen. Willy vestigde aandacht op de belangrijkste standaard uit dat lijstje: de standaard voor een Quality Management System.
Na de pauze was het de beurt aan Fulco Blokhuis, partner en IE-advocaat bij Boekx advocaten. Fulco procedeert in zijn praktijk veel over IE-geschillen met een IT-component, vandaar dat hij besloot om de opleiding tot CAICO aan de ICTRecht Academy te volgen. Hij liet de gasten zien hoe het trainen van AI-systemen auteursrechtelijke vragen kan oproepen, met name in de trainingsfase. Dat het gebruik van auteursrechtelijk beschermd werk om een AI-systeem te trainen een vorm van ‘reproduceren’ is, daar zijn de meeste deskundigen het over eens. Maar levert dit auteursrechtinbreuk op? Hoe verhoudt dit zich tot het ‘fair use-beginsel’? En hoe moet de TDM-exceptie in een AI-context gezien worden? Aan de hand van Amerikaanse en Europese jurisprudentie liet Fulco zien hoe deze intellectueel eigendomsrechtelijke leerstukken zich verhouden tot AI-systemen.
Het slotakkoord was voor onze Chief Knowledge Officer Arnoud Engelfriet, die zoals gezegd zijn nieuwe boek presenteerde. Arnoud benadrukte de uitdagingen van het interpreteren van nieuwe wetgeving. Enerzijds zitten die natuurlijk logischerwijs in het doorgronden van de wet: wát staat er, wáár staat dat allemaal en welke (dwars)verbanden zijn er gelegd? Anderzijds is de uitdaging abstracter: hoe handel je wanneer de wet in de praktijk een andere invulling heeft gekregen dan verwacht? Arnoud wees ons op een perceptie die veel mensen voor de komst van de AI Act hadden bij de wet: ‘de AI Act gaat antwoord geven op de fundamentele vragen die de maatschappij ten aanzien van AI heeft’. In realiteit is de AI Act veel praktischer en concreter van aard geworden: op basis van een risicogebaseerde aanpak is de AI Act vergelijkbaar met klassieke productreguleringsrichtlijnen: ‘welke risico’s zijn er en hoe houden we die risico’s zo klein mogelijk?’ In ‘De AI Act: Artikelsgewijs commentaar’ duidt Arnoud de AI Act op zijn kenmerkende en deskundige wijze.
Vlak voor de borrel werden de sprekers opnieuw het podium op geroepen voor een rondvraag. Uit het publiek kwamen vragen uit allerlei hoeken, van concreet (‘is een AI-systeem dat wordt gebruikt bij het beheer van bootverkeer een AI-systeem dat wordt gebruikt voor kritieke infrastructuur, in welk geval het systeem hoog risico is?’) tot abstract (‘wat ontbreekt er volgens jullie in de AI Act?’). Deze vragen vormden het startschot voor de aansluitende borrel, waar nog lang werd nagepraat.
Dank aan alle gasten voor jullie komst, we zien jullie graag op ons volgende evenement!
Wil jij er de volgende keer ook bij zijn? Schrijf je in voor onze nieuwsbrief en blijf op de hoogte van komende evenementen!
Inschrijven nieuwsbrief
