Op 9 december werd een historische beslissing genomen: de AI Act werd ingevoerd. Deze wet, uniek in zijn soort wereldwijd, legt strikte regels op aan bijna alle toepassingen van algoritmes, zelfstandige systemen en robots. Omdat deze wet veel veranderingen met zich meebrengt, gaan we in deze reeks dieper in op de meest essentiële zaken om nu alvast mee te beginnen. Vandaag: Wat betekent de verplichting een Fundamental Rights Impact Assessment uit te voeren?
Impact Assessments
Impact Assessments zijn systematische evaluaties van de consequenties – met name risico’s – van een nieuw systeem of activiteit. Bekend is natuurlijk de Data Protection Impact Assessment (DPIA) uit de AVG. Specifiek voor AI-systemen is er de variant van de Fundamental Rights Impact Assessment (FRIA), waarmee risico’s van inzet van AI in kaart gebracht worden. De globale opzet is hetzelfde: risico’s in kaart brengen en mitigerende maatregelen voorstellen.
De kern van een FRIA is dat deze veel breder in scope is dan een DPIA. Waar de laatste specifiek kijkt naar risico’s voor privacy, persoonlijke levenssfeer en een eerlijke omgang met persoonsgegevens, zal een FRIA in principe alle soorten risico’s voor mens en maatschappij mee moeten nemen. Naast persoonsgegevens vallen hier ook bijvoorbeeld fysieke veiligheid onder, ongewenste censuur (vrijheid van meningsuiting), gevaar voor de volksgezondheid of milieuvervuiling.
Risico-identificatie
Met zo’n brede scope lijkt het wellicht onbegonnen werk: hoe breng je álle risico’s in kaart. Een gedegen proces is dan ook een absoluut vereiste. In ons boek AI and Algorithms schets ik hoe je dit introduceert op basis van de Guidelines for Trustworthy AI van de Europese Commissie. In deze opzet zijn er zeven hoofdlijnen waarbinnen risico’s te vinden zijn, die vervolgens in meer of mindere mate uitgediept worden afhankelijk van het belang van elk van deze hoofdlijnen. Een AI die in aandelen handelt, zal een ander risicoprofiel kennen dan een AI die studenten in het hoger onderwijs aanstuurt, bijvoorbeeld.
Inzet van AI Impact Assessment
Een AI Impact Assessment (AIIA) wordt vaak gezien als toetsingsinstrument: een AI-systeem wordt opgeleverd, de werking wordt met een AIIA nagelopen en daaruit volgen risico’s die dan moeten worden beheerst. Een veel sterkere inzet is de AIIA uitvoeren voordat het AI systeem wordt ontwikkeld. De bevindingen kunnen dan in het ontwerpproces worden meegenomen, zodat dit fundamenteel goed aansluit bij de risico’s en de aanbevelingen die daaruit voortvloeien.
Verder is het goed te beseffen dat antwoorden in een FRIA zelden een duidelijk “ja” of “nee” zullen opleveren. Een FRIA is daarom veel meer een discussiestuk, waarbij de uitkomsten richting geven aan de verdere ontwikkeling, dan een checklist waarbij alle antwoorden ‘ja’ moeten zijn voordat men verder mag.
Naast een FRIA moet een organisatie nog meer doen om AI Act compliant te zijn. Hierover de volgende blog!
Meer leren over AI en de AI Act?
Om als professional in te kunnen spelen op de AI Act is het belangrijk om goed voorbereid te zijn. Onze AI-opleidingen bieden essentiële kennis, waarbij we de balans onderzoeken tussen ethiek, innovatie en wetgeving. Kies de opleiding die het beste bij jou past!
