De AI Act

De AI Act is 9 december aangenomen in Europa. Een baanbrekende wet die het gebruik van AI, algoritmes en machine learning beperkt, en eist dat risico’s voor mens en maatschappij worden geminimaliseerd. Wat is er nu afgesproken en waar moet je rekening mee houden? Wij helpen jou graag om hier gericht mee aan de slag te gaan. 

Gratis AI checklist!

Inschrijven AI-nieuwsbrief

Wat is de AI Act?

De AI Act is een Europese verordening die in de EU strenge regels stelt voor alle autonoom handelende computersystemen en algoritmes die beslissingen nemen, content genereren of mensen assisteren. Het doel van de AI Act is dat mensen en bedrijven in de EU kunnen rekenen op veilige, transparante, traceerbare, niet-discriminerende en milieuvriendelijke AI-systemen die onder toezicht staan van mensen.

Naar verwachting zal iedereen die met AI werkt vanaf 2026 moeten voldoen aan de eisen. 

De AI Act stelt hoge boetes in het vooruitzicht voor overtreders.  Tot 35 miljoen euro per overtreding of 7% van de wereldwijde omzet van het concern waarbinnen de overtreding wordt gemaakt. Voor 'kleine', administratieve overtredingen is dit 7,5 miljoen of 1.5%. 

Lees meerLees minder

Wat wordt er gereguleerd?

Alle inzet van AI (oftewel: autonoom werkende computers en algoritmes) valt onder de AI Act. De verordening volgt een risicogebaseerde benadering en stelt verplichtingen voor aanbieders en gebruikers afhankelijk van het risiconiveau dat een AI-systeem met zich meebrengt. De AI Act is van toepassing op alle sectoren, zoals de gezondheidszorg, overheid, financiën, het onderwijs en entertainment. De wet heeft een algemeen karakter en is niet beperkt tot een specifieke branche. Alleen bij inzet voor opsporings- en veiligheidsdiensten gelden aangepaste regels.

Lees meerLees minder

Voor wie gaat de AI Act gelden?

De nieuwe regels gelden voor iedereen die AI ontwikkelt, op de markt brengt of inzet: producenten van AI-systemen, integrators die AI in eigen softwarediensten opnemen, importeurs die AI van buiten de EU halen en gebruikers die dergelijke diensten inzetten. Iedereen die gebruik maakt van AI zal zelf moeten kunnen aantonen dat deze aan de regels voldoet, en zal dus helderheid moeten opvragen bij de leverancier. De AI Act is bedoeld om aan te sluiten bij de bestaande Europese wet- en regelgeving in specifieke sectoren waar AI-systemen worden gebruikt of kunnen worden gebruikt. Zo vult de AI Act binnen de gezondheidszorg de bestaande wet- en regelgeving, zoals de Medical Device Regulation (MDR), aan. Ook de AVG blijft gewoon van toepassing naast de AI Act.

 

Lees meerLees minder

Doe de gratis AI Act checklist

Wil je snel bepalen of de AI Act in jouw situatie van toepassing is en welke rol jij hebt met betrekking tot de AI Act? Beantwoord de vragen in onze checklist en ontvang direct een rapport. Dit kost je maar een paar minuten tijd.

 

AI checklist visual-1

 

Vraag de checklist aan

AI Act Cheat Sheet

Wil je alles weten over de AI Act, maar heb je geen zin om lange teksten door te nemen? Geen zorgen! We hebben een handige 'cheat sheet' samengesteld, zodat je binnen 1 minuut op de hoogte bent van alles wat je moet weten over de AI Act!

Download direct
Cheatsheet AI

Veelgestelde vragen over de AI Act:

Wat zijn de risiconiveaus?

  • Onacceptabele risico's: als een AI iets doet dat in strijd is met Europese fundamentele normen en waarden, dan mag deze niet op de Europese markt ingezet worden. Een voorbeeld is predictive policing; AI laten voorspellen of iemand crimineel gedrag zal gaan vertonen. Ook biometrische surveillance (gezichtsherkenning) in de publieke ruimte valt hieronder en wordt dus verboden.
  • Hoge risico's: AI-systemen die een hoog risico vormen voor de gezondheid, veiligheid, grondrechten of het milieu zijn toegestaan mits wordt voldaan aan de strenge voorwaarden. Zo moet duidelijk zijn waar de data vandaan komt waarmee de AI is getraind, is menselijk toezicht vereist en moet de technische documentatie op orde zijn. Het afhandelen van verzekeringsclaims, bepaalde medische hulpmiddelen en algoritmes die sollicitanten beoordelen zijn voorbeelden van hoog risico-AI.
  • Lage risico's: AI-systemen die niet onder de voorafgaande categorieën vallen, mogen zonder al te veel problemen de Europese markt op. De AI moet wel transparant zijn, zodat niemand denkt met een mens te maken te hebben, en de AI mag geen beslissingen nemen.

Verplichtingen

Veruit de meeste verplichtingen gelden voor AI-systemen die in de categorie hoog vallen. Het volgende moet geregeld zijn:

    • Fundamental Rights Impact Assessment: vooraf moeten gestructureerd de risico’s in kaart worden gebracht voor kwesties als veiligheid, privacy, discriminatie, eerlijke toegang tot zorg, onderwijs en belangrijke diensten.
    • Risicomanagementsysteem: om potentiële risico's te identificeren, evalueren, beheren en verminderen.
    • Systeem voor gegevensbeheer: er moet gebruik worden gemaakt van onbevooroordeelde, kwalitatieve en representatieve datasets.
    • Technische documentatie: voor gebruikers moet duidelijk zijn hoe het AI-systeem gebruikt moet worden.
    • Transparantie: voor gebruikers moet duidelijk zijn hoe het AI-systeem werkt. Zo geldt er ook een verplichting om te loggen om te kunnen traceren en controleren wat er precies is gebeurd.
    • Menselijk toezicht: bij het gebruik van het AI-systeem is menselijk toezicht vereist.
    • Conformiteitsbeoordeling: er geldt een specifieke conformiteitsbeoordelingsprocedure die verschilt van het huidige CE-markeringssysteem voor andere producten. Het doel is om een beoordelingsproces te hebben dat is afgestemd op de unieke kenmerken en risico's van AI-systemen.

Bovenstaande verplichtingen rusten niet op één partij; de AI Act kent verschillende rollen en elke rol kent eigen verantwoordelijkheden.

Overzicht bekijkenOverzicht sluiten

Wat betekent de AI Act voor mij?

Werk jij of werkt jouw organisatie met AI of algoritmes of overweeg je dat te doen? Neem dan nu alvast de volgende stappen:

  • Inventariseer om welke AI het gaat, van welke leveranciers deze afkomstig zijn en welke informatie je van de leveranciers nodig hebt. Vergeet ook de shadow-IT niet: de AI-diensten die werknemers op eigen houtje hebben afgenomen, al dan niet als experiment.
  • Onderzoek welke rol je hebt en welke verantwoordelijkheden daarbij horen. Beoordeel vervolgens of je contracten daarop aansluiten. Denk aan aansprakelijkheid, opzegtermijn en mogelijkheden om documentatie op te eisen over werking, dataset en dergelijke.
  • Evalueer de uitvoer van het AI-systeem. Zorg voor protocollen voor de evaluatie van de uitvoer en maak beleid met betrekking tot periodieke controles op de juistheid van de aanbevelingen.
  • Concludeer welke menselijke bemoeienis met deze AI-systemen er is binnen jouw organisatie is. 
  • Bepaal de risico categorie van het AI-systeem. AI-systemen die een hoog risico vormen staan in Bijlage III. AI-systemen die in Bijlage III vermeld staan en een conformiteitsbeoordeling van een onafhankelijke derde nodig hebben ook een hoog risico. Let op: deze lijst kan de komende weken nog aangepast worden.
Lees meerLees minder

Waar kan ik de laatste versie van de AI Act vinden?

De AI Act is definitief, hoewel de formele stemming nog moet plaatsvinden. Bekijk hier de officiële tekst als PDF.

De nummering moet nog worden herzien en er zijn een aantal opmaakfoutjes. Niet raar voor iets dat tot in de nachtelijke uurtjes met grote spoed is samengesteld om maar op tijd te zijn bij de stemmingen in Raad van Ministers (aanstaande vrijdag) en Europees Parlement (medio februari). Maar inhoudelijk staat het vast.

Download de AI Act

Lees meerLees minder

Wanneer treedt de AI Act in werking?

Nadat de tekst definitief is goedgekeurd, wordt deze in het Official Journal gepubliceerd. De verplichtingen voor bedrijven en instellingen treden twee jaar daarna in werking. Echter, zogeheten onacceptabel-risico AI moet binnen zes maanden al van de markt gehaald worden. Binnen een jaar na de publicatie moet bekend zijn wie de toezichthouders per land gaan zijn en moet handhavings- en boetebeleid gepubliceerd zijn.

Lees meerLees minder

Bestel hét handboek over AI

Dit Engelstalige boek is jouw gids voor Europese AI-wetgeving, geschreven voor juridische professionals, compliance officers en AI-productmanagers.

Het biedt inzicht in het toepassen van regelgeving bij AI-ontwikkeling, met focus op concepten zoals toezicht, technische robuustheid, privacy, en transparantie. Ontdek de impact van ethiek en de handhaving van regels met praktische inzichten, om verantwoorde AI-ontwikkeling te bevorderen.

Lees meer
Cover-MasteringAICompliance (1)

Blijf op de hoogte 

Wil je op de hoogte blijven van de ontwikkelingen op het gebied van AI? Schrijf je dan in voor onze thema-nieuwsbrief. Neem direct contact met ons op voor specifieke vragen. 

ICTRECHT iconen petrol 2022 RGB_Advies op maat

 

AI-nieuwsbrief

Laat je e-mailadres achter en meld je direct aan

Contact

Wil je meer weten wat de AI Act voor jou of jouw organisatie gaat betekenen? 

Laat een bericht achter via dit formulier. Eén van onze juristen neemt dan contact met je op. Je kunt ons ook bellen op telefoonnummer: 020 663 1941.

Wanneer je een aanvraag bij ons doet, volgt altijd eerst een vrijblijvend kennismakingsgesprek. 

 

ICTRECHT Illustratie advies - Petrol RGB

 

Laat je gegevens achter