De AI Act

Alle inzet van AI (oftewel: autonoom werkende computers en algoritmes) valt onder de AI Act. De verordening volgt een risicogebaseerde benadering en stelt verplichtingen voor aanbieders en gebruikers afhankelijk van het risiconiveau dat een AI-systeem met zich meebrengt. De AI Act is van toepassing op alle sectoren, zoals de gezondheidszorg, overheid, financiën, het onderwijs en entertainment. Het heeft een algemeen karakter en is niet beperkt tot een specifieke branche.

De nieuwe regels gelden voor iedereen die AI ontwikkelt, de handel brengt of inzet: producenten van AI-systemen, integrators die AI in eigen softwarediensten opnemen, importeurs die AI van buiten de EU halen en gebruikers die dergelijke diensten inzetten. Iedereen die gebruik maakt van AI zal zelf moeten kunnen aantonen dat deze aan de regels voldoet, en zal dus helderheid moeten opvragen bij de leverancier. De AI Act is bedoeld om aan te sluiten bij de bestaande Europese wet- en regelgeving in specifieke sectoren waar AI-systemen worden gebruikt of kunnen worden gebruikt. Zo vult de AI Act binnen de gezondheidszorg de bestaande wet- en regelgeving, zoals de Medical Device Regulation (MDR), aan. 

• Onacceptabele risico's: als een AI iets doet dat in strijd is met Europese fundamentele normen en waarden, dan mag deze niet op de Europese markt ingezet worden. Een voorbeeld is predictive policing; AI laten voorspellen of iemand crimineel gedrag zal gaan vertonen. Ook biometrische surveillance (gezichtsherkenning) in de publieke ruimte valt hieronder en wordt dus verboden.
• Hoge risico's: AI-systemen die een hoog risico vormen voor de gezondheid, veiligheid, grondrechten of het milieu zijn toegestaan mits wordt voldaan aan de strenge voorwaarden. Zo moet duidelijk zijn waar de data vandaan komt waarmee de AI is getraind, is menselijk toezicht vereist en moet de technische documentatie op orde zijn. Bepaalde medische hulpmiddelen en algoritmes die sollicitanten beoordelen zijn voorbeelden van hoog risico-AI.
• Lage risico's: AI-systemen die niet onder de voorafgaande categorieën vallen, mogen zonder al te veel problemen de Europese markt op. De AI moet wel transparant zijn, zodat niemand denkt met een mens te maken te hebben, en de AI mag geen beslissingen nemen.

Verplichtingen

Veruit de meeste verplichtingen gelden voor AI-systemen die in de categorie hoog vallen. Het volgende moet geregeld zijn:

• Risicomanagementsysteem: om potentiële risico's te identificeren, evalueren, beheren en verminderen.
• Systeem voor gegevensbeheer: er moet gebruik worden gemaakt van onbevooroordeelde, kwalitatieve en representatieve datasets.
• Technische documentatie: voor gebruikers moet duidelijk zijn hoe het AI-systeem gebruikt moet worden.
• Transparantie: voor gebruikers moet duidelijk zijn hoe het AI-systeem werkt. Zo geldt er ook een verplichting om te loggen om te kunnen traceren en controleren wat er precies is gebeurd.
• Menselijk toezicht: bij het gebruik van het AI-systeem is menselijk toezicht vereist.
• Conformiteitsbeoordeling: er geldt een specifieke conformiteitsbeoordelingsprocedure die verschilt van het huidige CE-markeringssysteem voor andere producten. Het doel is om een beoordelingsproces te hebben dat is afgestemd op de unieke kenmerken en risico's van AI-systemen.

Bovenstaande verplichtingen rusten niet op één partij; de AI Act kent verschillende rollen en elke rol kent eigen verantwoordelijkheden.