Er ligt een voorstel om de Medical Device Regulation (MDR) binnen de AI Act te verplaatsen van Bijlage I afdeling A naar afdeling B. Het doel is helder: de regeldruk voor fabrikanten van medische hulpmiddelen met AI verlagen. Dat is niet gek. Voor veel partijen voelt de huidige systematiek alsof ze twee compliance-trajecten tegelijk moeten doorlopen. Eerst de MDR en daarbovenop nog een flink pakket uit de AI Act. In dit blog leg ik uit wat die verplaatsing juridisch betekent, waarom dat voor de praktijk goed nieuws is, en waar fabrikanten nog wel alert op moeten blijven.
Routes naar hoog risico
De AI Act kent meerdere routes waarmee een AI-systeem als hoog risico kan kwalificeren. Een belangrijke route staat in artikel 6 lid 1. Kort gezegd: AI is hoog risico als het een veiligheidscomponent is van een gereguleerd product, of zelf dat product vormt, én voor de conformiteitsbeoordeling een onafhankelijke derde nodig is. Een medisch hulpmiddel onder de MDR kan daaronder vallen.
Daarmee kom je al snel uit bij de zware verplichtingen voor hoogrisico-AI-systemen. Denk aan een systeem voor risico- en kwaliteitsbeheer, technische documentatie, logging, menselijk toezicht, eisen rond nauwkeurigheid, robuustheid en cybersecurity, en post-market monitoring. Een deel van deze verplichtingen doen in de praktijk sterk denken aan wat fabrikanten onder de MDR toch al moeten regelen. Je hebt dan niet één compliance route die je moet bewandelen; voor medische AI komt daar namelijk dan nog een compliance route bij.
Wat de verplaatsing naar afdeling B verandert
Door de MDR van afdeling A naar afdeling B te verplaatsen, vallen medisch hulpmiddelen met AI niet langer automatisch onder de zware verplichtingen van hoofdstuk III, afdeling 2 van de AI Act. De artikelen die in deze afdeling staan, hebben betrekking op de eisen die gesteld worden aan AI-systemen. Dat lijkt op het eerste gezicht vreemd; de AI Act gaat juist over AI. Waarom zou medische software met AI dan minder regels krijgen?
Om het iets ingewikkelder te maken: er ligt ook een voorstel om de MDR aan te passen. In dat voorstel schuilt het antwoord: de Commissie zal dan bij het opstellen van bepaalde instrumenten (denk aan uitvoeringshandelingen, gedelegeerde handelingen en gemeenschappelijke specificaties) rekening moeten houden met de voorschriften uit hoofdstuk III, afdeling 2 van de AI Act.
De slimme omweg
Wat betekent dit concreet? Neem artikel 14 AI Act over menselijk toezicht. Die bepaling eist onder meer dat een mens de output van het AI-system kan begrijpen, kan negeren en kan stoppen. Na de verplaatsing naar afdeling B geldt artikel 14 niet meer rechtstreeks. In plaats daarvan kan de Commissie via een gemeenschappelijke specificatie bepalen dat bijvoorbeeld een AI-gestuurd diagnostisch hulpmiddel altijd een betrouwbaarheidsscore moet tonen, zodat de arts kan inschatten hoeveel gewicht hij aan de uitkomst moet geven. Of neem artikel 10 AI Act over data en datagovernance. Die eisen kunnen via gedelegeerde handelingen terugkomen in Bijlage I van de MDR, toegespitst op de trainingsdata van medische AI.
De fabrikant hoeft op deze manier dus niet meer twee aparte compliance-trajecten te doorlopen, met ieder hun eigen systematiek, documentatie en toezichthouders. De AI Act-eisen worden niet rechtstreeks opgelegd, maar vertaald. De fabrikant volgt dus één route, de MDR-route- en treft daarin de relevante AI Act-vereisten aan. Een slimme omweg die zorgt voor één geïntegreerd kader, sectorspecifieke uitwerking van AI-eisen, en minder dubbel werk.
Uitdagingen voor fabrikanten
Toch zijn er ook kanttekeningen. Ten eerste: ‘’rekening houden met’’ is geen één-op-één overname. De Commissie krijgt beoordelingsruimte om te bepalen hoe de AI Act-voorschriften doorwerken in de MDR-instrumenten. Dat betekent dat fabrikanten moeten afwachten hoe die vertaling er precies uitziet.
Ten tweede: de Commissie moet die instrumenten nog opstellen. Tot die tijd bestaat er onzekerheid over welke eisen precies gelden. Fabrikanten die nu al bezig zijn met de ontwikkeling van medische AI moeten dus blijven monitoren.
Ten derde: voor fabrikanten die actief zijn in meerdere sectoren, kan de verplaatsing juist leiden tot fragmentatie. De AI Act-eisen worden immers sectorspecifiek uitgewerkt in dit geval, wat kan betekenen dat dezelfde toepassing in verschillende contexten aan andere eisen moet voldoen.
Conclusie: positief, met een slag om de arm
De verplaatsing naar afdeling B is goed nieuws voor fabrikanten van medische hulpmiddelen met AI. De dubbele compliance-last vervalt. Tegelijkertijd moeten fabrikanten alert blijven op de concrete invulling door de Commissie. De AI Act-eisen verdwijnen niet, ze krijgen alleen een andere jas aan.
Wil je op de hoogte blijven van de nieuwste blogs en ontwikkelingen? Schrijf je dan in voor onze AI-nieuwsbrief.
