Wanneer is jouw recruitment AI-tool een high risk systeem?

Dit blog maakt deel uit van een reeks over de concept guidelines van de Europese Commissie voor de classificatie van high risk AI-systemen. In deze reeks nemen we de verschillende risicogebieden uit de guidelines onder de loep en zoomen we per blog in op een specifieke sector.

De Europese Commissie heeft concept guidelines gepubliceerd over de classificatie van high risk AI-systemen. Ze zijn flink uitgebreid: acht risicogebieden met veel praktijkvoorbeelden. Te veel voor één blog, dus behandelen we in deze reeks steeds een specifieke sector.

We beginnen met een onderwerp dat veel vragen oproept: werving en selectie. Gebruik of lever je AI-tooling die vacatures target, CV's screent of kandidaten rankt? Lees dan hieronder welke tools al dan niet binnen high risk vallen.

Hoe werkt de classificatie als high risk?

Bijlage III van de AI Act werkt met een lijst van concrete use cases. Punt 4(a) van die lijst gaat over werving en selectie. Staat jouw AI-systeem qua beoogd doel op de lijst, dan is het in beginsel high risk. Daar horen dan verplichtingen bij zoals een risicobeheersysteem, technische documentatie, menselijk toezicht en logging.

Onze recruiter beslist uiteindelijk: geen vrijbrief

Dit is waarschijnlijk het meest gehoorde argument om onder de classificatie uit te komen: het systeem geeft alleen een advies, onze recruiter neemt de uiteindelijke beslissing. De guidelines gaan hier als volgt op in.

Ten eerste verandert menselijke betrokkenheid de classificatie niet. Of een systeem high risk is, hangt uitsluitend af van het beoogde doel, niet of de recruiter uiteindelijk meekijkt. Menselijk toezicht is een verplichting die je moet regelen nadat een systeem als high risk is geclassificeerd (artikel 14 AI Act). Je kan een systeem niet anders kwalificeren door simpelweg een collega te laten meekijken.

Ten tweede gaat classificatie om wat de provider als beoogd doel vastlegt. Het systeem hoeft zelfs nog niet in gebruik te zijn: de beoordeling vindt plaats voordat het op de markt komt. Een tool kan dus al high risk zijn nog voordat er één sollicitant is beoordeeld.

Werving en selectie: wat valt eronder?

Bijlage III noemt drie use cases: gerichte vacatureplaatsing, het analyseren en filteren van sollicitaties, en het beoordelen van kandidaten. Maar deze lijst is niet uitputtend. Bepalend is of een systeem in de kern meedoet aan het wervings- of selectieproces.

Een paar punten die opvallen in de guidelines:

• Werving begint eerder dan je denkt. Niet pas bij de vacaturetekst, maar al bij het opsporen van potentiële kandidaten in databases en het benaderen van mensen die nog niet gesolliciteerd hebben. Ook onboarding kan er nog onder vallen zolang dat feitelijk deel is van het proces.

• Selectie geldt ook voor zzp'ers. Een platform dat zelfstandige dienstverleners selecteert voor een opdracht, doet ook aan "selectie" in de zin van punt 4(a), ook al is er nooit een sollicitatiebrief aan te pas gekomen.

• Gerichte vacatureadvertenties op basis van profiling zijn altijd high risk. Puur contextuele plaatsing (op basis van de website, niet gericht op de kijker) en generieke employer branding vallen erbuiten.

• Bestandsformaten omzetten mag; zodra een tool geschiktheidsscores of shortlists genereert, is analyseren feitelijk filteren.

• Evalueren hoeft niet doorslaggevend te zijn. Het is genoeg dat een score of ranking het besluitvormingsproces "merkbaar beïnvloedt", zoals ook hierboven bij menselijke betrokkenheid al even genoemd.

• Losse tools tellen samen. Werken een sourcingtool en een scoringsmodule samen aan wie wordt benaderd? Dan telt die combinatie als één systeem. Je ontkomt dus niet aan high risk classificatie door functionaliteiten over meerdere tools of leveranciers te verdelen.

Een paar voorbeelden van high risk:

• Een geautomatiseerde matching- en rankingtool die CV's, vaardigheden en opleiding vergelijkt met vacatureteksten en een shortlist genereert.

• Een sourcingtool die social media, vacaturesites en de eigen CV-database doorzoekt op basis van vooraf ingestelde criteria.

• Een rankingtool voor zelfstandige dienstverleners op een bemiddelingsplatform.

• Een systeem dat sollicitatie-antwoorden (tekst of video) scoort en op basis daarvan bepaalt wie wordt uitgenodigd voor een gesprek.

• Gerichte vacatureadvertenties op social media op basis van gebruikersgedrag en profiel.

• Achtergrondcontroles die een risicoscore ("laag/gemiddeld/hoog") toekennen op basis van openbare bronnen.

Een paar voorbeelden van niet-high risk:

• Een tool die uitsluitend niet-inclusief taalgebruik in vacatureteksten signaleert, op basis van door mensen vastgestelde patronen.

• Employer-branding-campagnes die niet aan een concrete vacature zijn gekoppeld.

• Monitoring van de werkgeversreputatie op social media (zonder individuen te volgen).

• Onboarding-ondersteuning na aanname, zonder invloed op de selectiebeslissing zelf.

• Een tool die een kandidaat helpt zijn eigen CV aan te passen aan een vacature, mits de kandidaat dit zelf initieert en de werkgever hier geen zeggenschap over heeft.

Het filtermechanisme in de AI Act; oftewel de uitzondering op high risk

Belangrijk onderdeel. Een systeem kan binnen een use case van Bijlage III vallen en toch zijn vrijgesteld van de high risk verplichtingen. Artikel 6(3) AI Act noemt vier gronden. Vertaald naar recruitment:

1. Nauw omschreven procedurele taak: bijvoorbeeld het verifiëren van een diploma of beroepsregistratie bij een officieel register, met alleen een ja/nee-uitkomst.

2. Verbetert al voltooid mensenwerk: een AI die een al geschreven beoordeling taalkundig opschoont, zonder de inhoud of uitkomst te veranderen.

3. Detecteert afwijkingen: zonder eerdere beslissingen te vervangen of te beïnvloeden, bijvoorbeeld een audit van historische wervingspatronen om bias op te sporen.

4. Voorbereidende taak: zoals het automatisch ordenen van binnengekomen CV's in een database, zonder daar een oordeel aan te verbinden.

Let goed op de algemene uitzondering bij profiling: zodra een systeem personen profileert, is geen van deze vier uitzonderingen van toepassing. Hoe overtuigend je verhaal voor de rest ook is. Dit maakt profiling de facto de belangrijkste vraag die je altijd als eerste moet stellen bij een recruitment tool.

Een mooi voorbeeld uit de guidelines daarover: een systeem dat afwijkingen in wervingsbeslissingen detecteert (grond 3), maar dat daarbij ook de persoonlijke kenmerken van de recruiters evalueert (bijvoorbeeld wie stelselmatig afwijkt) profileert daarmee weer die recruiters. De vrijstelling vervalt dan alsnog, ook al paste de taak zelf perfect binnen grond 3.

Wanneer is iets een voorbereidende taak?

Deze vierde grond wat meer uitgelicht, want we zien vaak dat HR daar in de praktijk tegenaan loopt. De guidelines maken een paar dingen scherp.

• De impact moet echt minimaal zijn. Je mag wel indexeren, doorzoeken, verwerken en gegevens koppelen, dus taken die structuur aanbrengen in de input en niet zelf een oordeel geven.

• De belangrijkste valkuil: algemene input versus advies. Als AI-output een recruiter informeert, is dat alleen "voorbereidend" wanneer die output een “algemene factor” is, zoals achtergrondinformatie die de beoordelaar zelf moet interpreteren. Zodra het systeem een aanbeveling of beoordeling gaat geven, speelt het al een “beslissende rol” en is het geen voorbereidende taak meer.

• Een tool die dus CV's ordent in een doorzoekbare database (indexeren/koppelen, geen oordeel) is voorbereidend. Zodra diezelfde tool CV's ook gaat taggen als "sterk" of "zwak" profiel, is dat niet meer het geval. Dan levert hij een specifieke beoordeling van het geval, en is er geen vrijstelling.

Praktisch, wat nu?

• Ga na wat het beoogde doel van je tool is. Zorg dat dit consistent is vastgelegd in gebruiksaanwijzingen, salesmateriaal en technische documentatie. Zodra je materiaal breed toepasbaar oogt en high risk gebruik niet consequent uitsluit, telt het systeem als bedoeld voor dat gebruik.

• Stel steeds die profiling-vraag. Is er sprake van profilering van personen? Dan is de vrijstelling sowieso niet haalbaar.

• Reken niet op "een mens beslist uiteindelijk". Een reviewstap door een recruiter verandert niets aan de classificatie en haalt een systeem niet uit de high risk categorie.

• Kijk verder dan losse tools. Combineer je meerdere modules (zoals sourcing en scoring) van dezelfde of verschillende leveranciers? Beoordeel het totale pakket in zijn geheel. Losse tools die samen een beslissing beïnvloeden, tellen als één systeem.

• Volg de ontwikkelingen. Dit is een concept dat de Commissie nog definitief moet vaststellen. En daarnaast: ook na vaststelling ligt de lijst niet vast: op grond van artikel 7 AI Act kan de Commissie Bijlage III blijven aanpassen, door nieuwe use cases toe te voegen, te wijzigen, of te schrappen. Dit wordt jaarlijks geëvalueerd. Let wel: deze guidelines zijn niet bindend, maar toezichthouders gebruiken ze in de praktijk wel als leidraad bij hun beoordeling van jouw al dan niet high risk systeem.

De deadline van 2 december 2027 lijkt ver weg, maar de verplichtingen voor high risk systemen (risicobeheer, technische documentatie, menselijk toezicht en logging) vragen flink wat tijd om in te richten. Wie nu al weet welke tools straks onder Bijlage III vallen, hoeft dat straks niet onder tijdsdruk uit te zoeken.

Twijfel je alsnog of jouw recruitment of HR tooling high risk is? We denken uiteraard graag met je mee.