Van slimme algoritmes die hypotheekaanvragen beoordelen tot spraakassistenten die onze agenda’s beheren – kunstmatige intelligentie is allang geen toekomstmuziek meer, maar een vast onderdeel van het bedrijfsleven. Steeds meer bedrijven gebruiken AI-toepassingen om processen te optimaliseren en kosten te verlagen.
De AI Act verplicht bedrijven om hun AI-gebruik kritisch tegen het licht te houden en passende maatregelen te treffen. In die context wordt de inzet van een AI Compliance Officer (AICO) daarmee niet alleen verstandig, maar in sommige gevallen zelfs een functionele noodzaak.
AI-systemen inventariseren
De eerste stap richting AI-compliance is het inventariseren van de verschillende soorten AI die binnen een bedrijf worden gebruikt. AI kent vele verschijningsvormen en voldoet al snel aan de definitie van een AI-systeem uit de AI Act. In de praktijk is het echter niet altijd in een oogopslag duidelijk dat er sprake is van een AI-systeem. Denk aan autonomie en inferentie die zit vervlochten in softwaretools of complexe automatiseringsprocessen.
AI-systemen moeten vervolgens worden ingedeeld op een risiconiveau, waarbij onderscheid wordt gemaakt tussen verboden praktijken, hoog-risico AI-systemen, AI-systemen met transparantierisico’s en de restcategorie. Het opstellen van een algoritmeregister waarin deze systemen en hun classificatie worden vastgelegd, is sterk aan te raden. Let op: Het gebruik van AI-systemen die onder de verboden categorie vallen moeten sinds 2 februari 2025 al zijn gestaakt.
AI-geletterdheid organiseren
AI is fundamenteel anders dan klassieke software. Sommige AI-modellen kunnen zichzelf zelfs trainen en autonome beslissingen maken. Kleine fouten in de dataset of programmeercode kunnen zorgen voor grote gevolgen in de antwoorden van een AI-systeem, denk hierbij aan BIAS of discriminatie. De AI Act stelt daarom expliciete eisen aan de mate van AI-geletterdheid binnen een bedrijf. Dit betekent dat medewerkers van bedrijven moeten begrijpen welke soort AI-systemen worden gebruikt, hoe deze systemen werken en welke risico’s eraan verbonden zijn. Afhankelijk van hun rol moeten zij deze risico’s kunnen signaleren, rapporteren en waar nodig maatregelen treffen. Waar voor de meeste functies een basiskennis van AI volstaat, hebben bijvoorbeeld IT-beheerders, juristen en ontwikkelaars vaak diepgaandere kennis nodig. Bedrijven kunnen AI-geletterdheid onder andere stimuleren door het geven van trainingen en workshops op dit gebied. Deze kennis kan ook extern worden opgedaan, bijvoorbeeld door het volgen van de CAICO-opleiding van ICTRecht.
Heeft elk bedrijf een AICO nodig?
Niet elk bedrijf heeft een AICO nodig, maar elk bedrijf dat AI gebruikt of ontwikkelt heeft een vorm van AI-compliance nodig. Toepassingsgebieden en de risicoclassificatie van de toegepaste AI bepalen de mate van AI-compliance en -governance binnen een bedrijf. In veel gevallen loont het om iemand binnen het bedrijf, eventueel in een gecombineerde rol, verantwoordelijk te maken voor AI-compliance, mits deze persoon over de juiste kennis beschikt. Naarmate AI een grotere rol speelt binnen een bedrijf wordt het noodzakelijk om deze verantwoordelijkheid expliciet toe te wijzen aan een specialist. Het aanstellen van een AICO is dan geen luxe, maar een strategische stap richting toekomstbestendigheid.
De AICO ontwikkelt een compliance strategie en stelt een roadmap op waarmee een bedrijf gestructureerd kan toewerken naar naleving van de AI Act. Op basis van de geïdentificeerde systemen voert de AICO impact assessments uit, waarin de risico’s in kaart worden gebracht. Deze inzichten worden door de AICO vertaald naar concreet beleid, variërend van richtlijnen voor het gebruik van tools als ChatGPT tot uitgebreide protocollen voor het beheer van AI-systemen. De AICO ondersteunt ook bij het implementeren van passende beheersmaatregelen om de compliance werkbaar en effectief te maken. Ten slotte zorgt de AICO voor periodieke rapportages en stuurt hij bij waar nodig, bijvoorbeeld in het geval van wetgeving die verandert.
Een AICO is een brug tussen technologie, wetgeving en de dagelijkse praktijk. Het hebben van een AICO helpt niet alleen bij het voldoen aan de AI Act, maar ook om vertrouwen te wekken bij klanten, partners en toezichthouders. Dit maakt de rol onderscheidend en waardevol voor elk bedrijf die AI op een verantwoorde manier wil inzetten.
Ondersteuning bij het AI-compliance vraagstuk
Wij bieden uitgebreide ondersteuning bij AI-compliance vraagstukken. We helpen organisaties met kennisdeling en opleiding via diverse trainingen op maat, variërend van diepgaande CAICO-opleidingen, sectorspecifieke studiedagen, tot basistrainingen rondom de vereiste AI-geletterdheid. Daarnaast voeren we volledige AI-inventarisaties uit om systemen te identificeren en te categoriseren. Voor organisaties die de rol van AI-compliance officer nog niet zelf kunnen invullen, bieden we flexibele oplossingen. Deze specialistische functie kan door ons worden vervuld, zowel op basis van inhuur als op afstand, waarmee we organisaties ontzorgen bij het voldoen aan de nieuwe AI-regelgeving.
Meer weten?
Bezoek onze website en ontdek wat we voor jouw organisatie kunnen betekenen!
Lees meer
