De impact van kunstmatige intelligentie (AI) in de zorg is niet te onderschatten. AI belooft de zorg te verbeteren, diagnoses te versnellen en behandelingen te optimaliseren. Zoals met elke opkomende technologie, brengt dit ook juridische en ethische uitdagingen met zich mee. Daarom wordt het steeds duidelijker dat zorginstellingen, naast andere organisaties, een speciale functie moeten inrichten die toezicht houdt op AI-compliance en governance; een AI-Officer. Met onder andere de AI Act wil de Europese Unie een standaard creëren voor wetgeving over AI. Vergelijkbaar aan de Algemene verordening gegevensbescherming (AVG), waarin de rol van de Functionaris Gegevensbescherming (FG) is ontstaan. Hoewel de AI Act niet voorziet in een dergelijke controlerende functie, bestaat er wel een (beschermde) rol met vergelijkbare verantwoordelijkheden, de Certified AI Compliance Officer (CAICO), of kortweg AI-Officer.
Een rol die in de zorgsector absoluut onmisbaar is. In deze blog vertel ik graag meer over de functie en de daarbij horende taken.
Wat zijn de taken van een AI-Officer?
De AI-Officer wordt aangesteld om de negatieve effecten van het gebruik van AI te minimaliseren. Hij houdt toezicht op het gebruik van AI en hij zorgt ervoor dat zijn organisatie voldoet aan (toekomstige) AI-wetgeving.
Het is belangrijk dat een AI-Officer relevante kennis heeft en bijdraagt in het inkooptraject. Een AI-Officer moet begrijpen hoe ethische en juridische aspecten van AI compliance en governance werken om complexe AI-vraagstukken op te lossen. Ook moet hij in staat zijn specifieke AI-wetgeving te vergelijken met andere regelgeving zoals de AVG en de Medical Device Regulation (MDR). Dit helpt bij het identificeren van overlappende of aanvullende vereisten. Daarnaast werkt de AI Officer zelfstandig en draagt hij bij aan het ontwikkelen en uitvoeren van strategieën over AI compliance en governance binnen zijn organisatie.
Waarom je een AI Officer nodig hebt
Volgens de AI-wetgeving is het niet verplicht om binnen je bedrijf een AI-officer aan te stellen. Het enige dat de AI Act noemt is dat de verantwoordelijkheid voor controle en veiligheid in de handen van nationaal bevoegde autoriteiten zijn en niet van een persoon die binnen een bedrijf aangesteld is ter controle.
In de zorg zijn er echter specifieke uitdagingen met betrekking tot AI. AI zit verweven in veel medische hulpmiddelen. De veiligheid van deze hulpmiddelen staat voorop. Daarnaast is privacy- en beveiliging een belangrijk onderwerp, aangezien er met het gebruik van de AI-toepassing veelal medische gegevens worden verwerkt. Ook het ethische aspect van AI in de diagnose en behandeling van patiënten vereist een zorgvuldige afweging (bij de inkoop) en monitoring (van het gebruik).
De organisatie is zélf verantwoordelijk voor het naleven van de regelgeving. Daarom kan het aanstellen van een AI-Officer die over de nodige expertise beschikt waardevol zijn.
Wie kan deze rol vervullen?
Een AI-Officer in de zorg moet nauw samenwerken met bestaande compliance officers en FG’s. Deze rollen hebben ervaring met specifieke aspecten van de AI-toepassing, zoals privacy-aspecten en de kwaliteit van het hulpmiddel dat vereist is op grond van de MDR. De AI-Officer voegt specifieke expertise toe op het gebied van AI compliance en governance, waardoor de zorginstelling beter is voorbereid op de complexe uitdagingen van AI in de zorg.
De rol van de AI Compliance Officer Opleiding
De rol van een AI-Officer is van groot belang om te voldoen aan de wet- en regelgeving omtrent AI (bij medische software). Het is noodzaak om ervoor te zorgen dat AI op een juridisch, ethisch en effectief verantwoorde manier wordt toegepast in de zorgsector. Om je organisatie en toekomstige AI-Officer goed voor te bereiden biedt de ICTRecht Academy een gecertificeerde opleiding tot AI Compliance Officer aan. In deze ‘blended’ opleiding doen deelnemers diepgaande kennis & skills op rondom de compliance- en governance aspecten van AI middels e-learning en praktijkdagen. Na afronding mogen de deelnemers de beschermde titel “CAICO” voeren.
Kortom, wanneer er gebruik wordt gemaakt van AI is het aanstellen van een AI-Officer essentieel om compliance te waarborgen. Deze rol overbrugt de kloof tussen AI-innovatie en zorgintegriteit door de specifieke expertise in compliance en governance. Mijn mening is dat de zorgsector proactief moet handelen en moet investeren in een AI-Officer om de toekomst van verantwoorde AI in de zorg te kunnen verzekeren! De CAICO opleiding is biedt een handig startpunt.
Ben jij ook dagelijks bezig met AI, risico’s en compliance?
Volg dan de Opleiding tot AI Compliance Officer (CAICO) van ICTRecht Academy. Januari is inmiddels volgeboekt, maar er starten nieuwe rondes in maart en mei 2024. Wacht niet te lang en schrijf je snel in!
