Op 9 december is het definitieve besluit gevallen: de AI Act komt er. Met strenge regels voor vrijwel alle inzet van algoritmes, autonome systemen en robots is de wet een wereldwijd unicum. De wet zal veel veranderen, en daarom besteden wij in deze blogreeks aandacht aan de belangrijkste punten om nu al mee te beginnen. Vandaag: wanneer valt ons systeem onder de AI Act?
Definitie van AI
De nieuwe regels gelden voor iedereen die AI ontwikkelt, op de markt brengt of inzet: producenten van AI-systemen, integrators die AI in eigen softwarediensten opnemen, importeurs die AI van buiten de EU halen en gebruikers die dergelijke diensten inzetten. De eerste vraag is dan dus wanneer een systeem “AI” oftewel kunstmatige intelligentie is.
De definitie uit de AI Act volgt die van de OECD en komt neer op een autonoom systeem dat gebaseerd op input van buitenaf een uitvoer genereert (zoals een besluit, aanbeveling, tekst of afbeelding), waarbij die uitvoer direct invloed heeft op de omgeving. De gebruikte technologie – neurale netwerken, machine learning, statistiek, expertsystemen of zelfs maar een Excelfilter – is in deze definitie niet relevant.
Autonomie staat centraal
Kernbegrip hierbij is ‘autonomie’, oftewel zonder volledig onder menselijke beheersing te staan. Een zelfrijdende auto is het standaardvoorbeeld, maar ook een slimme stofzuiger die zelf zijn route kiest, is een AI in de zin van de AI Act. Een chatbot bij een webwinkel is een lastiger verhaal: hebben de reacties van de bot ‘invloed’ op de omgeving, in dit geval de gesprekspartner? Waarschijnlijk is het antwoord ja, omdat de gesprekspartner daar zijn beslissing op baseert, zoals een mens willen spreken, besluiten het product niet te kopen of een juridische procedure aan te spannen.
Let op dat het dus niet relevant is of het systeem juridische besluiten neemt of mensen “in aanmerkelijke mate treft” zoals de AVG (artikel 22) dat omschrijft. Weliswaar zal een systeem dat dat doet, óók onder de AI Act vallen, maar er zijn genoeg AI systemen te bedenken die buiten de AVG blijven maar wel onder de definitie van AI vallen, zoals die slimme stofzuiger of een zelfdenkende thermostaat.
Van definitie naar risico
Onder de definitie van AI vallen is de eerste stap. Dit betekent niet dat men automatisch alle verplichtingen moet gaan navolgen. Daarvoor is eerst nog een vraag van belang: is het AI-systeem “hoog risico” zoals de AI Act dat noemt? Daarover gaat de volgende blog.
Meer leren over AI en de AI Act?
Om als professional in te kunnen spelen op de AI Act is het belangrijk om goed voorbereid te zijn. Onze AI-opleidingen bieden essentiële kennis, waarbij we de balans onderzoeken tussen ethiek, innovatie en wetgeving. Kies de opleiding die het beste bij jou past!
