Programma

De e-learning 'AI in de praktijk: compliance & governance' duurt 10 weken. Iedere week wordt een nieuw hoofdstuk behandeld.

Nu inschrijven Naar de overzichtspagina

Hoofdstuk 1: Wat is AI en waarvoor wordt het gebruikt

Het introducerend hoofdstuk behandelt kernbegrippen rondom AI en zet de rodedraadcasus neer. U maakt kennis met de technologie van AI en Machine Learning en de belangrijkste toepassingen, zodat u kernbegrippen als zelflerend karakter, accuratesse, bias en uitlegbaarheid kunt duiden. De rode draad is de fictieve gemeente Juinen, die zichzelf ten doel gesteld heeft binnen het jaar de wereldwijde nummer 1 stad op het gebied van AI te worden. Alle burgers, bedrijven en instellingen worden middels grootse subsidies en gemeentelijke ondersteuning geactiveerd om AI toe te passen. Uw uitdaging is te zorgen dat dit in goede banen gebeurt.

Werkvormen:

  • Volg een videocollege van Arnoud over AI en de mogelijkheden
  • Toets uw kennis van de stof middels een kennisclip en drag-and-drop opdracht om de verschillende soorten AI te categoriseren
  • Probeer een aantal kennissystemen uit om te bepalen welke AI zijn en welke niet
  • Pas uw kennis van de kernbegrippen toe op een serie stellingen
  • Bekijk de kennisclip over de toekomst van AI van enkele grote denkers
  • Als eindopdracht discussieert u virtueel* met B&W van Juinen over hun AI-visie en de compliance-aanpak

Na dit hoofdstuk kunt u:

  • De opkomst en het belang van AI in eigen woorden samenvatten
  • De verschillende soorten AI op hoofdlijnen onderscheiden
  • Compliance en governance issues rondom AI schetsen

*Bij een virtuele discussie of advies krijgt u een video van uw discussiepartner te zien, waarna u op zijn vragen en opmerkingen reageert met multiple choice antwoorden. Uw antwoord bepaalt hoe de discussie verder gaat.

Lees meerLees minder

Hoofdstuk 2: Juridische en ethische kaders voor AI

In 2019 publiceerde de High-Level Expert Group van de Europese Commissie de Ethics Guidelines for trustworthy AI. Deze leggen een raamwerk ter bevordering van betrouwbare AI, dat in deze leergang centraal staat. Dit raamwerk kent drie componten (wettig, ethisch en robuust), waaruit zeven vereisten voor AI-systemen volgen. In dit hoofdstuk leert u opzet en belang van de Guidelines en de strekking van de zeven vereisten. Elk vereiste wordt in een vervolghoofdstuk nader behandeld.

Werkvormen:

  • Bekijk de kennisclip over de Guidelines en download uw exemplaar als naslagwerk
  • Lees het interactieve boek over de Guidelines
  • Toets uw kennis uit het boek met diverse opdrachten tijdens en na het doorwerken van het boek
  • Als eindopdracht krijgt u een aantal voorstellen van burgers en bedrijven uit Juinen voor de inzet van AI. U beoordeelt middels stellingen deze toepassingen op de zeven vereisten 

Na dit hoofdstuk kunt u:

  • Aangeven wat het belang is van de Ethics Guidelines for Trustworthy AI (“de Guidelines”)
  • Uitleggen wat de drie componenten en zeven vereisten uit de Guidelines zijn, inclusief hun onderlinge relatie
  • Het kader gevormd door de zeven vereisten uit de Guidelines neerzetten voor een beoordeling van inzet van AI in een juridisch of bestuurlijk bedrijfsproces
Lees meerLees minder

Hoofdstuk 3: Menselijke controle en toezicht

In dit hoofdstuk staat het vereiste van menselijke controle en toezicht centraal. Dit houdt in dat AI-systemen menselijke autonomie en beslissingen moeten ondersteunen, en niet zonder toezicht mogen opereren of grondrechten negeren. U leert waar en waarom in een AI-gedreven systeem menselijke controle en toezicht ingezet kunnen worden en de voor- en nadelen tegen elkaar af te zetten in een casus. Dit vereist een goed begrip van de technologie achter AI, die u in dit hoofdstuk ook opdoet.

Werkvormen:

  • Volg een videocollege over de algemene technische opzet van AI-systemen, en beantwoord tijdens en na het college toetsvragen om de stof te verwerven
  • Doorloop een presentatie over menselijk toezicht in AI
  • Toets met een memory-game uw kennis van relevante terminologie omtrent menselijk toezicht op AI
  • Als eindcasus gaat u virtueel* in discussie met de afdeling Communicatie over de wijze waarop de gemeente Juinen haar discussieforum met AI-beheerbots laat controleren op spam en ongewenste reacties

Na dit hoofdstuk kunt u:

  • De criteria voor menselijke controle en toezicht formuleren
  • De technische werking van AI op hoofdlijnen schetsen en relevante vaktermen plaatsen
  • In een concrete casus gemotiveerd opties voor menselijke controle en toezicht in een AI-systeem voorstellen

*Bij een virtuele discussie of advies krijgt u een video van uw discussiepartner te zien, waarna u op zijn vragen en opmerkingen reageert met multiple choice antwoorden. Uw antwoord bepaalt hoe de discussie verder gaat.

Lees meerLees minder

Hoofdstuk 4: Diversiteit, non-discriminatie en rechtvaardigheid

Bij ontwerp en inzet van AI-systemen moet rekening worden gehouden met inclusie en diversiteit, inclusief gelijke toegang via inclusieve ontwerpprocessen, alsook voor gelijke behandeling. Dit betekent in de praktijk met name maatregelen nemen tegen bias (vooringenomenheid) die kan leiden tot directe of indirecte discriminatie en uitsluiting. Dit hoofdstuk leert u wat de diverse vormen van bias zijn, waardoor zij worden veroorzaakt en welke stappen daartegen mogelijk zijn.

Werkvormen:

  • Volg het videocollege over bias en beantwoord de vragen tijdens de presentatie
  • Bestudeer de casus “Reduceren van bias” en leer het over Bias Impact Assessment
  • Pas uw kennis over bias toe in een serie casussen waarin bias in een AI project is geslopen
  • Als eindopdracht adviseert u virtueel* de wethouder hoe om te gaan met klachten van bezoekers van een coffeeshop over discriminatie door de ingezette AI-technologie voor gezichtsherkenning

Na dit hoofdstuk kunt u:

  • De criteria voor diversiteit, non-discriminatie en rechtvaardigheid formuleren
  • Uitleggen welke vormen van bias er zijn en hoe deze zich voor kunnen doen
  • In een concrete casus adviseren over hoe zich hier tegen te wapenen

*Bij een virtuele discussie of advies krijgt u een video van uw discussiepartner te zien, waarna u op zijn vragen en opmerkingen reageert met multiple choice antwoorden. Uw antwoord bepaalt hoe de discussie verder gaat.

Lees meerLees minder

Hoofdstuk 5: Technische robuustheid en veiligheid

Dit hoofdstuk gaat dieper in op de technische werking van AI in het licht van het vereiste van technische robuustheid. Hieronder valt het vermogen van een AI-systeem om correcte afwegingen te maken en correcte voorspellingen te doen, en daarbij reproduceerbaar opereert. Met name van belang daarbij zijn het onderscheid tussen vals positief (ten onrechte iets accepteren) en vals negatief (ten onrechte iets afwijzen) en het omgaan met de inherente onzekerheid in AI-gedreven data-analyses.

Werkvormen:

  • Neem het interactief boek over diverse architecturen en maak de oefeningen ter toetsing van de stof
  • Volg een videocollege over accuratesse
  • Doorneem de interactieve presentatie over enkele aanvallen op AI
  • Als eindopdracht bekijkt u een documentaire over de Irisvereniging in Juinen en maakt u een samenvatting middels stellingen

Na dit hoofdstuk kunt u:

  • De criteria voor technische robuustheid en veiligheid formjuleren
  • De werking van verschillende AI technologieën reproduceren en vergelijken
  • De verschillende soorten accuratesse en fouten onderscheiden in een concrete casus
Lees meerLees minder

Hoofdstuk 6: Transparantie en verklaarbaarheid

De werking van AI-systemen wordt vaak wel een black box genoemd: hoe het systeem tot de uitkomst kwam, is vaak niet te achterhalen. Dit is problematisch, met name wanneer de uitkomsten mensen raken. Het vereiste van transparantie en verklaarbaarheid brengt dan ook met zich mee dat de gegevenssets en de processen waaruit de beslissing van het KI-systeem voortkomt, zo goed mogelijk moeten worden gedocumenteerd om ze traceerbaar te maken en de transparantie te vergroten. Ook moet het altijd mogelijk zijn om te vragen om een geschikte verklaring van het besluitvormingsproces van het AI-systeem.

Werkvormen:

  • Bekijk een kennisclip over explainable AI en vat uw kennis interactief samen
  • Bestudeer een video-interview met bankmedewerkers van de Juinense Bank van Lening over hun huidige leningproces
  • Ontwerp en test een beslisboom voor de beoordeling in dit proces
  • Doorwerk de case study over het voorgenomen AI-systeem voor leningaanvragen
  • Als eindopdracht schrijft u een adviesbrief aan de directie van de Juinense bank van Lening over de inzet van haar voorgenomen AI systeem

Na dit hoofdstuk kunt u:

  • De criteria voor transparantie en verklaarbaarheid formuleren
  • Verschillen duiden tussen klassieke en AI-gedreven besluitvorming
  • Over de gevolgen daarvan voor transparantie adviseren in een concrete casus
Lees meerLees minder

Hoofdstuk 7: Privacy en datagovernance

De Algemene verordening gegevensbescherming (AVG of GDPR) stelt strenge regels aan automatische besluitvorming en het soort data-analyse dat bij AI hoort. Dat levert een behoorlijk spanningsveld op: omvang en kwaliteit van de gebruikte gegevenssets is cruciaal voor de prestaties van KI-systemen. Daarom bepaalt het vereiste van privacy en datagovernance dat AI-systemen privacy en gegevensbescherming moeten garanderen gedurende de volledige levenscyclus van het systeem. Terecht: fouten en onvolkomendheden in een AI-systeem kunnen grote impact hebben op mensen. Dit hoofdstuk introduceert het wettelijk perspectief van de AVG. Na dit hoofdstuk kunt u het AVG-kader van een AI systeem schetsen bij een gegeven casus en maatregelen voorstellen om daaruit voortvloeiende risico’s te beheersen.

Werkvormen:

  • Bestudeer het interactieve boek over de AVG in de context van AI, inclusief diverse toetsopdrachten tijdens en na de stof
  • Volg een verdiepende kennisclip over de uitlegbaarheid van AI binnen het vereiste daarvan uit de AVG
  • Maak een memory-puzzel om begrippen uit AVG- en AI-domeinen met elkaar te verbinden
  • Interactief een model-DPIA doornemen voor een AI-systeem
  • Als eindopdracht adviseert u virtueel* de FG van de Juinense Bank van Lening’ over de beheersbaarheid van de AVG-risico’s

Na dit hoofdstuk kunt u:

  • De criteria voor privacy en datagovernance formuleren
  • Het AVG-kader van een AI systeem schetsen bij een gegeven casus
  • Maatregelen voorstellen om daaruit voortvloeiende risico’s te beheersen

*Bij een virtuele discussie of advies krijgt u een video van uw discussiepartner te zien, waarna u op zijn vragen en opmerkingen reageert met multiple choice antwoorden. Uw antwoord bepaalt hoe de discussie verder gaat.

Lees meerLees minder

Hoofdstuk 8: Maatschappelijk en milieuwelzijn

AI-systemen hebben de potentie om een aantal van de meest urgente maatschappelijke zorgen te verhelpen, maar er moet wel worden gezorgd dat dit zo milieuvriendelijk mogelijk gebeurt. Zo verbruiken datacenters die AI-berekeningen maken, significante percentages van het totale stroomverbruik van menige provincie. Meer algemeen moeten de gevolgen van de ontwikkeling, de installatie en het gebruik van AI ook vanuit maatschappelijk oogpunt worden beoordeeld, waarbij rekening moet worden gehouden met het effect op instellingen, de democratie en de samenleving als geheel.

Werkvormen:

  • Volg het interactieve videocollege over de toekomst van AI door diverse grote denkers, inclusief milieu-aspecten
  • Doorloop een interactief boek over de maatschappelijke kant van AI, inclusief geschiedkundige ontwikkelingen
  • Als eindcasus discussieert u virtueel* met de Milieubeweging Juinen over de milieu-impact van alle AI-initiatieven tot nu toe 

Na dit hoofdstuk kunt u:

  • De criteria van maatschappelijk en milieuwelzijn formuleren
  • Eigen inzicht en kennis over milieu-aspecten van AI presenteren
  • De opkomst van AI in een breder kader plaatsen
  • De criteria en uw kennis toepassen op een concrete casus

*Bij een virtuele discussie of advies krijgt u een video van uw discussiepartner te zien, waarna u op zijn vragen en opmerkingen reageert met multiple choice antwoorden. Uw antwoord bepaalt hoe de discussie verder gaat.

Lees meerLees minder

Hoofdstuk 9: Verantwoording en controleerbaarheid

Vanwege de invloed die AI heeft op de maatschappij moeten organisaties die dergelijke technologie inzetten, verantwoording afleggen en controleerbaar opereren. Controleerbaarheid houdt in dat het mogelijk wordt gemaakt de algoritmen, gegevens en ontwerpprocessen te controleren. Alle beslissingen en te maken afwegingen moeten worden onderbouwd en goed worden gedocumenteerd. De beslisser moet aansprakelijk zijn voor de manier waarop de passende afweging wordt gemaakt, en moet de gepastheid van de genomen beslissing voortdurend controleren.

Werkvormen:

  • Volg het interactieve video-college over mogelijkheden voor verantwoording afleggen
  • Maak een kennisclip over een stelling gebaseerd op de stof uit het video-college
  • Als eindcasus verdedigt u in een virtuele* persconferentie de “Juinense Bank van Lening” tegen maatschappelijke ophef in de gemeente over de inzet van AI

Na dit hoofdstuk kunt u:

  • De vereisten van verantwoording en controleerbaarheid formuleren
  • Eigen inzicht en kennis over verantwoordelijkheid rondom AI presenteren
  • De criteria en uw kennis toepassen op een concrete casus 

*Bij een virtuele discussie of advies krijgt u een video van uw discussiepartner te zien, waarna u op zijn vragen en opmerkingen reageert met multiple choice antwoorden. Uw antwoord bepaalt hoe de discussie verder gaat.

Lees meerLees minder

Hoofdstuk 10: Eindcasus en afronding

In dit laatste hoofdstuk worden de bevindingen van de eerdere hoofdstukken bijeengebracht en synthetiseert u de opgedane kennis en kunde in een uniek online eindspel.

In dit spel – dat de finale vormt van de wereldwijde competitie – moet u ter plekke beoordelingen uitvoeren en zo voorkomen dat Juinen naast de prijzen grijpt. Over de inhoud van het spel worden vooraf geen mededelingen gedaan, maar wel kunt u met goed speuren diverse hints ontdekken die u een voorsprong in het spel zullen geven.

Lees meerLees minder

Onderlinge discussie

Gedurende de looptijd van de leergang hebben deelnemers toegang tot een discussieforum waar zij te maken modules en opdrachten kunnen bespreken met elkaar en tips kunnen uitwisselen. Gebruik van een forum biedt mogelijkheden voor asynchroon overleg, dit sluit perfect aan bij eigentijdwerken.

Nu inschrijven Naar de overzichtspagina
advies-big