Vier soorten AI-slop: waar ontstaat het extra werk eigenlijk?

Een AI-tekst van twintig pagina’s kan om heel verschillende redenen lastig zijn. Soms is het vooral veel tekst. Soms is de kern verstopt geraakt onder juridische taal. Soms kost vooral de controle van bronnen tijd. En soms weet je na lezing nog steeds niet goed wat de indiener nu eigenlijk bedoelt.

In de vorige blogs ging het over AI-slop als verschijnsel, over waarom mensen generatieve AI gebruiken bij klachten en bezwaren en over de beperkingen van oplossingen als detectie, verboden en woordlimieten. Nu kijken we naar de praktische vraag: waar zit het extra werk nu precies?

Die problemen vragen niet om dezelfde reactie. Daarom maken wij onderscheid tussen vier terugkerende vormen: Volume, Verjuridisering, Verificatie en Vervreemding.

1. Volume: veel tekst is niet hetzelfde als veel punten

De meest zichtbare vorm van AI-slop is eenvoudigweg de hoeveelheid: een klacht van twee alinea’s kan met een taalmodel uitgroeien tot tien pagina’s. Dezelfde gebeurtenis komt terug als feitelijke klacht, schending van een beginsel, mensenrechtelijke kwestie, aansprakelijkheidsvraag en verzoek om schadevergoeding. Daarna volgt nog een samenvatting en een lijst met eisen.

Dat oogt als veel werk. Maar de eerste vraag moet zijn: hoeveel zelfstandige punten zitten hier eigenlijk in? Tien pagina’s kunnen uiteindelijk over drie concrete gedragingen gaan. Andersom kan een korte brief vijf afzonderlijke kwesties bevatten die allemaal beoordeling vragen.

Bij Volume is het probleem dus niet alleen lengte. Het is dat tekstproductie en inhoudelijke afbakening uit elkaar gaan lopen. De behandelaar moet eerst reconstrueren welke onderdelen werkelijk apart behandeld moeten worden.

2. Verjuridisering: de juridische verpakking wordt groter dan het probleem

Een tweede vorm ontstaat wanneer de concrete gebeurtenis steeds verder naar de achtergrond verdwijnt. Iemand klaagt bijvoorbeeld dat een medewerker niet heeft teruggebeld. In de uiteindelijke brief gaat het vervolgens over zorgvuldigheid, evenredigheid, motivering, rechtszekerheid en mogelijk zelfs artikel 6 EVRM.

Daarmee is niet gezegd dat juridische kwalificaties onbelangrijk zijn. Soms bepalen ze juist de uitkomst. Het probleem ontstaat wanneer de juridische formulering het moeilijker maakt om te zien wat er feitelijk is gebeurd en wat de oplossing moet zijn.

Dat kan ook intern gevolgen hebben. Een praktische klacht die bij een teamleider had kunnen worden opgelost, belandt door de juridische vorm misschien direct bij juridische zaken. Daar wordt vervolgens eerst het hele juridische betoog onderzocht, terwijl de oorspronkelijke vraag nog steeds is waarom niemand heeft teruggebeld.

Bij Verjuridisering is daarom de centrale vraag: welke concrete gebeurtenis of beslissing zit achter deze juridische taal?

3. Verificatie: een bron noemen is goedkoop, controleren niet

Generatieve AI kan zonder moeite wetten, uitspraken, onderzoeken en andere bronnen noemen. Voor de ontvanger begint het werk daarna pas. Bestaat de genoemde uitspraak daadwerkelijk? Staat daarin wat de indiener beweert? Ging de zaak over een vergelijkbare situatie? Is de regel nog actueel? En maakt die bron voor deze klacht of dit bezwaar überhaupt verschil?

Dat laatste wordt gemakkelijk vergeten. Een behandelaar kan veel tijd verliezen aan de vraag of een bepaalde uitspraak precies zo luidt als in de brief wordt gesteld, terwijl die uitspraak ook bij volledige juistheid niets zou veranderen aan de beoordeling.

De controle zou daarom niet moeten beginnen bij “klopt deze bron?”, maar bij: “Als deze bewering klopt, kan dat onze beoordeling veranderen?” Pas als het antwoord daarop ja is, wordt grondige verificatie echt belangrijk.

Daarmee is Verificatie breder dan alleen het opsporen van hallucinaties. Een volledig bestaande maar irrelevante uitspraak kan net zo goed onnodig behandelwerk veroorzaken.

4. Vervreemding: van wie is deze brief eigenlijk nog?

De vierde vorm is minder zichtbaar. Vroeger gaf een brief vaak allerlei signalen over degene die hem schreef. Woordkeuze, structuur, fouten, juridische kennis en toon vertelden iets over wat iemand begreep en waar hij precies mee zat. Generatieve AI maakt zulke signalen minder betrouwbaar.

Een juridisch zeer professioneel ogende brief kan afkomstig zijn van iemand die nauwelijks begrijpt wat erin staat. Een scherpe schadeclaim hoeft niet te betekenen dat iemand vooral geld wil. Misschien vroeg diegene simpelweg: “Wat kan ik eisen als ze mij al drie keer niet hebben teruggebeld?”

Dat betekent niet dat de brief niet serieus genomen hoeft te worden. Wel dat de tekst soms minder zekerheid geeft over wat de persoon zelf bedoelt, begrijpt of uiteindelijk wil bereiken.

Bij Vervreemding is daarom de vraag: hebben we uit deze tekst voldoende betrouwbaar begrepen wat de indiener van ons vraagt?

Soms is het antwoord gewoon ja. Soms moet je terug naar de persoon achter de brief.

Vier verschillende behandelproblemen

De vier V’s zijn geen vier soorten klagers en ook geen vier manieren waarop mensen AI gebruiken. Het zijn vier soorten problemen die een tekst voor de ontvanger kan veroorzaken.

  • Volume: Hoeveel zelfstandige behandelpunten zitten hier werkelijk in?

  • Verjuridisering: Welke concrete gebeurtenis of vraag zit achter de juridische formulering?

  • Verificatie: Welke beweringen of bronnen kunnen daadwerkelijk verschil maken?

  • Vervreemding: Begrijpen we voldoende wat de indiener zelf bedoelt en wil?

Een stuk kan bovendien op meerdere dimensies tegelijk problematisch zijn. Een klacht kan twintig pagina’s lang zijn, sterk juridiseren, twijfelachtige jurisprudentie bevatten én weinig duidelijk maken over de gewenste oplossing.

Juist daarom helpt het weinig om alles onder het etiket AI-slop te schuiven en daar één algemene maatregel tegenover te zetten.

De nuttigere vraag is steeds: welk probleem veroorzaakt deze tekst voor de behandeling?

Pas daarna komt de vraag wat je ermee moet doen.

In het volgende en laatste deel van deze reeks draaien we het model daarom om. Volume vraagt om clusteren, Verjuridisering om terugvertalen, Verificatie om selectief controleren en Vervreemding om terugleggen. Dan wordt AI-slop niet alleen een herkenbaar probleem, maar ook een behandelbaar werkproces.

Van herkennen naar handelen

Op 27 oktober en 3 november verzorgt Arnoud Engelfriet een interactief webinar over AI-slop in je dossier. Je maakt kennis met het Vier V's-model: Volume, Verjuridisering, Verificatie en Vervreemding. Voor elk probleemtype krijg je een concrete aanpak.

Wil je jouw hele team in één keer meenemen in het omgaan met AI-slop? We bieden ook een inhouse training aan. Tijdens onze 'AI-slop in de organisatie training' leren we jouw team hoe ze praktisch omgaan met lange AI-gegenereerde klachten, bezwaren en verzoeken.

Ben jij jurist of advocaat en kom jij steeds vaker AI tegen in jouw dossiers? Denk aan een processtuk met verzonnen jurisprudentie, gemanipuleerd beeld als bewijs of een besluit dat mede door AI tot stand kwam. Tijdens onze studiedag AI in de procespraktijk ontdek je welke regels gelden en hoe om te gaan met AI-slop en gehallucineerde bronnen, deepfakes, gemanipuleerd bewijs en bias in AI-besluitvorming.


Bekijk hier alle blogs uit de blogreeks:

1. AI-slop in de organisatie: wanneer één klacht ineens dertig pagina’s werk wordt

2. Waarom sturen mensen eigenlijk zes pagina’s ChatGPT-brieven op?

3. Kunnen we AI-slop niet gewoon verbieden, detecteren of begrenzen?

4. Vier soorten AI-slop: waar ontstaat het extra werk eigenlijk?

5. Dertig pagina’s binnen: wat moet je nu daadwerkelijk behandelen?

Terug naar overzicht