Een klant wil weten waarom hij niet is teruggebeld. Een burger maakt bezwaar tegen een besluit. Een betrokkene vraagt om inzage in zijn persoonsgegevens. Vroeger een informele mail, nu dertig pagina’s imposant taalgebruik en de eis om op ieder punt afzonderlijk te reageren.
Soms klopt de juridische onderbouwing. Soms is zij irrelevant. En soms bestaat de aangehaalde uitspraak helemaal niet. Of wordt een Amerikaans rechtsbeginsel gebruikt of een verouderde wettelijke regeling.
Voor degene die de tekst maakt, kost die uitbreiding nauwelijks extra moeite. Voor de organisatie die hem ontvangt, kan hij uren extra werk betekenen. Dat verschijnsel wordt steeds vaker aangeduid als AI-slop.
Wat is AI-slop?
De term slop wordt breder gebruikt voor grote hoeveelheden met AI geproduceerde inhoud met weinig waarde. In organisaties zien we een specifieke variant ontstaan. Generatieve AI wordt gebruikt om klachten, bezwaren, verzoeken, claims en andere correspondentie uit te breiden tot teksten die omvangrijk en overtuigend ogen, maar waarvan niet ieder onderdeel evenveel inhoudelijke waarde heeft.
Niet iedere AI-tekst is dus slop. Iemand kan ChatGPT prima gebruiken om een rommelige klacht terug te brengen tot één heldere pagina. Of via Claude uitvinden wat zijn juridische positie is, en wat de handigste manier is om zijn recht te halen. En andersom kan iemand zonder AI twintig pagina’s schrijven waarin hetzelfde argument steeds opnieuw terugkomt, of waarin de kern ondersneeuwt in irrelevante uitweidingen.
Het probleem zit niet in het enkele gebruik van AI. Het ontstaat wanneer het heel goedkoop wordt om méér tekst te produceren, terwijl de afzender geen moeite doet om daar een scherp verhaal van te maken. Het gaat dus niet per se om de fouten of hallucinaties in zo’n stuk; ook een foutloos verhaal van dertig pagina’s kan slop zijn. De reden dat het problematisch is, is dat nu de klachtbehandelaar moet uitzoeken of wat hier nu eigenlijk het punt is, of de onderbouwing relevant is en wat er eigenlijk van de organisatie wordt gevraagd.
Van één probleem naar een compleet juridisch dossier
Waarom krijgen we slop? Stel iemand heeft herhaaldelijk gevraagd om te worden teruggebeld en krijgt geen reactie. Daarover wil hij een klacht indienen. Een taalmodel kan voor hem snel een uitvoerige brief maken. Het kan verschillende beginselen van behoorlijk bestuur noemen, mogelijke grondrechten bespreken, een schadevergoeding suggereren en jurisprudentie toevoegen. Daarna kan de gebruiker vragen om de brief “juridisch sterker” te maken, nog meer bronnen toe te voegen of alvast een reactie te schrijven voor het geval de klacht wordt afgewezen.
De oorspronkelijke gebeurtenis is nog steeds dezelfde: iemand werd niet teruggebeld.
Maar aan de ontvangende kant ligt inmiddels een document waarin veel meer lijkt te moeten gebeuren. Welke juridische punten zijn relevant? Kloppen de aangehaalde uitspraken? Hoe reageren we inhoudelijk? Is er werkelijk een schadeclaim? Moet op iedere juridische kwalificatie afzonderlijk worden gereageerd?
En zodra de organisatie antwoordt, kan een even uitgebreide vervolgreactie binnen enkele minuten klaarstaan.
Dat is de praktische verandering die generatieve AI veroorzaakt. Het kost nauwelijks meer moeite om vijf argumenten te produceren dan één. Maar voor degene die ze ontvangt, geldt dat niet vanzelfsprekend.
Wie merkt dit?
AI-slop is daarom allang niet alleen een kwestie voor juridische afdelingen, of alleen voor overheidsinstanties. Een kleine greep van plekken waar regelmatig geklaagd wordt over de toename aan AI-slop:
Het probleem zit aan twee kanten van dezelfde tekst
Voor de schrijver is generatieve AI vaak juist nuttig. Een taalmodel helpt om gedachten te ordenen, moeilijke taal te formuleren en een formele brief te maken. Mensen die vroeger moeite hadden om hun probleem goed onder woorden te brengen, hebben daar nu een laagdrempelig hulpmiddel voor.
Aan de ontvangende kant ziet dezelfde ontwikkeling er anders uit. Daar moet iemand nog steeds vaststellen welke onderdelen van de tekst werkelijk van belang zijn. Een verwijzing naar vijf uitspraken kost de schrijver vrijwel niets. De behandelaar kan niet zonder meer aannemen dat ze bestaan, relevant zijn of zeggen wat er wordt beweerd.
Geen technologisch curiosum
Wie AI-slop alleen ziet als “mensen die irritante ChatGPT-brieven sturen”, mist daarom een groter organisatievraagstuk.
Wat gebeurt er met een klachtproces als de hoeveelheid tekst per klacht sterk stijgt? Moet iedere genoemde rechtsgrond apart worden behandeld? Hoe ga je om met twijfelachtige bronnen? En kun je uit een zeer juridisch geformuleerd stuk eigenlijk nog afleiden wat de indiener zelf begrijpt en wil?
Dat zijn geen vragen over de techniek achter ChatGPT. Het zijn vragen over werkprocessen, capaciteit en zorgvuldige behandeling.
En die zullen relevanter worden naarmate het normaler wordt om AI te gebruiken bij formele correspondentie. Daarom is de vraag niet: hoe herkennen we dat iemand AI heeft gebruikt? De interessantere vraag is: wat verandert AI aan het stuk dat wij binnenkrijgen, en aan het werk dat wij vervolgens moeten doen?
In de volgende blogs in deze reeks kijken we achtereenvolgens naar waarom mensen AI op deze manier inzetten, waarom oplossingen als AI-detectie, verboden en woordlimieten maar beperkt helpen, en hoe organisaties zulke stukken wél werkbaar kunnen behandelen.
AI-slop webinar en trainingen
Op 27 oktober en 3 november verzorgt Arnoud Engelfriet een interactief webinar over AI-slop in je dossier. Je maakt kennis met het Vier V's-model: Volume, Verjuridisering, Verificatie en Vervreemding. Voor elk probleemtype krijg je een concrete aanpak.
De inhouse middagtraining AI-slop in de organisatie helpt je werkbaar beleid te formuleren en handvatten te ontwikkelen om AI-slop te beheersen.
Advocaten en bedrijfsjuristen leren bij de Studiedag AI in de procespraktijk hoe om te gaan met AI-slop en gehallucineerde bronnen, maar ook deepfakes, gemanipuleerd bewijs en bias in AI-besluitvorming.
Lees hier het volgende blog uit de reeks.
