Advocaten krijgen waarschuwing en moeten op cursus na verkeerd gebruik AI

Kijk, als je als advocaat ChatGPT je jurisprudentie laat “zoeken” en je checkt die verwijzingen niet even zelf, dan ben je gewoon aan het gokken met iemands zaak alsof het een memecoin is. Cursusje is leuk maar eigenlijk moet de rechter dit meteen afstraffen met kostenveroordeling, dan leren ze snel dat AI geen gratis due diligence is.

In mijn tijd bij de KLM had je checklists en cross-checks omdat één slordigheid meteen gevolgen heeft, en dat geldt hier net zo: als je als advocaat met niet-bestaande uitspraken aankomt, dan ben je niet “innovatief” bezig maar gewoon je vak aan het verwaarlozen. Die cursus is prima, maar ik mis vooral dat rechters en de Orde veel harder gaan letten op iets anders: welke cliëntgegevens er klakkeloos in zo’n Amerikaanse tool worden geplakt, want dát is straks het echte schandaal als er een keer iets lekt en iedereen ineens doet alsof niemand het zag aankomen. En eerlijk, als je je bronnen niet eens kunt verifiëren, wat zit je dan eigenlijk te doen in de rechtszaal behalve tekst uitspugen met een toga aan??

cursusje is symptoombestrijding, het probleem is dat die hele juridische workflow geen “unit tests” heeft: als je een uitspraak citeert zou je verplicht het ECLI/bronlink als bewijsstuk moeten uploaden en de rechterlijke systemen kunnen dat realtime valideren, maar ja we doen nog steeds copy-paste in pdf’s alsof 2009 nooit is geüpdatet. AI is prima als autocomplete, maar zonder hard checks is het gewoon hallucinatie-as-a-service en dan ben je als advocaat aansprakelijk, punt.

Cursusje voor advocaten prima, maar waar blijft de *echte* stok: verplicht in je processtuk aangeven of je generatieve AI hebt gebruikt en welke checks je hebt gedaan, net zoals je nu al belangenconflicten en bijlagen netjes moet melden. En ja, met de EU AI Act (die er nu eenmaal is) gaan “hoog-risico” toepassingen in de juridische keten echt meer audit/traceability krijgen, dus dit is niet alleen een tuchtrecht-dingetje maar gewoon compliance die eraan komt. Het is bizar dat je wel een typefout in een dagvaarding drie keer laat corrigeren, maar een niet-bestaande uitspraak blijkbaar door de controle glipt…

het probleem is niet dat AI “foutjes” maakt, het probleem is dat de proces-infrastructuur nog steeds toelaat dat iemand met een paar plausibel klinkende alinea’s de rechtbank inloopt zonder harde bronverificatie, en dan ben je dus aan het varen op mist. de oplossing is: verplicht bij elk jurisprudentie-citaat meteen het ECLI/uitspraak als bijlage en laat de griffie/rechterlijke systemen dat automatisch valideren, plus tuchtrechtelijk gewoon: onjuiste bron = stuk terug en kosten voor de advocaat, dan komt het draagvlak voor “AI als tool” vanzelf weer terug.

Ach ja, in de supermarkt als ik de verkeerde prijs op een sticker plak krijg ik al gezeik, maar een advocaat kan blijkbaar met nep-uitspraken aankomen en dan “op cursus”... laat ze die cliënt dan ook gewoon korting geven op de rekening, want die zit met de stress.

Die cursus is leuk, maar het echte probleem is dat “AI gebruiken” nu één grijs gebied is: de één laat ’m een samenvatting maken, de ander laat ’m bronnen verzinnen en plakt het door, en niemand ziet het verschil tot het misgaat. Maak gewoon een simpele standaard in de advocatuur: wat mag je ermee doen, wat moet je altijd zelf in het originele document checken, en vooral: leg vast in je dossier hoe je tot je bronnen kwam, anders is het straks weer achteraf vingerwijzen met nul traceerbaarheid.