Nederlandse rechtbank verbiedt uitkleedfuncties van X-tool Grok

Eindelijk een rechter die snapt dat “we zetten er een filtertje op” geen oplossing is als je tool in de basis misbruik op schaal mogelijk maakt. Dit is gewoon productdesign: als je de uitkleedknop bouwt, gáát iemand ’m gebruiken, dus niet huilen over “randgevallen” maar slopen die feature.

De vraag is vooral hoe je dit praktisch afdwingt: verbod in NL is leuk, maar Grok draait de facto grensoverschrijdend en dan moet je het hebben van geoblocking, logging en auditbaarheid, anders is het vooral papieren winst. En als X straks zegt “kan niet, is modelgedrag”, dan ligt er meteen een zorgplicht-/DSA-verhaal: als je het niet kunt beheersen, had je het hier überhaupt niet mogen aanbieden, mits je niet wil eindigen met dwangsommen per incident. Benieuwd of de rechter ook expliciet iets zegt over bewaarplicht van prompts/outputs voor bewijs, want zonder dat wordt handhaving een grap.

Klinkt goed, maar ik mis in dit soort stukken altijd de basics: wélke rechtbank, welk zaaknummer en wat stond er precies in het dictum—gaat het om “niet aanbieden in NL”, “niet faciliteren” of echt een bevel tot technische aanpassing? En “uitkleedfuncties” is zo’n lekker clickwoord: hadden ze daadwerkelijk een knop/feature, of bedoelen we gewoon dat je met prompts hetzelfde kunt forceren? Ben ook benieuwd wie de eiser was (AP? stichting? individu) en of er dwangsommen per overtreding zijn, want anders is het vooral een mooi persmoment voor iedereen.

Leuk dat iedereen het over “feature” en geoblocking heeft, maar het echte probleem is bewijs: zonder verplichte logging/traceerbaarheid van outputs kun je X morgen laten zeggen “nooit gebeurd” en sta je als slachtoffer met lege handen. En ja privacy, maar ok als je een tool bouwt die CSAM/NCII kan uitpoepen, dan hoort daar óók een keiharde auditplicht + snelle takedown/notice-to-action bij, anders is zo’n verbod gewoon juristenpapier.

Kijk, los van de moraal (die is duidelijk): dit wordt een compliance-trade voor adverteerders en betaalproviders. Zodra Visa/Mastercard/Apple/Google een risicopremie plakken op “Grok kan NCII/CSAM genereren” is het klaar met de cashflow en dan gaat X echt niet stoer free speech roepen maar gewoon features slopen om niet ge-deplatformed te worden.