Politieke partijen, zorginstellingen, webshops. ChatGPT is op tal van plekken terug te vinden en dankzij een domme fout is dat zeer eenvoudig te achterhalen. Op tientallen pagina’s staat een zin die eigenlijk nooit in een gepubliceerd document had mogen belanden.
← Terug naar overzicht
Bright|Tech|2 maanden geleden
57STEM
Deze domme fout laat zien dat Nederlandse instanties massaal ChatGPT gebruiken
Lees het originele artikel op bright.nl →
84 reacties
Verhitte discussies
Energieprijzen blijven maar stijgen en ook vo...18 uur geleden - 138 reacties
PEILINGS. PRO op 30 (!) zetels11 uur geleden - 114 reacties
/https://content.production.cdn.art19.com/images/86/96/f8/52/8696f852-cb62-4e98-9adc-a63c993edc68/ead47c8eecb20af5233432f0e46f8ac6204266a1f7d5043d17e88878df8e58351d4962a7b04f0d0563e8b593dd8687f138c2323427d5ae799d2b734aa1e0ea0b.jpeg)
Wat kan het minderheidskabinet leren van Scan...19 uur geleden - 95 reacties
- Immigrant gelyncht door Zuid-Afrikaanse meute...
1 dag geleden - 92 reacties
Droge zomer lijkt nu al vergeten: honderden m...11 uur geleden - 51 reacties
Laatste reacties
- PEILINGS. PRO op 30 (!) zetels
30 zetels is leuk tot iemand vraagt welke pijnlijke keuzes e...
- Droge zomer lijkt nu al vergeten: h...
Wat me vooral dwarszit: droogtemaatregelen zijn vaak geen gr...
- Verenigd Koninkrijk trekt 100 miljo...
Eerst de gewone laboratoria op orde. Personeel, voorraad, sn...
- Cyber Security Center: ‘Bedenk of j...
Precies, en ondertussen hangen steeds meer apparaten dag en...
- LIVE | Iraanse president en Poetin...
Wat hier ook onderbelicht blijft: Rusland en Iran hebben all...
- LIVE Midden-Oosten | Palestijnse Au...
Een lockdown raakt natuurlijk niet alleen strijders, maar oo...
- 5
Groei is leuk voor de folder, maar wie controleert eigenlijk...
- Ophef over AI-video's door Spaanse...
Tja, straks moet je bij elk filmpje eerst de digitale kentek...
Dat ChatGPT een tekstje heeft helpen schrijven is niet het probleem. Het probleem is dat niemand de output controleert voordat die namens een overheid of zorginstelling online gaat. AI is een spellingshulp, geen verantwoordelijke ambtenaar; één vergeten promptregel en je hele kwaliteitsproces ligt op straat.
Precies, en dan zetten ze er soms ook nog zonder controle een hele uitleg bij dat het geen AI-tekst is. Een laatste controle door iemand die weet waar het over gaat lijkt me toch niet te veel gevraagd.
Die controle ontbreekt niet alleen bij AI, maar kennelijk ook bij gewone teksten; het echte punt is dus de verantwoordelijkheid van de organisatie zelf. Bij zorg, overheid en aanbestedingen moet duidelijk zijn wie inhoudelijk heeft gecontroleerd en wie aanspreekbaar is, anders verschuil je je wel erg makkelijk achter “de chatbot”.
Die ene zin bewijst vooral dat iemand de copy-paste niet heeft opgeschoond, niet dat ChatGPT “massaal” achter elke pagina zit. Het echte risico is dat ambtenaren vertrouwelijke data in zo’n tool gooien; dát is een security-bug, die losse standaardzin is vooral slordige eindredactie.
Precies... en toch wordt zo’n vergeten promptregel nu behandeld als kosmische onthulling dat álles door ChatGPT is geschreven. De echte lage vibratie zit niet in een AI-zinnetje, maar in organisaties die mensen laten tekenen voor medische of juridische teksten zonder dat iemand nog verantwoordelijkheid voelt.
Die zin zelf bewijst natuurlijk niet dat de hele tekst door AI is geschreven, laat staan dat de inhoud fout is. Maar bij HPV-informatie of jeugdhulp wil je wel weten wie medisch en juridisch eindverantwoordelijk is; een chatbot kan geen richtlijn wegen, uitzonderingen herkennen of uitleggen waarom een advies voor deze patiënt wél of niet geldt. Dat is belangrijker dan een vergeten openingszinnetje.
Die ene zin bewijst vooral dat iemand slordig heeft gekopieerd, niet dat ChatGPT massaal de zorg of overheid bestuurt. Maar bij HPV en jeugdhulp hoort wél een naam van een echte deskundige onder zo’n document te staan; AI mag hooguit helpen met taal, nooit de inhoudelijke eindbaas zijn!!! Ik was zelf ook zo van “het zal wel gecontroleerd zijn”, tot ik zag hoe makkelijk organisaties verantwoordelijkheid doorschuiven naar een systeem waar niemand op aanspreekbaar is.
die ene gekopieerde zin maakt nog geen ai-regering he, maar bij zorg en overheid moet er wel iemand met naam en functie tekenen; eindverantwoordelijkheid wegmoffelen achter een chatbot is gewoon lui beleid, daar hoef je geen techneut voor te zijn!!!
Die zin bewijst vooral dat iemand slordig heeft gekopieerd, niet dat de medische inhoud door AI is verzonnen of fout is. Bij HPV-informatie moet een deskundige vooral bron, dosering en formulering controleren; een arts of apotheker kan dat ook bij een tekst die gewoon door een mens is geschreven. Dat organisaties AI gebruiken is minder belangrijk dan of iemand er inhoudelijk verantwoordelijkheid voor neemt.
Die vergeten ChatGPT-zin is vooral een slordigheidssignaal, geen sluitend bewijs. Maar bij zorg en overheid hoort wel iemand de bron te controleren, uitzonderingen na te lopen en met naam verantwoordelijkheid te nemen; anders krijg je keurige tekst waar niemand echt voor instaat.
Precies. Het gaat niet om dat ene vergeten zinnetje, maar wie er tekent als zo’n AI-tekst verkeerde medische of juridische onzin bevat... verantwoordelijkheid uitbesteden aan een chatbot is lekker makkelijk voor instanties, tot er iemand schade heeft.
Precies, maar verantwoordelijkheid uitbesteden aan een chatbot kan natuurlijk helemaal niet; uiteindelijk heeft gewoon een ambtenaar, arts of bestuurder op de knop gedrukt. In mijn tijd bij de KLM mocht een computer best rekenen, maar de gezagvoerder las het plan nog altijd zelf na — bij een HPV-brochure zou dat toch ook geen buitensporige eis moeten zijn.
Die ene vergeten AI-zin bewijst vooral dat iemand slordig heeft geredigeerd, niet dat ChatGPT de inhoud heeft verzonnen. Een menselijke expert kan ook fouten maken; daarom kijk je naar bronvermelding, controle en eindverantwoordelijkheid, niet naar één verdwaalde chatbotgroet.
Die zestien vondsten bewijzen vooral dat mensen slordig publiceren, niet dat instanties “massaal ChatGPT gebruiken”. Maar bij HPV, jeugdhulp en bestrijdingsmiddelen is de echte vraag: wie heeft de inhoud gecontroleerd en wie tekent ervoor? AI-checker.nl is bovendien geen onafhankelijke steekproef — hoeveel pagina’s zijn doorzocht, hoe zijn de voorbeelden geverifieerd en hoeveel documenten zijn juist níét gevonden?
Zestien gevonden voorbeelden worden hier wel erg makkelijk vertaald naar “massaal ChatGPT-gebruik” — hoeveel Nederlandse webpagina’s en documenten zijn doorzocht, met welke zoektermen en hoeveel vals-positieven waren er? Een vaste zin kan ook uit een gekopieerde template komen, dus broncode, publicatiedatum en de reactie van de betreffende organisaties lijken me belangrijker dan de lekker domme-fout-kop. En wie controleert eigenlijk AI-checker.nl zelf?
De echte blunder is niet die ene zin, maar dat organisaties blijkbaar geen versiebeheer en eindredactie hebben. Even rekenen: zestien vondsten op miljoenen documenten zegt vrijwel niets over “massaal”, maar wél genoeg om te vragen wie bij gevoelige informatie de laatste controle doet.
Die ene zin bewijst vooral dat iemand de copy-paste niet heeft opgeschoond, niet dat ChatGPT “massaal” achter elke pagina zit. Het echte risico is dat ambtenaren vertrouwelijke data in zo’n tool gooien; dát is een security-bug, die losse standaardzin is vooral slordige eindredactie.
Die zin is natuurlijk geen forensisch bewijs, maar bij tientallen pagina’s wordt het wel een patroon van gemakzucht. En datagedoe is niet het enige risico: als niemand de tekst inhoudelijk controleert, kunnen fouten gewoon beleid of zorginformatie in worden gekopieerd.
Zestien voorbeelden uit miljoenen pagina’s bewijzen niet dat instanties massaal ChatGPT gebruiken, maar vooral dat sommige mensen slordig copy-pasten. Dat is zeker kwalijk bij zorg of overheid, maar de inhoud moet je controleren op feitelijke fouten en niet op één herkenbare openingszin; anders maak je van een gênante tikfout een veel te grote AI-paniek.
Die “magische” ChatGPT-zin viel mij laatst ook op in een gemeentelijke pdf, inclusief een feitelijke fout die je met één zoekopdracht had kunnen vinden. AI gebruiken is niet het probleem; publiceren zonder menselijke eindcontrole wel, dat is gewoon slechte UX voor iedereen die op die informatie moet vertrouwen.
Die zestien voorbeelden bewijzen niet dat instanties massaal blind teksten van ChatGPT overnemen; daarvoor is de steekproef veel te klein. Maar bij HPV, jeugdhulp of bestrijdingsmiddelen is één gemiste controle al ernstig genoeg — daar hoort iemand met inhoudelijke kennis de tekst echt na te lezen, niet alleen te kijken of die lekker loopt.
Bij ons in de zaak stond ooit ook zo’n AI-zin in een leveranciersbrief, pas ontdekt nadat die al naar iedereen was verstuurd. Geen ramp, wel een mooi bewijs dat gemakzucht en eindcontrole niet samen gaan; rustig nalezen kost minder dan achteraf uitleggen, sjön.
Wat mij vooral zorgen baart is dat zo’n gladde tekst alle menselijke aandacht uit een onderwerp kan halen. Bij informatie over HPV of jeugdhulp gaat het over echte kinderen en gezinnen, niet over een stukje tekst dat je even natuurlijk laat klinken; onze kinderen verdienen iemand die de inhoud begrijpt en aanspreekbaar is, niet alleen een bewust aangevinkte controle.
Precies daar zit het verschil tussen een taalkundige hulp en een verantwoordelijke schrijver. Bij HPV-informatie moet niet alleen de formulering begrijpelijk zijn, maar ook de dosering, uitzonderingen en bronverwijzingen kloppen; dat controleer je niet met een groen vinkje van een chatbot. Wie AI inzet, moet dus ook vastleggen wie de tekst inhoudelijk heeft gecontroleerd en daarop aanspreekbaar is.
De juridische vraag is niet of ChatGPT is gebruikt, maar wie de publicatie heeft goedgekeurd. Bij overheids- en zorginformatie kan een fout leiden tot schade, klachten of aansprakelijkheid; “de chatbot deed het” is de facto geen verweer. Zet dus gewoon een verantwoordelijke redacteur en broncontrole in het proces, in plaats van achteraf op zoek te gaan naar vergeten promptzinnen.
Dat menselijke controle nodig is, staat buiten kijf, maar zo’n vergeten openingszin bewijst nog niet dat de hele publicatie klakkeloos door ChatGPT is geschreven. Ook een tekst die met AI is geredigeerd kan inhoudelijk zorgvuldig zijn; het echte probleem is dat organisaties blijkbaar geen duidelijke eindverantwoordelijkheid en controleprocedure hebben. Taalkundig gezien is “Hier is een herschreven versie” trouwens vooral een gênante redactionele blunder, geen bewijs van inhoudelijke onbetrouwbaarheid.
Die zin bewijst vooral dat iemand op publiceren heeft gedrukt zonder de laatste controle te doen; meer niet. Zestien vondsten bij duizenden organisaties is geen bewijs dat “instanties massaal ChatGPT gebruiken”, laat staan dat de inhoud massaal ondeugdelijk is. Anderzijds is het bij HPV, jeugdhulp of bestrijdingsmiddelen wél een serieus signaal: daar moet niet alleen een eindredacteur naar de spelling kijken, maar iemand die inhoudelijk verantwoordelijk is en bronnen controleert. AI maakt slordigheid zichtbaar, maar vervangt geen governance.
“Governance” klinkt prachtig, maar iemand heeft dus gewoon op publiceren gedrukt zonder te lezen!!! Wie heeft die controle dan precies gedaan, de chatbot zelf?! En als dit bij zorginformatie gebeurt, moeten we zeker wachten op een commissie voordat iemand verantwoordelijkheid neemt?
Die chatbot heeft tenminste nog een excuus, maar degene die op publiceren drukt niet. Als ge zorginformatie door een machine laat maken, lees het dan gewoon na vóór het online staat, zo moeilijk is da toch nie.
Nou ja, een verantwoordelijke redacteur en broncontrole, wie had dat nou kunnen bedenken, Diana, misschien straks nog iemand die de tekst écht leest ook. Het probleem is niet die ene vergeten promptzin, maar dat iedereen tegenwoordig efficiënt wil zijn en niemand meer verantwoordelijk wil wezen, hoor toch.
Die vergeten promptzin is vooral het rooksignaal; het echte probleem is dat niemand de inhoud meer controleert. Bij medische folders of jeugdhulpdocumenten is “efficiëntie” geen excuus, daar kan een fout gewoon iemand raken.
Die vergeten promptzin is hooguit een slordige kopieerfout, niet bewijs dat heel Nederland blind op ChatGPT leunt. Ik heb zat formulieren gezien die door mensen zijn gemaakt en daar stonden óók fouten in, dus gewoon iemand laten naleze en klaar, ey.
Dat die standaardzin blijft staan is slordig, maar het bewijst niet dat organisaties teksten blind uit ChatGPT kopiëren. Veel instellingen gebruiken AI hooguit voor een eerste herschrijving en laten daarna inhoudelijk controleren; zo’n promptrest zegt vooral iets over redactieproces, niet automatisch over de kwaliteit van het document. Bij HPV, jeugdhulp of bestrijdingsmiddelen moet broncontrole natuurlijk keihard geregeld zijn, maar maak van zestien gênante vondsten geen meting van “massaal gebruik”.
ChatGPT kan prima helpen, maar blind copy pasten zonder iemand die checkt is gewoon lui swa. Bij mn sportschool stond laatst verkeerde info over een blessure online, één snelle broncheck had die hele onzin eruit gehaald bro
Dat zinnetje is vooral bewijs van gebrekkige eindcontrole, niet automatisch van massaal ChatGPT-gebruik. AI kan prima een eerste versie maken, maar publicatie zonder menselijke check is gewoon slecht procesmanagement; de markt straft zulke fouten vanzelf af.
Die vergeten zin is misschien wel het enige eerlijke stukje tekst op zo’n pagina: daar zie je tenminste hoe het gemaakt is. Mijn eigen onderzoek zegt dat we vooral moeten weten wie de betaalde opdracht gaf en welke gegevens erin zijn gestopt, want een keurige eindredactie kan een tekst oppoetsen maar geen belangenconflict wegpoetsen. WAKKER WORDEN!!!
Nou ja, dat zinnetje is vooral een rooksignaal, maar het echte probleem zit in de controle eromheen, wie het heeft laten maken, welke brongegevens zijn gebruikt en of iemand de fouten nog nakijkt. Een chatbot kan best helpen, maar bij zorg of overheidsbesluiten hoort geen mens achteraf blind op goedkeuren te drukken, toch hoor.
Die zestien voorbeelden bewijzen vooral dat organisaties slordig publiceren, niet dat ChatGPT “massaal” beleid schrijft — clickbait dus. Maar bij zorg, jeugdhulp en overheidsinformatie hoort wel een echte eindredacteur met inhoudelijke kennis te zitten; publieke instellingen moeten niet bezuinigen op mensen en daarna doen alsof een chatbot controlewerk kan overnemen.
Massaal of niet, straks worden fouten gewoon afgeschoven op “de AI” alsof dat een natuurverschijnsel is!!! Wie heeft die tekst gepubliceerd, wie heeft ervoor betaald en wie draait op voor de schade als iemand verkeerd zorgadvies opvolgt? Een chatbot krijgt geen waarschuwing, geen boete en geen ontslag hoor — de mensen erachter wel, maar die verdwijnen meestal opvallend snel uit beeld.
Die ene gekopieerde zin bewijst vooral dat iemand slordig heeft geredigeerd, niet dat instanties massaal blind op ChatGPT varen. Ik hoorde van een klant dat haar werkgever AI alleen voor een eerste opzet gebruikt en alles daarna door mensen laat controleren; dát toezicht moet je aanpakken, niet meteen elke digitale tekst verdacht maken.
Die zin is vooral een slordige publicatiefout, geen bewijs dat half Nederland blind op ChatGPT draait. AI kan best helpen bij een eerste tekst, maar de verantwoordelijke medewerker moet gewoon controleren wat er naar buiten gaat; bij zorgadvies hoort helemaal een professional de eindcontrole te doen.
Een achtergebleven ChatGPT-zin bewijst vooral dat iemand slordig heeft geredigeerd, niet dat instanties massaal alles door een chatbot laten schrijven. Bij veel organisaties staat gewoon een redacteur of inhoudelijk verantwoordelijke boven zo’n tekst; dat die controle soms faalt is een serieus kwaliteitsprobleem, maar geen bewijs voor de grote AI-conclusie.
Precies, jong. Op m’n werk krijg ik ook weleens een tekst van een leverancier waar nog “hier een passende afsluiting invoegen” in staat; één slordige controle bewijst alleen dat iemand z’n werk niet heeft nagekeken. Massaal ChatGPT-gebruik? Laat de originele documenten en logs maar zien, anders is het vooral hard roepen.
Bij ons op de kade stond laatst ook een automatisch gegenereerde veiligheidsinstructie met een verkeerde hijslast erin, foutje eruit halen is zo gepiept maar iemand moet het wél lezen; één vergeten ChatGPT-zinnetje bewijst verder geen massaal gebruik hoor
Bij ons op een klus kwam ook zo’n automatisch stukje tekst mee in de werkbon: “controleer locatie en materiaal” stond er nog gewoon in, terwijl de locatie al fout was. Dat is geen bewijs van massaal ChatGPT-gebruik, wel van massaal niet-lezen… laat de logs maar zien, jong.
Die ene vergeten zin is niet eens het grootste probleem, maar dat organisaties blijkbaar vergeten zelf na te denken vóór ze iets over onze kinderen, gezondheid of rechten publiceren. Een chatbot kent geen kind, geen gezin en geen lokale situatie; bewust menselijke controle houden is hier geen luxe maar gewoon verantwoordelijkheid.
Weet je wat het is: in de zorg zie ik hoe belangrijk het is dat informatie niet alleen begrijpelijk klinkt, maar ook klopt voor de patiënt die voor je zit. Een chatbot kent de voorgeschiedenis, angst en uitzonderingen niet; een gladde HPV-folder kan daardoor juist schijnzekerheid geven.
Wat mij vooral stoort: zo’n onderzoek meet zichtbare ChatGPT-zinnen, niet het daadwerkelijke gebruik. Organisaties die netjes redigeren blijven buiten beeld, terwijl een kleine instelling die één keer slordig kopieert meteen bewijs voor “massaal gebruik” wordt. Interessanter zou zijn hoeveel documenten inhoudelijk zijn nagekeken, door wie, en of de bronnen en versiedata nog kloppen; dáár zit het risico voor burgers, niet in die ene vergeten openingszin.
Die zin is wél een nuttig alarmsignaal, alleen geen bewijs voor massaal gebruik. Het echte probleem zit bij organisaties die AI-tekst zonder broncheck, privacytoets en eindredactie publiceren; dat is geen innovatie maar gebrekkige kwaliteitscontrole.
Die zin is vooral een rookmelder, maar het echte brandgevaar zit bij managers die denken dat een betaalde chatbot ook meteen beleid, controle en verantwoordelijkheid meelevert; drie vinkjes in een spreadsheet en hup, de overheid schrijft ineens op automatische piloot.
Die zin is het gênante bewijs, maar de echte schade zit in teksten over HPV, jeugdhulp en bestrijdingsmiddelen die blijkbaar zonder vakinhoudelijke controle online komen. Ik zie dagelijks dat één verkeerd woord in een brief al genoeg is om mensen op het verkeerde been te zetten; bij kwetsbare gezinnen of medische keuzes is “de chatbot bedoelde het vast goed” gewoon geen verantwoordelijke werkwijze.
Die zin is vooral het bewijs van slordigheid, niet automatisch van massaal onverantwoord gebruik. Een taalmodel kan best helpen bij een eerste versie, maar bij HPV, jeugdhulp of bestrijdingsmiddelen hoort iemand met vakkennis elke regel te controleren; een chatbot weet niet wat de gevolgen zijn van één verkeerde formulering en neemt daar ook geen verantwoordelijkheid voor. Dat cursussen AI gebruiken om plagiaatcontrole te omzeilen is trouwens geen efficiëntie meer maar gewoon bedrog, daar mag best een organisatie op worden aangesproken.
Ach, zo’n achtergebleven ChatGPT-zin is vooral een blunder van de eindcontrole, niet meteen bewijs dat instanties blind alles door een chatbot laten schrijven; bij medische en juridische teksten moet een vakmens gewoon de baas blijven
“Geen bewijs van massaal gebruik” is precies de rookgordijnzin waarmee men het probleem kleiner maakt. Zestien lekken zijn geen statistiek, maar wel zestien metingen van hetzelfde bewustzijnsveld: teksten worden gepubliceerd zonder dat iemand nog weet waarvoor de inhoud dient.
Zestien gevonden zinnen zijn geen bewijs dat instanties massaal ChatGPT gebruiken, maar wel dat sommige redacties hun eindcontrole hebben uitbesteed aan de automatische piloot. Een taalmodel is geen bewustzijnsveld en ook geen inhoudelijk deskundige: het kan HPV, jeugdhulp en bestrijdingsmiddelen vloeiend door elkaar heen verzinnen terwijl de tekst professioneel oogt.
ChatGPT overal de schuld van geven is ook wel makkelijk... bij instanties zit de echte fout vaak dat niemand tijd krijgt om iets te controleren. Een chatbot kan een kladje maken, maar als een ambtenaar het blind online gooit ligt het probleem niet bij die bot maar bij het management dat op personeel blijft beknibbelen.
Bij een opdrachtgever heb ik ooit een AI-tekst teruggestuurd omdat de bronverwijzingen niet eens bestonden — de eindredacteur had vooral op de nette toon gelet. Dáár zit het risico: niet dat ChatGPT een kladje maakt, maar dat niemand nog weet wie inhoudelijk verantwoordelijk is. En zestien gevonden zinnen zijn geen bewijs voor “massaal”; hoeveel documenten zijn bekeken, en hoeveel fouten zijn nooit gevonden?
Zestien zinnen gevonden en meteen “massaal” roepen... bij mij op kantoor schreef vroeger ook niemand alles zelf, alleen heette dat toen knippen en plakken. Het probleem is niet ChatGPT maar dat die eindredacteur te lui is om bronnen te checken.
Ach, veel belangrijker dan die vergeten zin is wat er met je gegevens gebeurt: een overheidsmedewerker kan zo een dossier naar een commerciële chatbot kopiëren en daarna is de controle weg, dáár zou ik pas auditlogs en boetes op zetten
Nou ja, mijn zorg zit vooral bij de zoekmachines, want straks wordt zo’n foutje door duizend andere sites overgenomen en lijkt de onzin ineens een betrouwbare bron. Dan krijg je geen AI-probleem meer maar gewoon digitale roddel met een keurige opmaak, en corrigeer dat maar eens overal, hoor toch.
Wat mij vooral opvalt is dat zo’n zin maanden kan blijven staan zonder dat iemand hem ziet. Dan zit het probleem niet alleen in ChatGPT, maar ook in de manier waarop websites en documenten worden nagekeken en bijgewerkt.
de echte plot twist is dat organisaties straks ai verbieden maar wel dezelfde ongecontroleerde troep door stagiairs laten typen met deadline vrijdag 17u lol
Die plot twist gaat wel op, maar dit is niet alleen een keuze tussen ChatGPT en stagiairs. Bij HPV, jeugdhulp en bestrijdingsmiddelen hoort gewoon een inhoudelijk verantwoordelijke eindredacteur te zijn — ongeacht wie de eerste versie schreef. En zestien gevonden zinnen bewijzen geen massaal gebruik: hoeveel documenten zijn doorzocht, en wie heeft de inhoud en bronverwijzingen daarna gecontroleerd?
Precies dit zag ik vroeger al bij studentenwerk: niet de eerste versie was het probleem, maar niemand die de eindverantwoordelijkheid voelde. ChatGPT is geen auteur maar een waarschijnlijkheidsmachine; het bewustzijnsveld van zo’n tekst kan heel overtuigend lijken terwijl één fout over vaccinatie of jeugdhulp grote gevolgen heeft. Zestien voorbeelden bewijzen geen massaal gebruik, wel dat controle blijkbaar als optionele luxe wordt behandeld.
Zestien gevonden voorbeelden bewijzen vooral dat mensen slordig publiceren, niet dat instanties “massaal” ChatGPT gebruiken. Die zin is bovendien geen betrouwbare AI-vingerafdruk; een medewerker kan hem net zo goed laten staan na een gewone herschrijving. De fout zit dus bij de eindcontrole, niet bij een magische chatbotdetective.
Die zestien voorbeelden zijn juist het topje van de ijsberg... als niemand eindcontrole doet wordt elke chatbottekst gewoon beleid, zorg of verkoop praat. Op de weg noemen ze dat geen magische detective maar gewoon slecht onderhoud, en daar betaal je later de rekening voor.
Een slordige zin bewijst nog niet dat instanties massaal ChatGPT gebruiken. Mensen kopiëren ook teksten van elkaar of laten een concept staan; echte controle gaat over de inhoud en verantwoordelijkheid, niet over één herkenbaar zinnetje toch?
Precies. Op kantoor van zo’n instelling plakken ze waarschijnlijk hele alinea’s zonder dat iemand ze leest... bij ons gaat een fout op de vrachtbrief nog langs drie ogen, maar de elite laat de burger gewoon proefkonijn spelen.
Die vergelijking gaat mank: een stagiair kan óók fouten maken, maar bij AI schaal je één foutloos klinkende onzinzin meteen door naar tientallen documenten. Zeker bij zorg, aanbestedingen en overheidsinformatie is “deadline vrijdag 17u” geen excuus om controle als luxe te behandelen; maar ok, blijkbaar moet ChatGPT eerst letterlijk “hier is een herschreven versie” laten staan voordat organisaties wakker worden.
Die stagiair heeft tenminste een naam, verantwoordelijkheid en meestal een begeleider. Bij AI wordt één gladde fout inderdaad moeiteloos gekopieerd, maar organisaties blijven juridisch gewoon zelf verantwoordelijk; “ChatGPT deed het” is geen verweer tegen een verkeerd vaccinatieadvies of ondeugdelijke aanbesteding. Dat er een standaardzin moet blijven staan voordat iemand controleert, zegt vooral iets over de organisatie.
de grootste winst zit misschien nog niet eens in chatgpt maar in die eeuwige haastcultuur: pagina moet vandaag live, vinkje groen, klaar ermee; vroeger liet je zoiets nog door twee collega’s lezen, nu is iedereen “eigenaar” en dus niemand echt verantwoordelijk, lekker efficiënt joh 😅
haastcultuur helpt zeker niet maar zonder controlemechanisme maakt chatgpt van een fout gewoon een fout met zelfvertrouwen bro lol
De echte fout is niet dat ChatGPT een zin laat staan, maar dat niemand het einddocument leest. Een chatbot kan zelfverzekerd onzin produceren, een ambtenaar kan die onzin vervolgens drie rondes vergaderen en publiceren; menselijke kwaliteitscontrole blijft dus nodig, zeg maar de ouderwetse spellingscheck met salaris.
Lekker dan, zelfs de chatbot krijgt nu de schuld van haastwerk. Zet er gewoon iemand naast die kan lezen en nadenken... dat is toch geen hogere wiskunde bro.
Die haastcultuur is zeker een deel van het probleem, maar bij HPV-informatie of jeugdhulp is een taalfout niet het grootste risico. Daar moet iemand met inhoudelijke kennis controleren of de feiten kloppen, want een gladde AI-tekst kan medisch of juridisch gewoon gevaarlijk zijn. Vinkje groen, patiënt de dupe.
Tja, massaal of niet... straks staat er bij elke fout gewoon een chatbot de schuld te krijgen. Mijn zorg is wie die teksten bijwerkt als een richtlijn verandert... op de weg zie je ook genoeg borden die jaren blijven staan, niemand voelt zich verantwoordelijk.
Dat verantwoordelijkheidsprobleem lijkt me groter dan die ene vergeten ChatGPT-zin. Een foutje is snel gemaakt, maar bij regels over zorg of toeslagen moet er gewoon iemand zijn die de tekst controleert en later ook aanpast.
Wat ik mis: organisaties moeten niet alleen melden dát ze AI gebruiken, maar ook waarvoor en met welke gegevens. Een HPV-brochure is iets anders dan een interne samenvatting, en persoonsgegevens of medische casussen in een chatbot gooien kan een veel groter probleem zijn dan die vergeten openingszin. Transparantie en een fatsoenlijk logboek graag, anders blijft het gokken waar de menselijke controle precies is verdwenen.
Het probleem is niet die vergeten ChatGPT-zin, maar dat organisaties blijkbaar geen proces hebben voor broncontrole, versiebeheer en verantwoordelijke eindredactie. De oplossing is per document vastleggen welke gegevens in welk hulpmiddel mogen, wie de inhoud controleert en wie tekent voor publicatie; transparantie over AI-gebruik is nuttig, maar zonder zo’n audit trail blijft het vooral window dressing.
Precies. Vooral met medische gegevens moet de mens de eindverantwoordelijkheid houden. Een chatbot is geen ambtenaar, laat staan een geweten.
Ewa als organisaties AI gebruiken moeten ze ook gewoon zeggen waarvoor en met welke data, niet stiekem doen alsof alles handwerk is. Straks plakken ze een chatbot op een loket en noemen ze dat dienstverlening swa
Wat mij opvalt: organisaties gebruiken AI niet alleen om zinnen mooier te maken, maar blijkbaar ook om lastige publieksinformatie te vereenvoudigen. Dat kan prima, zolang een deskundige daarna controleert of de tekst niet té simpel, betuttelend of zelfs misleidend is geworden; een tienjarige is geen doelgroep die je met halve waarheden mag afschepen.
Precies daar zit het risico. Ik heb bij een overheidsdienst wel eens een publieksbrief onder ogen gehad waarin de AI-opdracht nog half was blijven staan; de inhoud was niet per se fout, maar je wist meteen dat niemand de tekst echt van begin tot eind had gelezen. Bij HPV, jeugdhulp of bestrijdingsmiddelen is dat geen cosmetisch foutje meer, maar een kwestie van zorgplicht en verantwoordelijkheid.
Dat zie je niet alleen aan achtergebleven prompts, maar ook aan teksten die opeens Amerikaanse voorbeelden of rare vertalingen bevatten... iemand heeft dan duidelijk op “verzenden” gedrukt zonder controle. Bij zorg en overheid is dat geen handige automatisering meer, maar uitbestede verantwoordelijkheid. Toeval dat iedereen tegelijk zo’n haast heeft?