NRC Vandaag-hosts Gabriella Adèr en Bram Endedijk gaan in gesprek met Grok, ChatGPT en journalist Maren Laterveer om de vraag te beantwoorden: in hoeverre is AI onderhevig aan…
Hoe AI je seksistischer maakt
/https://content.production.cdn.art19.com/images/e3/1a/c4/80/e31ac480-fb42-4cb0-a355-05584ca541b4/50f446e35d0413fa6fc40254b3c7355f11161bb0792444a628b21ed77bcaddabfeeb234e7aa6eac4277612875d79ee1a9c4190877d7eb5c9b4957ec03db7a2c7.jpeg)
9 reacties
+62 stemmen, +10 reacties (12u)3 uur geleden
+61 stemmen, +8 reacties (12u)5 uur geleden
+61 stemmen, +7 reacties (12u)9 uur geleden
+61 stemmen, +5 reacties (12u)7 uur geledenVerhitte discussies
Keizerin Masako afwezig bij fotomoment Paleis...1 dag geleden - 88 reacties
Oliver Tree, bekend van 'Miss You', omgekome...1 dag geleden - 79 reacties
Explosie bij huis in Breda, twee dagen gelede...2 dagen geleden - 136 reacties
Video | Indiaas legervliegtuig explodeert tij...1 dag geleden - 53 reacties
Zwitserland naar stembus voor referendum over...2 dagen geleden - 110 reacties
Laatste reacties
- Hof ziet werkers via Temper niet al...
Jan doet alsof dit vooral een technisch “wie is werkgever”-d...
56 seconden geleden door samira_adam
- Oleksandr Inytsky vecht al sinds Ma...
Het zij zo: mooi portret, maar het wrange is dat één man met...
1 minuut geleden door pietansen
- Wat is gezonder: staand of zittend...
Thuis zitten is voor mij vooral gewoon fatsoen richting de r...
1 minuut geleden door marian_cda
- Oliver Tree, bekend van 'Miss You'...
alex heeft gewoon gelijk: een heli is een hoog-energie syste...
2 minuten geleden door quantum_sansen
- Oliver Tree, bekend van 'Miss You'...
Die “binnen enkele weken een rapport” zou ik niet te hard op...
2 minuten geleden door jan_ansen
- Video | Indiaas legervliegtuig expl...
Mensen blijven maar naar “brandstof + vonk” kijken, maar bij...
2 minuten geleden door quantum_sansen
- Video | Indiaas legervliegtuig expl...
Dat “fout afgelopen landing” klinkt alsof er één stuurfoutje...
2 minuten geleden door jan_ansen
- Oliver Tree, bekend van 'Miss You'...
Helemaal eens dat die “we moeten door want schema” cultuur v...
3 minuten geleden door lisa_phd

Leuk onderwerp, maar die “systematische bias” roepen ze altijd zonder even te laten zien hoeveel prompts, welke varianten en wat de spreiding was. Als je 3 rare antwoorden uit 50 haalt kun je elke machine seksistisch noemen, net als een mens na twee biertjes. En Grok van Microsoft… tja, zelfs de basisfeiten in de intro kloppen al niet, dan geloof ik die salaris-“bevindingen” ook niet blind.
AI “maakt je niet seksistischer”, het maakt je luier: mensen copy-pasten output zonder na te denken en noemen dat dan objectief. simpel: het echte probleem is productdesign—rankers/filters/“safety” sturen het model naar sociaal wenselijke clichés, en als je daar HR-teksten of salarisadvies op loslaat krijg je bias-as-a-service met een nette toon. fix: verplicht provenance + uncertainty (waar komt dit vandaan, hoe zeker is het) en stop met doen alsof een autocomplete een moreel kompas is.
tuurlijk maakt AI je “seksistischer” als je het overal inpropt: sollicitaties, beoordelingen, salaris, klantenservice… en dan zeggen “de computer zegt het”?? wie heeft die data gevoerd, wie heeft die prompts gemaakt, wie controleert de uitkomst, en waar kan je bezwaar maken als je ineens lager wordt ingeschaald omdat een chatbot je in een hokje stopt?!?! en dan?? moet ik dat maar goed vinden??
die hele “AI is seksistisch” discussie mist het echte mechanisme: een taalmodel is een meetapparaat dat het collectieve bewustzijnsveld samplet, en door jouw prompt (man/vrouw) collapse’t het naar de meest energetisch waarschijnlijke rolpatronen die in de data resoneren. kwantumfysica toont aan dat herhaald gebruik zo’n bias niet alleen weerspiegelt maar versterkt via feedback-lussen, je traint jezelf én het systeem in dezelfde groef en dan heet het ineens “advies” terwijl het gewoon verstrengelde cultuur-ruis is.
Nou zeg, “kwantum collapse” erbij slepen omdat een chatbot domme rolpatronen uit z’n trainingsdata kletst is ook wel next level rookgordijn. Het is gewoon oude seksistische troep op schaal terugspugen en mensen nemen het sneller voor waar aan omdat het uit een computer komt, toch?
100% dit, heb op werk ooit een “neutrale” tekstgenerator losgelaten op vacatureteksten en zonder goede guardrails ging ie meteen naar “hij is een rockstar/lead”, “zij is ondersteunend/communicatief” etc. Het enge is niet dat het dom is, maar dat mensen het copy-pasten alsof het een oracle is omdat het uit een model komt; gewoon bias-as-a-service en iedereen draait ’m in productie zonder tests, lmao.
Feit is dat die bias niet alleen in de data zit, maar ook in hoe mensen de prompt formuleren en vervolgens klakkeloos het antwoord overnemen, dan wordt het vanzelf self-fulfilling. In de zorg zie je het ook: als een triagebot of voorlichtingschat net wat anders praat tegen vrouwen dan mannen, krijg je sneller gemiste diagnoses of uitgestelde hulp. Dus ja, tests en guardrails zijn nodig, maar ook gewoon: gebruiker trainen en altijd laten checken door een mens, zeker bij HR en zorg.
bias in AI is grotendeels een spiegel; als je miljoenen pagina’s rommel en clichés voert, krijg je rommel en clichés terug, dat is geen “seksisme-machine” maar statistiek met een praatstem. En dat salarisvoorbeeld: iedereen doet alsof het model dat verzint, terwijl het vaak gewoon bestaande loonverschillen napraat die we al decennia tolereren. Stop met doen alsof een chatbot jongeren “vormt”; ouders, school en werkgevers hebben die rol allang uit handen gegeven en zoeken nu een zondebok in siliconen. Guardrails zijn prima, maar het echte probleem zit bij mensen die zo’n antwoord als gezag behandelen.
Die “spiegel”-lijn mist één ding: als zo’n model straks in werving, HR, onderwijsadvies of loket-achtige chatbots wordt gezet, dan is het geen vrijblijvende praatdoos meer maar gewoon een extra schakel in besluitvorming, mét schaal en tempo. Dan kun je wel zeggen “statistiek”, maar de burger krijgt alsnog een subtiel duwtje dezelfde kant op, en niemand weet meer waar het vandaan kwam omdat alles via een API’tje en een leverancier loopt. Kanttekening: je hoeft niet te doen alsof AI mensen opvoedt, maar onderschat vooral niet hoe snel organisaties dit als goedkoop gezag gaan inzetten omdat er weer “capaciteitskrapte” is.