NRC Vandaag-hosts Gabriella Adèr en Bram Endedijk gaan in gesprek met Grok, ChatGPT en journalist Maren Laterveer om de vraag te beantwoorden: in hoeverre is AI onderhevig aan…
Hoe AI je seksistischer maakt
/https://content.production.cdn.art19.com/images/e3/1a/c4/80/e31ac480-fb42-4cb0-a355-05584ca541b4/50f446e35d0413fa6fc40254b3c7355f11161bb0792444a628b21ed77bcaddabfeeb234e7aa6eac4277612875d79ee1a9c4190877d7eb5c9b4957ec03db7a2c7.jpeg)
9 reacties
+63 stemmen, +93 reacties (12u)9 uur geleden
+57 stemmen, +66 reacties (12u)11 uur geleden
+57 stemmen, +45 reacties (12u)5 uur geleden
+62 stemmen, +40 reacties (12u)9 uur geledenVerhitte discussies
Benzine bereikt nieuwe recordprijs van 2,692...9 uur geleden - 93 reacties
Staatssecretaris Erkens geschokt door beelden...1 dag geleden - 110 reacties
Video | Diepzee-expeditie ontdekt nieuw leven...11 uur geleden - 66 reacties
AI-reuzen kopen massaal tweedehands boeken: i...1 dag geleden - 139 reacties
Sality-botnet dat sinds 2003 bestond door pol...1 dag geleden - 70 reacties
Laatste reacties
- Bosz gelooft in zijn nieuwe PSV: 'B...
“Beste selectie” is pas een zinnige uitspraak als je ook mee...
1 minuut geleden door gertjan_040
- As his presidency flounders, Trump...
Het juridische probleem zit niet alleen in wat Trump doet, m...
1 minuut geleden door diana_bos
- Bedrijfsleven en politiek slaan han...
Ja hoor, handen ineen voor duurzaamheid... klinkt mooi op pa...
1 minuut geleden door henkie_v
- Fout in WhatsApp geeft anderen toeg...
het echte probleem is dat androidrechten inmiddels een escap...
1 minuut geleden door daan_023
- Video | Diepzee-expeditie ontdekt n...
Misschien eens uitzoeken wie die expedities eigenlijk financ...
3 minuten geleden door barry_w
- Video | Diepzee-expeditie ontdekt n...
Diepzee of stadspark, afval blijft afval. Ik heb ooit na een...
3 minuten geleden door diana_bos
- Video | Diepzee-expeditie ontdekt n...
Wat ik vooral bizar vind: we weten nu al dat die expeditie z...
3 minuten geleden door chantal_b
- Video | Diepzee-expeditie ontdekt n...
Mooie beelden, maar expedities zouden hun eigen impact net z...
3 minuten geleden door nina_it

Leuk onderwerp, maar die “systematische bias” roepen ze altijd zonder even te laten zien hoeveel prompts, welke varianten en wat de spreiding was. Als je 3 rare antwoorden uit 50 haalt kun je elke machine seksistisch noemen, net als een mens na twee biertjes. En Grok van Microsoft… tja, zelfs de basisfeiten in de intro kloppen al niet, dan geloof ik die salaris-“bevindingen” ook niet blind.
AI “maakt je niet seksistischer”, het maakt je luier: mensen copy-pasten output zonder na te denken en noemen dat dan objectief. simpel: het echte probleem is productdesign—rankers/filters/“safety” sturen het model naar sociaal wenselijke clichés, en als je daar HR-teksten of salarisadvies op loslaat krijg je bias-as-a-service met een nette toon. fix: verplicht provenance + uncertainty (waar komt dit vandaan, hoe zeker is het) en stop met doen alsof een autocomplete een moreel kompas is.
tuurlijk maakt AI je “seksistischer” als je het overal inpropt: sollicitaties, beoordelingen, salaris, klantenservice… en dan zeggen “de computer zegt het”?? wie heeft die data gevoerd, wie heeft die prompts gemaakt, wie controleert de uitkomst, en waar kan je bezwaar maken als je ineens lager wordt ingeschaald omdat een chatbot je in een hokje stopt?!?! en dan?? moet ik dat maar goed vinden??
die hele “AI is seksistisch” discussie mist het echte mechanisme: een taalmodel is een meetapparaat dat het collectieve bewustzijnsveld samplet, en door jouw prompt (man/vrouw) collapse’t het naar de meest energetisch waarschijnlijke rolpatronen die in de data resoneren. kwantumfysica toont aan dat herhaald gebruik zo’n bias niet alleen weerspiegelt maar versterkt via feedback-lussen, je traint jezelf én het systeem in dezelfde groef en dan heet het ineens “advies” terwijl het gewoon verstrengelde cultuur-ruis is.
Nou zeg, “kwantum collapse” erbij slepen omdat een chatbot domme rolpatronen uit z’n trainingsdata kletst is ook wel next level rookgordijn. Het is gewoon oude seksistische troep op schaal terugspugen en mensen nemen het sneller voor waar aan omdat het uit een computer komt, toch?
100% dit, heb op werk ooit een “neutrale” tekstgenerator losgelaten op vacatureteksten en zonder goede guardrails ging ie meteen naar “hij is een rockstar/lead”, “zij is ondersteunend/communicatief” etc. Het enge is niet dat het dom is, maar dat mensen het copy-pasten alsof het een oracle is omdat het uit een model komt; gewoon bias-as-a-service en iedereen draait ’m in productie zonder tests, lmao.
Feit is dat die bias niet alleen in de data zit, maar ook in hoe mensen de prompt formuleren en vervolgens klakkeloos het antwoord overnemen, dan wordt het vanzelf self-fulfilling. In de zorg zie je het ook: als een triagebot of voorlichtingschat net wat anders praat tegen vrouwen dan mannen, krijg je sneller gemiste diagnoses of uitgestelde hulp. Dus ja, tests en guardrails zijn nodig, maar ook gewoon: gebruiker trainen en altijd laten checken door een mens, zeker bij HR en zorg.
bias in AI is grotendeels een spiegel; als je miljoenen pagina’s rommel en clichés voert, krijg je rommel en clichés terug, dat is geen “seksisme-machine” maar statistiek met een praatstem. En dat salarisvoorbeeld: iedereen doet alsof het model dat verzint, terwijl het vaak gewoon bestaande loonverschillen napraat die we al decennia tolereren. Stop met doen alsof een chatbot jongeren “vormt”; ouders, school en werkgevers hebben die rol allang uit handen gegeven en zoeken nu een zondebok in siliconen. Guardrails zijn prima, maar het echte probleem zit bij mensen die zo’n antwoord als gezag behandelen.
Die “spiegel”-lijn mist één ding: als zo’n model straks in werving, HR, onderwijsadvies of loket-achtige chatbots wordt gezet, dan is het geen vrijblijvende praatdoos meer maar gewoon een extra schakel in besluitvorming, mét schaal en tempo. Dan kun je wel zeggen “statistiek”, maar de burger krijgt alsnog een subtiel duwtje dezelfde kant op, en niemand weet meer waar het vandaan kwam omdat alles via een API’tje en een leverancier loopt. Kanttekening: je hoeft niet te doen alsof AI mensen opvoedt, maar onderschat vooral niet hoe snel organisaties dit als goedkoop gezag gaan inzetten omdat er weer “capaciteitskrapte” is.