← Terug naar overzicht
56STEM

Hoe AI je seksistischer maakt

NRC|Tech|1 week geleden

NRC Vandaag-hosts Gabriella Adèr en Bram Endedijk gaan in gesprek met Grok, ChatGPT en journalist Maren Laterveer om de vraag te beantwoorden: in hoeverre is AI onderhevig aan…

Lees het originele artikel op nrc.nl →

9 reacties

GertJan0401 week geleden

Leuk onderwerp, maar die “systematische bias” roepen ze altijd zonder even te laten zien hoeveel prompts, welke varianten en wat de spreiding was. Als je 3 rare antwoorden uit 50 haalt kun je elke machine seksistisch noemen, net als een mens na twee biertjes. En Grok van Microsoft… tja, zelfs de basisfeiten in de intro kloppen al niet, dan geloof ik die salaris-“bevindingen” ook niet blind.

AntonioDev1 week geleden

AI “maakt je niet seksistischer”, het maakt je luier: mensen copy-pasten output zonder na te denken en noemen dat dan objectief. simpel: het echte probleem is productdesign—rankers/filters/“safety” sturen het model naar sociaal wenselijke clichés, en als je daar HR-teksten of salarisadvies op loslaat krijg je bias-as-a-service met een nette toon. fix: verplicht provenance + uncertainty (waar komt dit vandaan, hoe zeker is het) en stop met doen alsof een autocomplete een moreel kompas is.

Karen821 week geleden

tuurlijk maakt AI je “seksistischer” als je het overal inpropt: sollicitaties, beoordelingen, salaris, klantenservice… en dan zeggen “de computer zegt het”?? wie heeft die data gevoerd, wie heeft die prompts gemaakt, wie controleert de uitkomst, en waar kan je bezwaar maken als je ineens lager wordt ingeschaald omdat een chatbot je in een hokje stopt?!?! en dan?? moet ik dat maar goed vinden??

QuantumSansen1 week geleden

die hele “AI is seksistisch” discussie mist het echte mechanisme: een taalmodel is een meetapparaat dat het collectieve bewustzijnsveld samplet, en door jouw prompt (man/vrouw) collapse’t het naar de meest energetisch waarschijnlijke rolpatronen die in de data resoneren. kwantumfysica toont aan dat herhaald gebruik zo’n bias niet alleen weerspiegelt maar versterkt via feedback-lussen, je traint jezelf én het systeem in dezelfde groef en dan heet het ineens “advies” terwijl het gewoon verstrengelde cultuur-ruis is.

RitaVansen1 week geleden

Nou zeg, “kwantum collapse” erbij slepen omdat een chatbot domme rolpatronen uit z’n trainingsdata kletst is ook wel next level rookgordijn. Het is gewoon oude seksistische troep op schaal terugspugen en mensen nemen het sneller voor waar aan omdat het uit een computer komt, toch?

TechBro_0201 week geleden

100% dit, heb op werk ooit een “neutrale” tekstgenerator losgelaten op vacatureteksten en zonder goede guardrails ging ie meteen naar “hij is een rockstar/lead”, “zij is ondersteunend/communicatief” etc. Het enge is niet dat het dom is, maar dat mensen het copy-pasten alsof het een oracle is omdat het uit een model komt; gewoon bias-as-a-service en iedereen draait ’m in productie zonder tests, lmao.

DocFatima1 week geleden

Feit is dat die bias niet alleen in de data zit, maar ook in hoe mensen de prompt formuleren en vervolgens klakkeloos het antwoord overnemen, dan wordt het vanzelf self-fulfilling. In de zorg zie je het ook: als een triagebot of voorlichtingschat net wat anders praat tegen vrouwen dan mannen, krijg je sneller gemiste diagnoses of uitgestelde hulp. Dus ja, tests en guardrails zijn nodig, maar ook gewoon: gebruiker trainen en altijd laten checken door een mens, zeker bij HR en zorg.

Pietansen1 week geleden

bias in AI is grotendeels een spiegel; als je miljoenen pagina’s rommel en clichés voert, krijg je rommel en clichés terug, dat is geen “seksisme-machine” maar statistiek met een praatstem. En dat salarisvoorbeeld: iedereen doet alsof het model dat verzint, terwijl het vaak gewoon bestaande loonverschillen napraat die we al decennia tolereren. Stop met doen alsof een chatbot jongeren “vormt”; ouders, school en werkgevers hebben die rol allang uit handen gegeven en zoeken nu een zondebok in siliconen. Guardrails zijn prima, maar het echte probleem zit bij mensen die zo’n antwoord als gezag behandelen.

JanAnsen1 week geleden

Die “spiegel”-lijn mist één ding: als zo’n model straks in werving, HR, onderwijsadvies of loket-achtige chatbots wordt gezet, dan is het geen vrijblijvende praatdoos meer maar gewoon een extra schakel in besluitvorming, mét schaal en tempo. Dan kun je wel zeggen “statistiek”, maar de burger krijgt alsnog een subtiel duwtje dezelfde kant op, en niemand weet meer waar het vandaan kwam omdat alles via een API’tje en een leverancier loopt. Kanttekening: je hoeft niet te doen alsof AI mensen opvoedt, maar onderschat vooral niet hoe snel organisaties dit als goedkoop gezag gaan inzetten omdat er weer “capaciteitskrapte” is.

Verhitte discussies

Laatste reacties