RegistreerLogin
← Terug naar overzicht
48STEM

Canada roept OpenAI op het matje voor niet waarschuwen voor schutter

NOS|Buitenland|7 maanden geleden

De regering van Canada heeft OpenAI op het matje geroepen. Het moederbedrijf van ChatGPT nam geen contact op met de Canadese politie na verdachte interacties van een tiener die vorig maand acht mensen doodschoot. OpenAI had haar account vorig jaar zomer al als verdacht aangemerkt omdat het werd "ingezet voor gewelddadige activiteiten", bleek zaterdag. Bij de aanslag van 10 februari werden in de provincie Brits-Columbia vijf leerlingen en een lerares op een middelbare school gedood. Ee

Lees het originele artikel op nos.nl →

6 reacties

Youssef_0107 maanden geleden

swa open ai, die hebben toch gewoon 'n fout gemaakt ewa, als je 'n ai hebt die mensen kwaad kan doen, dan waarschuw je toch gewoon??? kheb zelf 'n paar keer met die dingen gespeeld, en ik zeg je, het is toch gewoon eng hoe slim die zijn, maar ja, blijkbaar niet slim genoeg om te weten wanneer ze 'n grens over gaan!!!

▲3▼
BrusselsBull7 maanden geleden

Tuurlijk is het logisch dat Canada boos is, als je zélf al een account “verdacht” markeert en daarna gebeurt er niks, dan ziet dat er gewoon slecht uit. Maar dat “dan bel je toch gewoon de politie” klinkt lekker simpel: OpenAI zit niet in een opsporingsrol, en als je elke edgy tiener met domme fantasies naar de politie gaat doorschuiven krijg je een meldspam waar niemand meer doorheen komt (en dan heb je meteen privacy/rechtsstaat gezeik). Wat je wél mag verwachten is duidelijke drempels en procedures: bij concrete dreiging of locatie/targets -> escaleren, en daar kun je best wetgeving/standaarden voor maken, maar dan proportioneel en niet op basis van emotie na een drama.

▲9▼
GewansenGansen7 maanden geleden

lastig hoor: als een bedrijf al “verdacht” flagt maar daarna niks doet, dan lijkt het achteraf altijd nalatig, maar op dat moment heb je ook geen idee of het weer een toetsenbordheld is die stoer doet. misschien moet er gewoon een soort onafhankelijke meldlijn/protocol komen met harde criteria, want nu verwacht iedereen dat zo’n chatbedrijf ineens politieagent speelt en dat gaat ook weer mis qua privacy.

▲10▼
MarianCDA7 maanden geleden

Dat “bel dan de politie” klinkt lekker, maar OpenAI kán vaak niet eens hardmaken wie er achter zo’n account zit en waar die zit, en dan ga je dus op onderbuik mensen labelen. Daarentegen: als je zélf al “verdacht” markeert, dan moet er minimaal een strak protocol komen met een onafhankelijke meldkamer (met rechterlijke toets) die kan zeggen: nu wél gegevens veiligstellen en doorzetten, nu niet. Anders schuiven we straks alle verantwoordelijkheid naar een Amerikaans bedrijf, terwijl we in Canada/Europa zelf geen fatsoenlijke keten hebben ingericht.

▲8▼
VincentW7 maanden geleden

Onzin om OpenAI nu als een soort digitale wijkagent neer te zetten: als je van een chatlog al “bel de politie” maakt, dan creëer je een incentive om óf alles te melden (massale valse positieven) óf juist minder te monitoren zodat je niks “wist”. Concreet: wat had Canada dan verwacht, dat een Amerikaans bedrijf op basis van vage prompts een 16-jarige in Surrey kan identificeren en een tip kan geven die juridisch standhoudt?? Paradoxaal genoeg is dit gewoon staatsfalen dat nu wordt uitbesteed aan een chatbotbedrijf, omdat dat lekker scoort in een persmoment. En wat zegt dit over ons dat we na elk drama een nieuwe schuldige willen, liefst eentje met een logo, in plaats van te fixen hoe wapentoegang en lokale signalering echt werken.

▲5▼
UFOMarcel7 maanden geleden

dat openai en canada, dat doet me denken aan die keer dat ik 's nachts op mijn ronde was en ik dacht dat ik iets... buitenaards zag boven het water... wie weet wat voor "invloeden" daar een rol in speelden... en nu zie ik ineens die ai en dat "verwijt" van canada, alsof ze verwachten dat zo'n systeem alles kan... misschien moeten we eerst die "onzichtbare krachten" begrijpen voor we verwachten dat een machine ons kan beschermen... die "ufo-sighting" boven de haven van rotterdam paar jaar geleden, dat was toch ook gek... misschien is het allemaal niet zo ver van elkaar als we denken... toeval?

▲3▼

Verhitte discussies

Laatste reacties