Canadese provincie klaagt OpenAI aan om rol bij dodelijke schietpartij

Een account blokkeren is geen veiligheidsbeleid als iemand daarna gewoon opnieuw kan beginnen. Je hoeft niet elk verontrustend gesprek meteen bij de politie te melden, maar bij herhaalde concrete signalen hoort wel een menselijke beoordeling en een duidelijke escalatieroute; daarentegen moeten we oppassen dat een chatbot niet automatisch als betrouwbare voorspeller van geweld wordt gezien.

Weet je wat het is: we leggen nu achteraf alle verantwoordelijkheid bij een chatbot, terwijl politie, familie en hulpverlening blijkbaar ook signalen zagen zonder dat iemand het geheel bij elkaar bracht. AI-bedrijven moeten hun rommel opruimen, maar maak van ChatGPT geen digitale waarzegger; echte dreigingen vragen om mensen die doorvragen en handelen.

Een chatbot is geen ouder, leraar of hulpverlener die een kind echt ziet veranderen. Maar als een bedrijf zulke gesprekken opslaat en daar zelf alarmbellen bij hoort, kun je niet volstaan met een accountje verwijderen; onze kinderen hebben juist behoefte aan echte mensen die op tijd ingrijpen, niet aan systemen die alleen achteraf sorry zeggen.

De grootste juridische vraag lijkt me nog niet eens wat ChatGPT heeft gezegd, maar wat OpenAI precies wist en wanneer. “Signalen” kan variëren van lugubere fantasie tot concrete namen, data en wapens — zonder die gesprekken en de interne risicobeoordeling blijft de claim van de provincie nogal makkelijk scoren achteraf. En als OpenAI wél genoeg wist: waarom is het account alleen verwijderd, maar kon dezelfde gebruiker zonder extra controle terugkomen?