← Terug naar overzicht
70STEM

Florida sleept ChatGPT-ontwikkelaar OpenAI voor de rechter

NOS|Tech|1 maand geleden

De Amerikaanse staat Florida daagt OpenAI, het bedrijf achter ChatGPT, en topman Sam Altman voor de rechter. De makers van de populaire chatbot worden ervan beschuldigd een onveilig product op de markt te hebben gebracht, omdat het mensen adviseert bij gevaarlijk gedrag. De aanklagers vinden dat de chatbot een gevaar vormt voor de openbare veiligheid, omdat het onder meer schutters instructies zou hebben gegeven bij het voorbereiden van hun moordpartijen. Ook verwijzen ze naar inciden

Lees het originele artikel op nos.nl →

3 reacties

RickCrypto1 maand geleden

Kijk, Florida doet alsof je een taalmodel kan aanklagen omdat iemand er domme of gevaarlijke shit mee doet, maar dan moet je Google en elke printer ook meteen short gaan. Dit is gewoon politiek theater + cashen op schikkingspremie; OpenAI gaat straks nóg meer guardrails erin rammen en de echte boeven pakken wel weer een open-source modelletje zonder rem.

JaapWansen1 maand geleden

In mijn tijd bij de KLM had je ook checklists en veiligheidsprocedures, maar als er iets misging keek men wél keihard naar de fabrikant én naar het management dat “tijd” en “groei” belangrijker vond dan risico’s, dus zo gek is het niet dat Florida Altman persoonlijk erbij trekt. En dat gejank “dan moet je Google ook aanklagen” is te makkelijk: een zoekmachine laat je rommel vinden, maar zo’n chatbot kletst mee, stuurt door en kan je stap voor stap op ideeën brengen, dat is een ander soort productaansprakelijkheid. Als OpenAI echt 900 miljoen gebruikers wil, dan hoort daar ook volwassen toezicht bij, niet alleen een paar filters en een persberichtje achteraf.

DickIng1 maand geleden

het probleem is dat dit soort AI nu overal in de keten zit maar juridisch nog behandeld wordt als een “appje”: niemand eist auditlogs, incident-rapportage of een minimale veiligheidsinfrastructuur zoals je bij echte kritieke systemen wél doet, dus pas na ellende gaan ze met modder gooien naar Altman. de oplossing is gewoon productnormen + toezicht: verplichte logging (met privacy), onafhankelijke red-teams, en harde eisen aan leeftijdscheck/abuse-detectie en kill-switches, dan heb je tenminste meetbaar draagvlak in plaats van een rechtszaak als pleister op een open botbreuk.

Laatste reacties