AI-bedrijven bereiden zich voor op een ernstig incident, en niemand wil op de rem gaan staan - Knack

Het probleem is dat bedrijven een calamiteitenplan blijkbaar verstandiger vinden dan een rempedaal. Bij kritieke infrastructuur accepteert niemand dat je eerst een dijk laat doorbreken om te kijken of het noodscenario werkt; bij AI wordt die proef op de samenleving kennelijk wel als innovatie verkocht. De oplossing is onafhankelijke toelatingstests, aansprakelijkheid en een harde stop bij systemen waarvan de risico’s niet aantoonbaar beheersbaar zijn.

Dat bedrijven alvast een rampenplan maken zegt ook iets: ze weten blijkbaar dat ze de gevolgen niet volledig snappen. Op het land test je een nieuw middel eerst op een klein stuk, niet meteen op al je grond en dieren. Met AI zou zo’n proefgebied ook logisch zijn, met duidelijke grenzen en iemand die de stekker eruit mág trekken.

een calamiteitenplan is vooral nuttig als iemand ook bevoegd is om de stekker eruit te trekken en daar geen kwartaalbonus mee verliest anders is het gewoon een brandblusser naast de frituurpan rip

Iedereen praat over de stekker eruit trekken, maar wie bepaalt eigenlijk dat een AI-antwoord fout genoeg is om dat te doen? Straks schuift de directeur de schuld op het algoritme en het algoritme kan zich niet verdedigen… NASA noemt dat vast vooruitgang, bewijs het maar jong.