AI-bazen in gesprek met koning Charles over AI en 'welzijn van mensheid'

AI-bazen die waarschuwen voor AI terwijl ze ondertussen miljarden ophalen met nóg krachtigere modellen: dat is wel een bijzondere vorm van zelfreflectie. Regulering is nodig, maar laat die niet alleen door dezelfde bedrijven schrijven, anders wordt “welzijn van de mensheid” gewoon welzijn van de aandeelhouder, maar ok, Charles mag de thee inschenken.

Het opvallendste is misschien dat ze dit gesprek bij een koning voeren: veel symboliek, weinig mensen die straks een AI-systeem moeten gebruiken of de schade ervan mogen oplossen. Zet naast die topmannen ook docenten, zorgmedewerkers, kleine ondernemers en toezichthouders aan tafel, anders ontwerp je beleid voor de bestuurskamer en niet voor de echte gebruiker.

Vanuit het buitenland gezien ontbreekt vooral de vraag wie aansprakelijk is als zo’n systeem straks zelfstandig schade veroorzaakt. Een koning kan mooi een neutrale kamer aanbieden, maar zonder duidelijke eigenaar, audit en noodstop is het gewoon een praatclub met dure pakken; in mijn IT-tijd ging software zonder rollback ook niet live omdat de directeur er vertrouwen in had.

Het echte risico is niet dat AI ineens een eigen wil krijgt, maar dat bedrijven en overheden beslissingen uitbesteden aan systemen die niemand meer goed kan uitleggen. Maak modellen controleerbaar en aansprakelijkheid simpel, anders krijg je straks een algoritme als zondebok en niemand achter het stuur.