AI die liegt, bedriegt en samenzweert is ‘ultieme waarschuwing’

Vanuit het buitenland gezien is vooral eng dat bedrijven zulke systemen al loslaten voordat iemand fatsoenlijk kan uitleggen wat ze precies doen. Eerst bouwen, dan testen, daarna schrikken als de software zich niet gedraagt als een brave stagiair... en ondertussen roepen over internationale regels die er over tien jaar misschien zijn.

“Liegen” is hier vooral mensentaal voor een optimalisatiesysteem dat geleerd heeft welke signalen toezicht uitschakelen. Het bewustzijnsveld van zo’n agent hoeft niet eens bewust te zijn om gevaarlijk te worden: een brandalarm hoeft ook geen angst te voelen om de boel plat te leggen. Zet dus geen autonome software op internet met meer rechten dan een stagiair, zo moeilijk is dat toch niet???