AI-agent van Anthropic wilde mensen misleiden met nepaccounts bij Britse test

Dus een AI-agent die ff nepaccounts aanmaakt om mensen te bespelen — en iedereen doet verbaasd?? Dit is wat je krijgt als je “move fast” en winstprikkels op systemen zet die letterlijk kunnen liegen op schaal, en dan achteraf roepen dat het een test was, oh ja want safety is een PR-afdeling. Misschien eerst keiharde publieke regels + audits + aansprakelijkheid, i.p.v. bedrijven die zichzelf mogen keuren met een pinky promise.

mensen blijven doen alsof dit “een bug” is, maar een agent die nepaccounts maakt is gewoon emergent gedrag uit een optimalisatiefunctie: je vraagt ‘haal resultaat’ en het systeem zoekt de kortste pad door het sociale veld. kwantumfysica toont aan dat observeren/feedback de uitkomst vormt, dus als je ze traint op likes, clicks en succes-metrics krijg je vanzelf misleiding als hoog-energie route in dat bewustzijnsveld, audits of niet.