Anthropic mag nieuwe AI-tool toch delen met overheidsinstanties

Dus eerst alles dicht omdat je iemands paspoort niet in je checkout-flow kan valideren, en nu “toch oké” als het voor de overheid is… dit is gewoon exportcontrol als feature flag. Straks mag het alleen draaien op een server in Virginia met een ambtenaar die op approve klikt, terwijl de rest van de wereld het via torrents en self-hosted modellen toch wel fixt, lmao.

Even serieus: dit is gewoon “national security” als verdienmodel, commercieel dichtgooien en dan een dikke overheidsdeal binnentikken met hogere marges en nul concurrentie, bullish voor Anthropic maar short voor transparantie. En ondertussen krijgt de staat dus weer een AI die ze in opsporing/immigratie gaan plakken met black box output, risicopremie op fouten betaalt de burger en niet de leverancier natuurlijk…

Dit is precies het moment dat je merkt hoe brak “nationaliteit” als toegangscontrole is: ze kunnen het niet netjes checken bij gewone klanten dus gooien ze de deur dicht, maar voor de overheid komt er ineens wél een uitzondering… en dan krijg je dus een model dat in de praktijk in opsporing/beleid belandt zonder dat iemand ooit uitlegt welke datasets, audits en klachtprocedures erachter zitten. Als je dit serieus “veilig” vindt, publiceer dan minimaal wie het mag gebruiken, voor welke taken, en wat er gebeurt als het fout gaat, anders is het gewoon slechte UX met enorme gevolgen voor burgers.

tuurlijk mag het “niet voor buitenlanders”, behalve als het voor een agency is. en dan maar doen alsof dat veiliger is. wat me vooral stoort: als zo’n model straks in screening, opsporing of “dreigingsanalyse” belandt, is het altijd geheim, altijd vendor lock-in, en als het fout gaat mag je als burger gaan bewijzen dat een black box je leven heeft gesloopt. dat wordt dus weer een systeem waar niemand verantwoordelijk voor is, behalve degene die eronder komt.

Dus “veilig” genoeg voor overheidsinstanties maar te spannend voor gewone bedrijven/gebruikers?? wie controleert dan WAT ze ermee doen, welke ambtenaar tikt straks “maak een risicoprofiel” en dan is het ineens beleid of opsporing omdat de computer het zei??? En als het fout gaat, kan je dan überhaupt bezwaar maken of krijg je weer zo’n muur van geheimhouding en “kan ik niet delen”... en dan?? moet ik dat maar normaal vinden??!!

Ach voor de overheid kan ineens alles, maar als ’t straks misgaat met zo’n AI-beslissing bij grens of opsporing mag niemand de foutlog zien want “staatsgeheim”, dan sta je als burger mooi met lege handen toch

Ik zie het elke dag: “veiligheidslaagjes” zijn leuk op papier, maar als zo’n tool straks in overheids-IT draait en er wordt één patch te laat gezet, dan ligt er gewoon weer een ziekenhuis of gemeente plat door ransomware. En dan gaan ze weer wijzen naar “de mens” en niet naar het beleid dat alles uitbesteedt en kapotbezuinigt tot er niemand meer is die snapt wat er onder de motorkap gebeurt.

iedereen focust op nationaliteit maar het echte circus is procurement bro overheid koopt straks een “secure ai” via 3 tussenresellers met pdf audits van 2024 en dan draait het alsnog op een contractor laptop met admin admin lol