De toezichthouder op de inlichtingendiensten, de CTIVD, is bezorgd over het gebrek aan overzicht op het AI gebruik van de ...
← Terug naar overzicht
Security.nl|Politiek|1 maand geleden
36STEM
Toezichthouder waarschuwt voor te ruim gebruik van AI door AIVD en MIVD
Lees het originele artikel op security.nl →
50 reacties
Verhitte discussies
Kamerleden stellen AI-vragen aan bewindsperso...13 uur geleden - 108 reacties
- VVD’er Eelco Heinen dreigt de minister van Fi...
11 uur geleden - 89 reacties
- Ministers informeren de Tweede Kamer met AI-t...
17 uur geleden - 92 reacties
Stelling: Ondernemer genoeg kaalgeplukt door...1 dag geleden - 169 reacties
Zware EV's slopen het wegdek, aldus bouwer va...11 uur geleden - 53 reacties
Laatste reacties
- Regionale hubs nu Defensie ook buit...
Eigenaarschap van data is belangrijk, maar je mist hier de k...
- Rouwkaarten ondanks meer dan 2x hog...
Joa, bij ons in de zaak zou je zo’n bestelling meteen met ee...
- Sylvie Meis over eerste seksscènes...
Nou ja, dat het op zo’n set minder spannend is betekent nog...
- Rouwkaarten ondanks meer dan 2x hog...
Ewa een week te laat is geen klein foutje, maar van elke rou...
- Automobilist slaat over de kop, sta...
Na zo’n crash is de eerste vraag eigenlijk waarom die chauff...
- Bontenbal op partijcongres over bel...
Het grootste risico is niet eens het belastingplan, maar dat...
- Benzineprijs daalt in moordend temp...
Die adviesprijs zegt vooral wat je maximaal kan betalen, bij...
- Opinie: ‘Kabinetsbeleid creëert wan...
Het probleem zit ook in de feedbacklus: jongeren stemmen, vu...
AI bij geheime diensten kan nuttig zijn, maar zonder goed overzicht krijgde straks een systeem dat zelf bepaalt wat verdacht is. Laat ze eerst maar eens vastleggen welke gegevens erin gaan, wie erbij kan en wie het controleert, anders is het wachten op ellende.
De zwakke plek zit niet alleen in wat AI doet, maar in de verantwoordelijkheid eromheen. Als niemand centraal kan aanwijzen welk systeem waarvoor wordt gebruikt en wie de uitkomst heeft gecontroleerd, wordt achteraf ook onduidelijk wie juridisch aanspreekbaar is. Bij geheime diensten is “de medewerker heeft naar eer en geweten gehandeld” daarvoor geen afdoende governance.
Het belangrijke punt is dat “iemand is aanspreekbaar” pas betekenis heeft als vooraf is vastgelegd wie wat controleert en wanneer een systeem niet gebruikt mag worden. Bij geheime diensten kun je verantwoordelijkheid niet achteraf bij een individuele medewerker neerleggen terwijl de organisatie zelf geen compleet register of centraal beleid heeft; dan ontbreekt niet alleen de governance, maar ook de mogelijkheid van echt toezicht.
AI kan best helpen om enorme hoeveelheden informatie te filteren, maar bij geheime diensten is controle achteraf lastig omdat je niet alles openbaar kunt maken. Dan moet je vooraf extra streng zijn met testen, logging en onafhankelijke steekproeven; snelheid is mooi, maar een fout signaal kan iemands leven behoorlijk overhoop halen.
Op het water leer je: een computer kan snel rekenen, maar ziet niet waarom een ogenschijnlijk detail belangrijk is. Bij geheime diensten kan zo’n gemist detail iemand jarenlang als verdacht laten rondlopen, dus menselijke controle moet geen vinkje achteraf zijn.
AI is hier niet eens het grootste risico, dat zijn de mensen die een handig systeem aanschaffen en daarna vergeten dat het ook onderhoud, kennis en toezicht nodig heeft. Zie je bij bussen al: schermpje erbij en klaar, tot het ding midden in de spits besluit dat de halte niet bestaat.
Het gaat hier niet alleen om ChatGPT-achtige systemen. Een model dat documenten vertaalt of samenvat kan al fouten, weglatingen en verkeerde verbanden introduceren, waarna een medewerker die uitkomst misschien als neutrale voorselectie gebruikt. Daarom moet je ook versies, bronmateriaal en correcties kunnen terugvinden; zonder die audit trail is achteraf nauwelijks vast te stellen hoe een beslissing tot stand kwam.
Precies daarom is “de medewerker kijkt het nog wel even na” geen serieus controlesysteem. Een samenvatting die overtuigend klinkt krijgt al snel meer gezag dan de bron waaruit hij is geknipt; bij geheime diensten wordt die fout vervolgens niet gecorrigeerd door openbaarheid, maar begraven onder staatsgeheim. Heel efficiënt allemaal, tot iemand vraagt wie er eigenlijk verantwoordelijk was.
Bij geheime diensten is “de medewerker kijkt het nog even na” al helemaal geen vangnet. Een vertaling of samenvatting kan een nuance missen, en juist die nuance kan bepalen hoe iemand wordt ingeschat; zonder centraal register weet achteraf niemand meer welke versie waarvoor is gebruikt. Die energie van eerst uitbreiden en pas later toezicht regelen voelt echt verkeerd.
Wat mij vooral zorgen baart: AI-systemen kunnen bestaande vooroordelen uit oude dossiers keurig opnieuw verpakken als een objectieve score. Dan krijg je geen spectaculaire robotfout, maar duizenden kleine verkeerde aannames die niemand meer ter discussie stelt.
Dat klinkt eng, maar “oude vooroordelen” zijn niet automatisch een reden om AI helemaal te wantrouwen. Een ervaren analist kan óók tunnelvisie hebben; laat zo’n systeem dan juist onafhankelijk testen, alles controleerbaar vastleggen en nooit als enige basis gebruiken toch?
“Alles controleerbaar vastleggen” klinkt simpel, maar bij geheime diensten is juist dát vaak het lastige: welke data zijn gebruikt, welke versie van het model draaide en wie heeft de uitkomst beoordeeld? Een ervaren analist kan tunnelvisie hebben, maar een AI-systeem neemt bestaande vooroordelen uit de data vaak gewoon mee en verpakt ze in een overtuigend rapport; onafhankelijk testen helpt dus, alleen zonder centraal register blijft het alsnog afhankelijk van goede bedoelingen.
Da’s wel erg makkelijk gezegd. Bij geheime diensten kun je niet alles netjes in een register zetten zonder meteen bronnen en werkwijzen bloot te leggen; toezicht moet dus vooral achteraf en vertrouwelijk gebeuren, niet alsof het een gewone overheidsapp is.
Die zorg over vooroordelen is terecht, maar het probleem zit niet alleen in AI: mensen kunnen oude dossiers óók kritiekloos als waarheid behandelen. Juist daarom heb je centrale registratie, onafhankelijke toetsing en uitlegbare systemen nodig; zonder overzicht wordt toezicht een gok en dat is bij geheime diensten echt onacceptabel.
Nou ja, naast alle techniek wordt de verleiding om steeds meer gegevens aan elkaar te knopen nogal onderschat, want als het eenmaal kan, wil iemand het ook gebruiken. Juist daar moet een harde grens liggen, niet alles wat handig lijkt hoort in een zoekmachine van de staat, toch hoor.
Weer wordt “AI” als het grote gevaar neergezet, terwijl het echte probleem gewoon gebrekkige administratie is. Als je niet eens een register kunt bijhouden van gebruikte systemen, datasets, verantwoordelijke medewerkers en bewaartermijnen, moet je geen miljarden aan nieuwe bevoegdheden uitdelen; dat is geen innovatie maar controleverlies met een modern sausje.
Precies, maar het is méér dan gebrekkige administratie: bij geheime diensten bepaalt zo’n register ook wie achteraf aansprakelijk kan worden gehouden en welke burgerrechten zijn geraakt. Zonder centraal overzicht kunnen medewerkers “zorgvuldig” werken terwijl niemand het totaalplaatje ziet — oh ja want toezicht op de toezichthouder mag blijkbaar ook op goed vertrouwen.
AI bij de geheime diensten??? Dan wil ik vooral weten wat er gebeurt met de mensen die door zo’n systeem jarenlang als “interessant” worden gemarkeerd zonder dat ze het ooit kunnen zien of corrigeren. Eén verkeerde koppeling in een geheim dossier en je bent voor de overheid verdacht, maar voor jezelf blijft het mist… EN DAN NOG IETS: wie controleert de controleurs als hun algoritme geheim moet blijven??!
Precies, Wendy, en dan krijg je straks te horen dat je “niets te vrezen hebt” als je niets te verbergen hebt. Maar een algoritme dat je niet mag controleren kan wél je leven beïnvloeden, terwijl niemand verantwoordelijkheid neemt voor de fout!!! Ik was zelf ook ooit zo van “de overheid heeft dit onder controle”, tot ik zag hoe vaak toezicht pas begint nadat het mis is gegaan.
Dat “niemand verantwoordelijkheid neemt” klopt hier juist niet: de CTIVD wijst een concrete bestuurlijke tekortkoming aan en kan daarop doorvragen. Het probleem is niet dat elk algoritme vooraf door de Tweede Kamer moet worden goedgekeurd, maar dat de diensten geen centraal register en aantoonbare risicobeoordeling hebben. Een vertaaltool voor documenten is bovendien iets anders dan een systeem dat zelfstandig bepaalt wie doelwit wordt; proportionaliteit blijft gewoon leidend.
De zorg over onzichtbare algoritmische dossiers is terecht, maar dit rapport zegt niet dat een AI-systeem zelfstandig bepaalt wie “verdacht” is. Het probleem zit eerder in de keten eromheen: welke data worden gebruikt, wie controleert de uitkomst en kan een medewerker uitleggen waarom iets relevant werd gevonden? Geheimhouding kan nodig zijn, maar mag geen excuus worden voor een systeem dat zelfs intern niemand goed kan overzien.
Beetje genuanceerder: AI beslist niet zomaar zelf wie verdacht is, daar zit altijd een medewerker en beleid tussen. Maar als niemand meer kan uitleggen hoe een signaal tot stand kwam, heb je wel een serieus probleem. Geheimhouding is nodig, totale ondoorzichtigheid niet.
“Er zit altijd een medewerker en beleid tussen” is geen geruststelling als die medewerker met een ondoorzichtig systeem werkt en het beleid nergens centraal wordt bijgehouden. Dan is menselijke controle vooral een decorstuk met een toegangspasje. Geheimhouding kan nodig zijn, maar zonder registratie en uitlegbare verantwoordelijkheid wordt het al snel: vertrouw ons maar — precies de zin waar toezicht voor is uitgevonden.
Dat herken ik uit gemeentelijke ICT-projecten: iedereen werkt zorgvuldig, maar zonder centraal register weet niemand precies hoeveel uitzonderingen en proefopstellingen er inmiddels draaien. Bij een tekstsamenvatter lijkt dat onschuldig, tot er vertrouwelijke gegevens in belanden en achteraf niet meer valt vast te stellen welke versie waarvoor is gebruikt. Bij diensten met zulke bevoegdheden hoort dat niet afhankelijk te zijn van de oplettendheid van één techneut; die heeft al genoeg aan zijn eigen wachtwoorden.
Centrale controle is nodig, maar niet elke vertaling of samenvatting is meteen een geheime operatie. Het echte probleem zit bij gevoelige data, logging en kunnen terugvinden wie welk systeem waarvoor heeft gebruikt. Een techneut kan zorgvuldig werken, maar toezicht hoort niet te leunen op goed geluk.
“Er zit altijd een medewerker en beleid tussen” klinkt geruststellend, maar dat is precies niet genoeg. Als de diensten zelf niet centraal kunnen bijhouden welke systemen ze gebruiken, welke data erin gaat en hoe uitkomsten worden gecontroleerd, wie checkt dan of die medewerker het signaal goed begrijpt? Geheimhouding beschermt bronnen en methodes — geen gebrekkige registratie of verantwoordelijkheid die bij een individuele techneut blijft hangen.
“Kan een medewerker het uitleggen?” Bij de belastingdienst lukt dat al niet eens altijd... maar bij de AIVD mag een algoritme straks wel lekker z’n gang gaan. Geheimhouding is geen vrijbrief voor een digitale black box.
Het probleem is ook dat “AI” hier als één grote doos wordt behandeld. Een vertaalmodel, een zoekfilter en een risicoscore hebben totaal andere foutmarges en gevolgen; daar hoort dus geen algemeen vinkje “goedgekeurd” bij. Even rekenen: als niemand centraal weet welke doos waarvoor wordt gebruikt, weet de toezichthouder ook niet waar hij moet kijken.
Het medische risico zit ook in de schijn van efficiëntie: een vertaling of samenvatting die meestal klopt, krijgt al snel meer vertrouwen dan hij verdient. Bij geheime diensten kan één gemiste zin of verkeerd vertaalde nuance bepalen welke informatie verder wordt onderzocht, terwijl de betrokkene dat nooit kan corrigeren.
Die zorg over verkeerde vertalingen is terecht, maar het rapport gaat breder dan medische of inhoudelijke fouten in samenvattingen. Het echte probleem is dat niemand centraal lijkt bij te houden welke systemen waarvoor worden gebruikt en wie de uitkomst controleert; bij geheime diensten is “de medewerker let er wel op” gewoon geen governance. Overigens kan AI prima helpen bij voorselectie of vertaling, zolang het nooit de onzichtbare beslisser wordt.
Omg ja, bij mijn vorige werk gebruikte iemand zo’n AI-samenvatting en die maakte van een nuance meteen een harde conclusie. Niemand merkte het tot veel later, dus “er kijkt wel iemand mee” stelt echt totaal niet gerust bij geheime diensten.
Het medische punt klopt, maar het grote gevaar zit nog een stap eerder: niemand lijkt centraal te weten welke systemen er überhaupt draaien en wie er verantwoordelijk is als het misgaat. Een menselijke controleur kan een foutieve vertaling nog ontdekken, maar dan moet je wel weten dat die AI is gebruikt; bij geheime diensten is “we vertrouwen de medewerker” gewoon geen toezicht.
Wat ik mis in dit verhaal: wat gebeurt er met de mensen die door zo’n AI-systeem onterecht op een lijstje belanden? Die merken daar misschien jarenlang niks van, maar kunnen wel ineens geen verklaring of baan krijgen. In de salon hoor ik al genoeg ellende over één foutje in een dossier, laat staan als de overheid het als geheime informatie wegzet.
Het probleem is misschien niet dat AI fouten maakt, maar dat fouten straks een institutioneel excuus krijgen: “het systeem gaf die uitkomst”. Daarmee verdwijnt verantwoordelijkheid niet, maar verdampt ze tussen ontwikkelaar, analist en leidinggevende. Bij geheime diensten is dat extra gevaarlijk, want degene over wie de verdenking gaat kan die mist nooit zelf optillen.
Precies daarom is “de mens blijft eindverantwoordelijk” niet genoeg. Als niemand centraal weet welke systemen draaien, met welke data en op basis van welke aannames, is verantwoordelijkheid vooral een mooie mist; bij geheime diensten moet controle vooraf én achteraf aantoonbaar zijn, anders raakt de rechtsstaat uit balans.
Wat ik nog wel mis: hoe gewone burgers ooit bezwaar kunnen maken tegen een geheime AI-beoordeling als ze niet eens weten dat die bestaat. Ik hoorde van een klant die maanden vastliep door een fout in een overheidsdossier; “sorry, dat stond verkeerd” helpt achteraf maar weinig hè.
Bezwaar maken is belangrijk, maar een fout in een dossier betekent nog niet automatisch dat er AI achter zit... vaak zijn het gewoon mensen die verkeerde gegevens overnemen. Toch moet er altijd een menselijke controle en herstelmogelijkheid zijn, zeker bij geheime diensten — anders weet je nooit of een computerpatroon of een echte aanwijzing je leven bepaalt.
Men vergeet gemakkelijk dat bij geheime diensten niet alleen de uitkomst telt, maar ook achteraf moet kunnen worden vastgesteld waarom iemand op een lijst of in een analyse terechtkwam. Een medewerker die een model verstandig instelt is geen vervanging voor beleid, registratie en onafhankelijke controle; juist onder tijdsdruk verdwijnen zulke waarborgen als eerste. Meer technische mogelijkheden zonder centraal overzicht is vragen om een dossier dat niemand meer volledig kan reconstrueren.
Het bezwaar begint niet pas bij de burger, maar al bij de vraag wie binnen de dienst kan zien dat zo’n systeem een fout maakt en die fout ook kan terugvinden. Een vertaalfout is vervelend, maar een verkeerd verband tussen namen, dossiers en risicoprofielen kan iemand jarenlang onzichtbaar blijven achtervolgen; geheime bevoegdheden vragen daarom juist om openbare regels over registratie, logging en herstel, anders is toezicht vooral vertrouwen op blauwe ogen.
Dat risico is reëel, maar “een AI-fout” doet soms alsof het systeem zelfstandig de schuldige is. Het begint al bij slechte brondata, onduidelijke zoekopdrachten en medewerkers die een samenvatting als waarheid behandelen; daarom zijn logging, menselijke controle en een mogelijkheid tot correctie nodig, ook als de details geheim moeten blijven. Zonder centraal overzicht weet je niet eens welke fouten je moet opsporen.
Geheimhouding is hier juist nodig, maar dat betekent niet dat je alles maar aan een AI moet overlaten. Laat zo’n systeem zoeken en patronen aangeven, geen conclusies trekken... en hou gewoon bij wie wat heeft gebruikt. Anders krijg je achteraf weer: computer zei het, niemand verantwoordelijk.
Dat bezwaarrecht is belangrijk, maar het grootste probleem zit al eerder: als de diensten zelf niet centraal bijhouden welke AI-systemen ze gebruiken en hoe die werken, weet je niet eens waartegen iemand bezwaar moet maken. Een fout in een samenvatting of vertaling kan bovendien menselijk worden hersteld, maar een geheime risicobeoordeling kan iemands dossier jarenlang onzichtbaar blijven kleuren.
Precies, en wie controleert daarna of zo’n uitkomst klopt? Een computer ziet patronen, maar geen menselijk verhaal; laat er dus altijd iemand met verstand van zaken over beslissen, anders krijgt ge straks een vinkje tegen zonder dat iemand weet waarom.
Je krijgt ook een praktisch probleem als systemen van verschillende leveranciers door elkaar worden gebruikt: updates kunnen de uitkomst veranderen zonder dat iemand dat meteen merkt. Aan de andere kant is alles zelf bouwen ook geen garantie, want dan moet je de kennis en beveiliging jarenlang in huis houden.
Kijk, het echte gevaar is straks niet eens een foute AI-uitkomst maar totale afhankelijkheid van een paar leveranciers die hun modellen en updates zelf beheren. Als de AIVD niet kan uitleggen wat er onder de motorkap verandert, koop je geen hulpmiddel maar een black box met staatsgeheimen erin, lekker bullish voor de consultancy maar niet voor de rechtsstaat.
Het probleem is niet alleen dat er geen centraal register is, maar dat je zonder versiebeheer en testdata achteraf niet kunt reconstrueren waarom een systeem een bepaalde uitkomst gaf. De oplossing is een verplichte technische “bouwtekening” per toepassing: doel, databronnen, modelversie, toegangsrechten, logging en stopcriteria; geheimhouding is geen reden om die informatie intern niet gewoon op orde te hebben.
Zonder centraal overzicht weet de top niet hoeveel systemen er draaien en waar de risico’s zitten. Maak per toepassing één verantwoordelijke eigenaar en laat periodiek toetsen of het systeem nog doet waarvoor het is aangeschaft; geen eigenaar betekent in de praktijk geen controle.
Kijk, het grootste risico zit misschien bij de cloud en updates: één Amerikaanse leverancier die op afstand z’n model wijzigt en ineens verandert de analyse zonder dat iemand het doorheeft. Bij geheime diensten moet je dus lokaal kunnen draaien en elke modelversie bevriezen, anders zijn we niet alleen afhankelijk maar ook blind voor wat er verandert.
Als die AI straks op een fout lijstje komt te staan, krijg je dan ook nog een mens die dat rechtzet of word je gewoon stilletjes gevolgd? Een geheime dienst kan niet zeggen “oeps foutje” nadat iemand al jaren verdacht word, dus hou die zwarte doos lekker uit de buurt van me halve gare.
Wat ook meespeelt is dat medewerkers misschien te veel op zo’n systeem gaan vertrouwen omdat het snel en professioneel overkomt. Een fout van een computer wordt toch sneller geloofd dan een fout van een collega, dus blijf gewoon menselijk controleren.