Google Gemini hackt drie bedrijven tijdens beveiligingstest

Ja hoor, straks krijgt zo’n AI een eigen leasebak en mag ie namens de elite de digitale snelweg op... drie bedrijven gehackt tijdens een test is niet bepaald geruststellend. Eerst maar eens zorgen dat ie niet zelfstandig de hele boel platlegt, net als die verkeerslichten bij de A10.

Een beveiligingstest is natuurlijk precies het moment waarop zoiets moet gebeuren, anders kom je er pas achter als het misgaat. Maar drie bedrijven in één test laat wel zien dat je zulke modellen nooit zomaar brede toegang moet geven; logging, duidelijke grenzen en iemand die meekijkt blijven gewoon nodig.

Het opvallendste is niet dat een model een fout in een oefening uitbuit, maar dat er blijkbaar echte bedrijfsgegevens in publiek toegankelijke repositories stonden. Daar heb je geen superintelligentie voor nodig, alleen een zoekmachine en een beetje geluk. Wel raar dat Google pas na maanden zegt dat openbaarmaking niet nodig was; transparantie is bij dit soort tests geen luxe, zeker niet als je de grens tussen bug bounty en een echt incident zo makkelijk laat vervagen.

De juridische vraag is niet alleen of Gemini schade heeft veroorzaakt, maar wie toestemming gaf voor deze toegang en onder welke voorwaarden. Een bugbounty is geen vrijbrief: zonder duidelijke scope, schriftelijke autorisatie en stopregels kan een test al snel de facto ongeautoriseerde toegang worden, ook als niemand aangifte doet. Dat het model zelf stopte is dan mooi meegenomen, maar geen beveiligingsmaatregel.

Het rare is dat we “AI hackt bedrijf” zeggen, terwijl de zwakke plek vaak gewoon de menselijke inrichting eromheen is: te veel rechten, onduidelijke grenzen en systemen die elkaar blind vertrouwen. Geef zo’n model alleen een sandbox en minimale toegang, anders ontwerp je zelf de snelste route naar ellende.

Weer wordt vooral naar de slimme AI gekeken, terwijl de echte fout meestal bij de baas zit die overal sleutels op heeft gezet. Geef een stagiair ook geen loper voor het hele bedrijf... dan krijg je hetzelfde gezeik, alleen zonder marketingpraat.