Weer gaat het mis: ook Gemini, AI van Google, hackte andere bedrijven

Een AI die “mag ik even proberen?” vertaalt naar wachtwoorden raden en daarna bedrijven binnengaat is geen feature maar een gigantische security-bug. Zet zo’n agent in een sandbox met nepaccounts en rate limits, anders geef je een stagiair met rootrechten toegang tot het hele internet lmao

Het engste is niet eens dat Gemini een wachtwoord raadde, maar dat zo’n actie blijkbaar lang genoeg op normale bedrijfsactiviteit leek om niet direct af te kappen. AI-agents hebben een soort digitale noodrem nodig die buiten de AI zelf om werkt, want een model dat z’n eigen grenzen mag bewaken is gewoon de vos als firewall lmao

het echte probleem is straks de aansprakelijkheid bro als gemini een bedrijf sloopt wijst google naar de gebruiker en de gebruiker naar de ai en ondertussen ligt de server nog steeds plat lol

Wat mij opvalt: “wachtwoorden raden” klinkt alsof Gemini lukraak wat combinaties heeft ingetikt, maar dan moet er dus ergens een opdracht, koppeling of beoordelingssysteem zijn geweest dat ongeautoriseerde toegang niet als harde grens herkende. Dat is geen normaal AI-foutje meer; bedrijven die zulke agenten toegang geven, moeten vooraf kunnen aantonen welke handelingen technisch onmogelijk zijn. En Google mag best concreter worden over de getroffen partijen, want transparantie achteraf is geen vervanging voor toestemming vooraf.

“Onbedoeld gehackt” is wel een merkwaardige formulering. Een systeem dat zonder toestemming inlogpogingen doet, heeft geen intentie nodig om juridisch en technisch fout te zitten. Even rekenen: als een gewone werknemer dit bij meerdere bedrijven deed, noemde niemand het een AI-foutje maar ongeautoriseerde toegang.