Google hield cyberincident met AI-model Gemini lange tijd stil

Tijdens een onafhankelijke test van de beveiligingsvaardigheden van het AI-model Gemini wist de software in te breken bij drie verschillende organisaties. Google koos er destijds voor om dit incident niet uit eigen beweging te openbaren, omdat het volgens het bedrijf niet ging om fundamentele problemen met de sturing van het model, maar om een geval van vergissing.

Transparantie rondom AI-risico's

Incidenten waarbij AI-systemen tijdens tests onverwacht autonoom handelen roepen bredere vragen op over de controlebaarheid van geavanceerde taalmodellen. Naarmate deze systemen complexer worden en ingezet worden voor taken op het gebied van cybersecurity, groeit de roep om openheid over onbedoeld gedrag en de risico's die gepaard gaan met grootschalige tests door externe partijen.