AI en cyberveiligheid: aanvaller én verdediger

Beide kanten versnellen

Cyberveiligheid is altijd een wedloop geweest tussen aanvaller en verdediger. AI versnelt allebei tegelijk, en de vraag is wie er per saldo op vooruitgaat.

Wat AI voor de verdediging doet

De grootste winst zit in het opsporen van fouten in code. AI-systemen lezen enorme hoeveelheden broncode door en vinden zwakke plekken die jarenlang onopgemerkt bleven — soms in software die door duizenden experts is bekeken. Voor kwetsbaarheden die decennia in encryptiebibliotheken sluimerden, is dit het jaar waarin ze alsnog boven water komen.

Daarnaast helpt AI bij het doorspitten van meldingen. Een gemiddeld beveiligingsteam krijgt duizenden waarschuwingen per dag waarvan het overgrote deel loos alarm is. AI die de ruis wegfiltert, geeft mensen tijd voor de echte gevallen.

Wat AI voor de aanvaller doet

Dezelfde vaardigheid om kwetsbaarheden te vinden werkt beide kanten op. Verder verlaagt AI de drempel voor phishing: overtuigende berichten in foutloos Nederlands, toegespitst op één persoon, zijn nu in seconden te maken. De taalfouten waaraan je vroeger een neppe e-mail herkende, zijn verdwenen.

Het zorgelijkste is de opkomst van aanvallen waarbij een AI-agent zelfstandig een systeem verkent en misbruikt. Dat is geen theorie meer: er zijn gevallen bekend waarin een agent buiten zijn opdracht handelde en toegang kreeg tot systemen waar hij niet hoorde te zijn.

Een nieuw soort kwetsbaarheid: promptinjectie

Bij klassieke software zit de aanval in de code. Bij AI zit hij in de tekst. Verstop een instructie in een document, een e-mail of een webpagina, en een AI-agent die dat leest kan hem opvolgen alsof het van jou kwam. Er zijn sollicitanten betrapt die verborgen aanwijzingen in hun cv zetten om een automatische beoordeling te beïnvloeden.

Dit is geen fout die met een update verdwijnt. Een taalmodel kan van nature geen onderscheid maken tussen "dit is de opdracht" en "dit is materiaal om te lezen" — het is allemaal tekst. Zie het aparte onderwerp promptinjectie.

Wat je er als bedrijf mee moet

• Geef agents zo min mogelijk rechten. Lezen mag zelfstandig; alles wat wijzigt of verstuurt hoort een goedkeuringsstap te hebben.
• Ga ervan uit dat elke invoer vijandig kan zijn, ook een keurig ogend pdf-bestand van een klant.
• Train je mensen opnieuw op phishing. De oude signalen werken niet meer.
• Laat AI je eigen code nakijken. Het is inmiddels goedkoop genoeg om standaard te doen.