AI en de online veiligheid van kinderen

Van filters naar meelezen

Ouderlijk toezicht was jarenlang simpel: bepaalde websites blokkeren, schermtijd begrenzen. AI maakt iets anders mogelijk. Software leest nu mee met berichten en zoekopdrachten, en slaat alarm bij signalen van pesten, zelfbeschadiging of contact met volwassenen die zich voordoen als leeftijdsgenoot.

Dat is een wezenlijk andere ingreep. Een filter zegt "hier mag je niet heen". Meelezende software zegt tegen een ouder wat een kind aan een vriend schreef.

Wat het aantoonbaar oplevert

Er zijn gevallen waarin zulke systemen tijdig aan de bel trokken bij kinderen die het zelf niet konden zeggen. Voor ouders van kwetsbare tieners is dat geen abstracte afweging maar een reëel argument.

Waar onderzoekers voor waarschuwen

Uit gesprekken met jongeren die ermee opgroeiden komt een terugkerend patroon naar voren. Wie weet dat er meegelezen wordt, praat niet minder over moeilijke dingen — maar wél ergens anders. Het gesprek verhuist naar apps die de ouders niet kennen, en daarmee valt juist het zicht weg dat de software moest opleveren.

Het tweede punt is vertrouwen. Een tiener die ontdekt dat berichten zijn meegelezen zonder dat het besproken was, deelt daarna structureel minder — ook offline. Dat effect blijkt langer aan te houden dan de aanleiding.

Wat wél lijkt te werken

• Vooraf vertellen wat er wordt bekeken en waarom. Toezicht dat bekend is, beschadigt het vertrouwen aanzienlijk minder.
• Signalen in plaats van inhoud. Een melding dat er iets zorgelijks speelt, zonder dat de ouder het hele gesprek leest.
• Meebewegen met de leeftijd. Wat redelijk is bij tien is dat niet meer bij zestien.
• Het gesprek als doel, niet het rapport. De software is een aanleiding om te praten, geen vervanging ervan.

De juridische kant

Kinderen hebben eigen privacyrechten, ook tegenover hun ouders. Naarmate een kind ouder wordt, weegt dat zwaarder. Voor scholen ligt het strenger dan voor ouders: een school die leerlingen volgt, verwerkt persoonsgegevens van minderjarigen en moet aantonen dat het noodzakelijk en proportioneel is.

Onder de Europese AI-verordening gelden bovendien extra eisen voor systemen die gedrag van kwetsbare groepen beoordelen.