AI bij de overheid

Waarom het hier anders ligt

Een bedrijf dat een verkeerde aanbeveling doet, verliest een verkoop. Een overheid die een verkeerde beslissing neemt, raakt iemands inkomen, verblijfsvergunning of toeslag. Bij de overheid is de foutmarge dus geen bedrijfsrisico maar een grondrechtenkwestie.

Daar komt bij dat een burger niet kan weglopen. Wie de dienstverlening van een bedrijf niet vertrouwt, gaat elders heen; bij de Belastingdienst is dat geen optie.

Waar het wordt ingezet

• Documentverwerking. Aanvragen uitlezen, ontbrekende bijlagen signaleren, post routeren. Weinig omstreden en levert veel tijd op.
• Vertalen en vereenvoudigen. Ambtelijke brieven omzetten naar begrijpelijke taal — een van de nuttigste toepassingen voor burgers.
• Beeldanalyse. Luchtfoto's beoordelen voor ruimtelijke ordening, infrastructuur inspecteren op schade.
• Interne kennisontsluiting. Ambtenaren die regelgeving en eerdere besluiten doorzoekbaar krijgen.
• Risicoselectie. Bepalen welke aanvragen extra aandacht krijgen. Dit is de gevoeligste categorie.

De les van de toeslagenaffaire

Bij de kinderopvangtoeslag werden gezinnen jarenlang onterecht als fraudeur aangemerkt, mede door geautomatiseerde risicoselectie waarin kenmerken meewogen die dat niet hadden mogen doen. De gevolgen waren verwoestend en het duurde jaren voordat het werd erkend.

Drie dingen gingen structureel mis, en die zijn niet uniek voor Nederland. Het systeem was niet uitlegbaar, dus niemand kon nagaan waaróm iemand eruit werd gepikt. Er was geen echte menselijke toets — het oordeel van het systeem werd overgenomen. En er was geen werkende bezwaarroute: wie zei dat het niet klopte, werd niet gehoord.

Wat de regels nu eisen

Onder de Europese AI-verordening geldt AI die toegang tot voorzieningen bepaalt als hoogrisicotoepassing. Dat brengt verplichtingen mee rond documentatie, uitlegbaarheid, menselijk toezicht en het toetsen op scheefheid. Overheden moeten bovendien openbaar maken welke algoritmes ze gebruiken.

Waar het wel goed werkt

Opvallend genoeg zit de meeste winst in de saaiste toepassingen. Post sneller routeren, brieven begrijpelijker maken, ambtenaren hun eigen regelgeving laten doorzoeken. Geen krantenkoppen, geen grondrechtenvraagstukken, en direct merkbaar voor wie op een antwoord wacht.