AI koppelen aan je eigen software: wat komt daar bij kijken?

Het verschil met een chatvenster

In een chatvenster typ jij de vraag en lees jij het antwoord. Bij een koppeling doet je eigen software dat: hij stelt de vraag, krijgt het antwoord terug, en doet er iets mee. Een factuur die automatisch wordt ingeboekt, een klantmail die alvast een conceptantwoord krijgt, een melding die naar de juiste afdeling gaat.

Technisch is dat een kleine stap — een paar regels code. In de praktijk is het een andere wereld, want er is geen mens meer die het antwoord nog even bekijkt voordat er iets mee gebeurt.

Wat je moet regelen

• Een sleutel, en een plek om hem te bewaren. Nooit in de code die naar de browser gaat. Een sleutel in een webpagina is een sleutel die iedereen kan gebruiken, op jouw rekening.
• Een vaste vorm voor het antwoord. Vraag om een afgebakend formaat, niet om vrije tekst die je daarna moet uitpluizen. Wat je niet kunt uitlezen, kun je niet gebruiken.
• Een plan voor als het antwoord niet klopt. Niet als uitzondering maar als normaal geval. Wat gebeurt er met wat het model niet kon bepalen?
• Een rem op de kosten. Een lus die per ongeluk duizend keer dezelfde vraag stelt, is geen theoretisch risico.
• Logboek. Bewaar wat je vroeg en wat er terugkwam. Zonder dat kun je een klacht over een verkeerd antwoord niet onderzoeken.
• Een duidelijke grens tussen voorstellen en doen. Hierover gaat de volgende paragraaf, want dit is waar het misgaat.

Waar het meestal op stuk loopt

Te snel laten handelen in plaats van voorstellen. Een systeem dat voorstelt en een mens dat goedkeurt, is bijna altijd de juiste eerste versie. Niet omdat de techniek het niet kan, maar omdat je in die fase ontdekt hoe vaak het fout gaat en waarin. Dat weet je vooraf niet. Pas als je maanden hebt gezien dat de voorstellen kloppen, is zelfstandig doorzetten een verdedigbare keuze — en dan alleen voor de gevallen waarvan je weet dat ze goed gaan.

Vergeten dat invoer van buiten instructies kan bevatten. Dit is de belangrijkste: als je systeem teksten verwerkt die van buiten komen — e-mails, formulieren, documenten, webpagina's — dan kan daar tekst in staan die bedoeld is om jouw AI iets anders te laten doen dan jij wilt. Een regel in een e-mail die zegt dat eerdere opdrachten niet meer gelden. Zolang het model alleen tekst teruggeeft die een mens leest, is dat hinderlijk. Zodra het model iets mág doen, is het een veiligheidslek.

Waar te beginnen

Kies één taak die vaak voorkomt, duidelijk afgebakend is en waarbij een fout niet meteen schade oplevert. Post sorteren is een goed begin. Betalingen goedkeuren niet.

Bouw het dan eerst als iets dat voorstelt, laat het een maand meelopen naast de huidige werkwijze, en vergelijk. Dat kost een maand en het spaart het soort fout uit dat je vertrouwen in het hele idee kost.