Hallucinaties
Ook een agent met goede bronnen kan iets verzinnen. Een hallucinatie is een antwoord dat overtuigend klinkt, maar niet klopt.
Waarom een agent iets verzint
Een taalmodel voorspelt het meest waarschijnlijke antwoord. Staat het antwoord niet in de bron, dan vult het model het gat vaak op met iets dat logisch klinkt.
Ook een slecht leesbare bron leidt tot fouten. Leest de agent een PDF-tabel verkeerd, dan noemt hij met dezelfde stelligheid het verkeerde cijfer.
Zo beperk je het
- Geef goede bronnen. Zie Documenten voorbereiden.
- Zeg wat hij moet doen als hij het niet weet. Bijvoorbeeld: "Staat het antwoord niet in de bron, zeg dat dan en verwijs naar de afdeling HR." Dat is vraag 3 van het agent-canvas.
- Zet Alleen opgegeven bronnen gebruiken aan. De agent geeft dan voorrang aan je eigen bronnen. Algemene kennis blijft beschikbaar, dus de instructie hierboven blijft nodig.
- Test met een vraag die niet in de bron staat. Zegt de agent eerlijk dat hij het niet weet, of verzint hij een antwoord?
Waar je op let
- cijfers, bedragen en datums die niet in de bron staan;
- namen van mensen, afdelingen of producten die net niet kloppen;
- verwijzingen naar documenten of paragrafen die niet bestaan;
- een antwoord dat klopt, maar niet past bij de vraag.
De VAK-check
Loop een antwoord van je agent na voordat je het gebruikt:
- Verifieerbaar
- Kun je de feiten, cijfers en namen terugvinden in de bron?
- Accuraat
- Kloppen de details? Geen rekenfouten of verkeerd overgenomen gegevens?
- Kloppend
- Past het bij wat jij weet? Zou een collega met verstand van zaken hetzelfde zeggen?
Jij blijft eindredacteur
Wat de agent maakt, is een concept. Zie je steeds dezelfde fout, pas dan de bron of de instructie aan. Een fout die je één keer verhelpt, hoef je daarna niet bij elk antwoord opnieuw te corrigeren.
Stand: oktober 2026.