Wat is een AI-hallucinatie?

Waarom het gebeurt

Een taalmodel voorspelt waarschijnlijke tekst. Vraag je naar een wetsartikel dat het niet kent, dan is “artikel 14, lid 3” een plausibel vervolg: het ziet eruit als een wetsartikel en het klinkt als een wetsartikel. Of het bestaat, is voor het model geen categorie.

Dat verklaart een patroon dat tegen je gevoel ingaat: hoe specifieker en formeler een antwoord klinkt, hoe voorzichtiger je moet zijn. Vage antwoorden zijn zelden verzonnen, precieze antwoorden soms wel.

Wat het risico verkleint

Geef bronnen mee: een model dat het contract, de handleiding of de prijslijst voor zich heeft, hoeft niets te verzinnen. Dit is verreweg de beste maatregel.

Vraag om de vindplaats: “citeer letterlijk de zin waarop je dit baseert” laat direct zien of er iets onder het antwoord ligt.

Maak controle een regel: leg in je AI-beleid vast welke soorten output altijd gecontroleerd worden voordat ze naar buiten gaan. Denk aan cijfers, wetsartikelen, namen, citaten en toezeggingen.

Let op waar de output landt: een hallucinatie in een interne conceptnotitie is lastig. Dezelfde hallucinatie in een offerte of een juridisch stuk is een probleem.

Waar het in de praktijk toe doet

Drie situaties komen steeds terug. Een medewerker neemt een cijfer over in een klantpresentatie zonder de bron te checken. Iemand laat AI een juridische of fiscale tekst schrijven en gaat ervan uit dat de verwijzingen kloppen. Of een agent die zelf meerdere stappen zet, bouwt voort op een fout uit een eerdere stap.

Dat laatste wordt het vaakst onderschat: in een keten van stappen valt een fout niet op, maar werkt hij door. Concrete maatregelen staan in AI-hallucinaties voorkomen.