AI-basis
Wat is een hallucinatie bij AI?
Een hallucinatie is een antwoord dat een AI-model met volle overtuiging geeft en dat niet klopt: een prijs die niet bestaat, een regel die nooit is afgesproken, een bron die verzonnen is. Het model liegt niet, het kiest het meest waarschijnlijke antwoord — ook wanneer het het juiste antwoord niet heeft.
Ook wel: AI-hallucinatie · Verzonnen antwoord
Dit is het risico dat het meeste kwaad kan in klantcontact. Een assistent die een levertijd of een korting verzint, doet een toezegging waar jij aan vastzit.
Er zijn drie dingen die werken, en geen ervan is "een beter model kiezen". Eén: laat de AI alleen antwoorden uit jouw eigen documenten, via RAG. Twee: leg in de systeemprompt vast dat hij bij twijfel doorverwijst in plaats van gokt. Drie: haal alles wat hard is — prijzen, voorwaarden, beschikbaarheid — uit een echte bron in plaats van uit het model.
Wat niet werkt is erop vertrouwen dat het wel goed komt omdat het in de test goed ging. Een hallucinatie is per definitie het geval dat je niet hebt getest. Daarom bouwen we er een controlelaag omheen en meten we gesprekken achteraf terug.
Verwante begrippen
Wat is RAG?
RAG staat voor retrieval-augmented generation. Het is de techniek waarbij een AI eerst de relevante stukken uit jouw eigen documenten opzoekt en pas daarna antwoord geeft, op basis van wat hij heeft gevonden. Zo beantwoordt een model vragen over jouw prijzen en processen zonder dat het daarop getraind is.
Lees verderWat is een LLM?
Een LLM of large language model is een AI-model dat getraind is op grote hoeveelheden tekst en daarmee voorspelt welk woord logischerwijs volgt. Daar komt het schrijven, samenvatten en beantwoorden van vragen uit voort. Het model begrijpt niets; het herkent patronen in taal, heel precies en op enorme schaal.
Lees verderWat is human in the loop?
Human in the loop betekent dat een mens in het proces zit op de plek waar het ertoe doet: de AI bereidt voor, een mens keurt goed voordat het naar buiten gaat. Het is de goedkoopste manier om AI in te zetten zonder het risico te lopen dat een fout meteen bij de klant belandt.
Lees verder