AI-basis
Wat is een LLM?
Een LLM of large language model is een AI-model dat getraind is op grote hoeveelheden tekst en daarmee voorspelt welk woord logischerwijs volgt. Daar komt het schrijven, samenvatten en beantwoorden van vragen uit voort. Het model begrijpt niets; het herkent patronen in taal, heel precies en op enorme schaal.
Ook wel: Large language model · Taalmodel · Groot taalmodel
Praktisch gezien is een LLM de motor onder bijna alles wat je tegenwoordig AI hoort noemen: de chatbot op een website, de assistent die je mail samenvat, de agent die de telefoon aanneemt. Bekende voorbeelden zijn de Claude-modellen van Anthropic, Gemini van Google en GPT van OpenAI.
Het belangrijkste om te onthouden voor je bedrijf: een LLM weet niets van jou. Hij is getraind op openbare tekst met een einddatum, en kent je prijzen, je voorraad of je klanten niet. Wil je dat hij daar wél iets zinnigs over zegt, dan moet je die gegevens er op het moment van de vraag bij aanleveren. Dat heet RAG.
Een LLM kiest bovendien altijd een antwoord, ook als hij het niet weet. Dat is geen storing maar de manier waarop het ding werkt, en het is precies waarom een systeem eromheen nodig is dat controleert, begrenst en waar nodig doorverwijst naar een mens.
Wil je weten wat dit voor je bedrijf betekent in plaats van wat het is? Dat staat op AI op maat.
Verwante begrippen
Wat is RAG?
RAG staat voor retrieval-augmented generation. Het is de techniek waarbij een AI eerst de relevante stukken uit jouw eigen documenten opzoekt en pas daarna antwoord geeft, op basis van wat hij heeft gevonden. Zo beantwoordt een model vragen over jouw prijzen en processen zonder dat het daarop getraind is.
Lees verderWat is een hallucinatie bij AI?
Een hallucinatie is een antwoord dat een AI-model met volle overtuiging geeft en dat niet klopt: een prijs die niet bestaat, een regel die nooit is afgesproken, een bron die verzonnen is. Het model liegt niet, het kiest het meest waarschijnlijke antwoord — ook wanneer het het juiste antwoord niet heeft.
Lees verderWat is een token bij AI?
Een token is het stukje tekst waarin een AI-model rekent: ongeveer drie kwart van een woord. Modellen knippen elke invoer en elk antwoord op in tokens, en rekenen per duizend tokens af. Een pagina tekst is ruwweg 500 tokens, een gemiddeld chatgesprek een paar duizend.
Lees verder