Waarom gebeurt het?
Een taalmodel voorspelt het meest waarschijnlijke volgende woord; het zoekt niet naar waarheid. Heeft het de feiten niet, dan genereert het toch een vloeiend, zelfverzekerd antwoord, soms volledig verzonnen. Het model "weet" niet dat het iets niet weet.
Een hallucinatie is geen leugen, het model gokt overtuigend.
Waarom is dat een risico voor bedrijven?
Een AI die zonder jouw data antwoordt, kan een klant een fout cijfer, een onbestaande regel of een verkeerde procedure geven, en dat klinkt even geloofwaardig als een juist antwoord. Schijnzekerheid is gevaarlijker dan "ik weet het niet".
Hoe verminder je hallucinaties?
- RAG: geef het model jouw echte bronnen op het moment van de vraag, zodat het daarop steunt.
- Bronvermelding: laat de assistent verwijzen naar de pagina of het document waar het antwoord vandaan komt.
- "Ik weet het niet": het model laten toegeven wanneer de info ontbreekt, in plaats van te gokken.
- Menselijke controle bij gevoelige antwoorden.
Verwante begrippen
- RAG: de techniek die hallucinaties helpt voorkomen.
- Vector store: levert de juiste bronnen aan het model.
- Embeddings: maken het ophalen van die bronnen mogelijk.
