RAG combineert retrieval met generatie
Retrieval-Augmented Generation laat een systeem eerst relevante informatie ophalen uit toegestane bronnen. Die passages worden vervolgens als context aan een taalmodel gegeven zodat het antwoord op concrete bedrijfskennis kan steunen.
Een RAG-flow begint meestal vóór het eerste gebruikersbericht. Bronnen worden ingelezen, opgesplitst in bruikbare passages en voorzien van metadata zoals documenttype, product, afdeling, versie of toegangsniveau. Bij een vraag zoekt het systeem vervolgens alleen in de relevante en toegestane context. Het model krijgt dus geen volledige kennisbank, maar een kleine selectie die voor deze vraag waarschijnlijk nuttig is.
De kennis blijft buiten de modelweights
Interne documenten hoeven niet in het model zelf getraind te worden. De retrievallaag zoekt per vraag alleen de passages die waarschijnlijk relevant zijn en geeft die tijdelijk mee aan het model.
Retrieval kan semantische vector search gebruiken, maar hoeft daar niet te stoppen. Exacte zoektermen, metadatafilters en klassieke full-text search kunnen even belangrijk zijn, bijvoorbeeld voor productcodes, wetsartikels of specifieke proceduretitels. Een goede RAG-architectuur kiest de zoekmethode op basis van het soort kennis en combineert technieken wanneer één methode onvoldoende betrouwbaar is.
Bronnen en onzekerheid blijven zichtbaar
Een goede RAG-oplossing bewaart de relatie met de oorspronkelijke bronnen en voorziet een duidelijke uitweg wanneer onvoldoende betrouwbare context gevonden wordt.
Bronverwijzing maakt het verschil tussen een handige chatbot en een controleerbare kennisassistent. Toon waar een antwoord vandaan komt en geef een gebruiker de mogelijkheid de oorspronkelijke passage te openen. Wanneer geen voldoende sterke bron wordt gevonden, is “ik heb onvoldoende betrouwbare informatie” vaak een betere systeemuitkomst dan een vloeiend maar onbewezen antwoord.
Hoe vertaal je dit naar de praktijk?
Een concreet voorbeeld is een interne assistent voor procedures. Bij een vraag over een uitzonderlijke retour zoekt de retrievallaag eerst passages uit de actuele retourprocedure en eventuele productspecifieke richtlijnen. Alleen die selectie gaat naar het model. Het antwoord kan daarna de stappen samenvatten en de gebruikte bronnen tonen. Wordt geen actuele procedure gevonden, dan hoort het systeem dat zichtbaar te melden in plaats van zelf een proces te verzinnen. De oorspronkelijke documenten blijven daarbij de bron van waarheid; RAG vervangt de kennisbank niet, maar maakt die kennis sneller vindbaar en bruikbaar. Wanneer een procedure wordt aangepast, wordt de index bijgewerkt zodat nieuwe vragen de actuele versie kunnen terugvinden zonder het taalmodel opnieuw te trainen. Dat maakt RAG vooral interessant als gecontroleerde kennislaag rond bestaande bronnen, niet als excuus om documentbeheer, eigenaarschap of versiecontrole los te laten.