← Alle inzichten
FAQ · RAG & agents

Veelgestelde vragen over RAG en AI-agents in productie

Antwoorden voor kopers en engineers over RAG in productie, toolgebruik, evaluatie, rechten en de veiligheid van agents.

LMXAI · Leiden, NL · Gepubliceerd · Herzien

Samenvatting

Tien vragen die kopers en engineers stellen over retrieval-augmented generation en AI-agents in productie: hoe die twee verschillen, waarom demo's mislukken, wat u meet, hoe u toolgebruik betrouwbaar maakt, hoe rechten en logging moeten werken en wanneer zelf hosten helpt. De antwoorden zijn kort en operationeel, en worden gezet tegenover het onderzoek naar faalpunten van RAG, evaluatieraamwerken en benchmarks voor agents.

Trefwoorden RAG · AI-agents · evaluatie · toolgebruik · rechten · LangGraph

Inhoud

  1. Achtergrond en verwant werk
  2. Wat is het verschil tussen RAG en een AI-agent?
  3. Waarom mislukken RAG-demo's vaak in productie?
  4. Wat moet u meten in een RAG-systeem?
  5. Wanneer moet een agent tools gebruiken in plaats van de kennis van het model?
  6. Hoe maken we toolgebruik betrouwbaar?
  7. Is LangGraph nodig voor agents in productie?
  8. Hoe moeten rechten werken bij een zakelijke agent?
  9. Welke logs moet een agent bijhouden?
  10. Hoe voorkomen we dat een agent onveilige acties uitvoert?
  11. Wanneer is zelf hosten nuttig voor RAG en agents?
01

Achtergrond en verwant werk

RAG combineert een generator met een doorzoekbare index en geeft bij kennisintensieve taken specifiekere en feitelijkere output dan een model alleen[1]. In de praktijk noemt een ervaringsrapport over drie cases zeven faalpunten en concludeert het dat validatie pas tijdens gebruik goed mogelijk is[2]. Daarvoor bestaan evaluatieraamwerken: RAGAs meet trouw aan de bron, relevantie van het antwoord en relevantie van de context zonder referentieantwoorden[3], en ARES kalibreert lichte beoordelingsmodellen tegen een kleine door mensen geannoteerde set om scores met betrouwbaarheidsintervallen te geven[4]. Ook de positie telt: modellen presteren het best als relevante informatie aan het begin of eind van de input staat[5].

Voor agents is het afwisselen van redeneren en acties het basispatroon[6], maar benchmarks laten de grenzen zien. Modellen handelen enkelvoudige function calls goed af en worstelen met geheugen en taken met een lange horizon[7], en de beste agents voltooiden minder dan de helft van de taken in τ-bench en waren inconsistent over herhaalde pogingen[8]. Opgehaalde content is bovendien een aanvalskanaal, omdat verborgen instructies een model kunnen sturen en toolaanroepen kunnen uitlokken[9].

02

Wat is het verschil tussen RAG en een AI-agent?

RAG haalt relevante informatie op en voegt die vóór het genereren toe aan de context van het model. Een agent voegt besluitvorming en toolgebruik toe: hij kan acties kiezen, API's aanroepen, systemen doorzoeken, records bijwerken of een workflow in meerdere stappen uitvoeren. Veel productiesystemen gebruiken beide.

03

Waarom mislukken RAG-demo's vaak in productie?

Veelvoorkomende oorzaken zijn zwakke documentparsing, verouderde indexen, slechte chunking, ontbrekende toegangscontrole, retrieval van lage kwaliteit, geen evaluatieset en geen observability. Een demo kan er goed uitzien op zorgvuldig gekozen voorbeelden en toch falen op echte vragen van gebruikers.

04

Wat moet u meten in een RAG-systeem?

Meet de kwaliteit van de retrieval apart van de kwaliteit van het antwoord. Nuttige signalen zijn recall of hitrate op relevant bewijs, correcte bronvermelding, onderbouwing, volledigheid van het antwoord, latency, kosten en foutpercentage. Evaluatie moet representatieve vragen uit het domein gebruiken, geen generieke prompts.

05

Wanneer moet een agent tools gebruiken in plaats van de kennis van het model?

Gebruik tools als het antwoord afhangt van actuele, gezaghebbende of private data, of als het systeem een actie moet uitvoeren. Voorbeelden zijn een interne database doorzoeken, een lopende bestelling controleren, een ticket aanmaken of een actueel beleidsdocument ophalen.

06

Hoe maken we toolgebruik betrouwbaar?

Gebruik begrensde schema's, smalle toolbeschrijvingen, deterministische validatie, retries waar dat zinvol is en een evaluatieset die toolkeuze en correcte argumenten meet. De betrouwbaarheid van tools moet expliciet worden getest, niet worden afgeleid uit algemene benchmarks voor taalmodellen.

07

Is LangGraph nodig voor agents in productie?

Nee. Het is één optie voor orkestratie. De belangrijke ontwerpeigenschappen zijn expliciete toestand, beheersbare overgangen, afhandeling van retries en fouten, observability en testbaarheid. LangGraph is nuttig als workflows vertakkingen, loops, tools en langlopende toestand bevatten.

08

Hoe moeten rechten werken bij een zakelijke agent?

De agent mag nooit ruimere rechten hebben dan de gebruiker of workload die hij vertegenwoordigt. Toegang tot tools moet worden afgebakend op identiteit, rol, tenant en actie. Ook retrieval moet rechten op documentniveau afdwingen voordat content het model bereikt.

09

Welke logs moet een agent bijhouden?

Leg de identiteit achter het verzoek vast, het model en de versie, het opgehaalde bewijs, toolaanroepen, toolresultaten, belangrijke toestandsovergangen, latency en het eindresultaat. Gevoelige payloads moeten mogelijk worden afgeschermd of beheerst bewaard, maar het systeem moet genoeg bewijs bewaren voor debugging en audits.

10

Hoe voorkomen we dat een agent onveilige acties uitvoert?

Gebruik tools met minimale rechten, allowlists, validatie, transactiegrenzen en goedkeuringspoorten voor acties met grote impact. Het model moet acties voorstellen binnen een beheerst systeem, niet onbeperkte toegang krijgen tot productie-infrastructuur.

11

Wanneer is zelf hosten nuttig voor RAG en agents?

Zelf hosten is aantrekkelijk als datasoevereiniteit, privacy, voorspelbare kosten, controle over het model of onafhankelijkheid van hyperscalers belangrijk zijn. Het laat de organisatie ook retrieval, modelinferentie, logs en toolintegraties binnen één beheerste omgeving houden.

Verder lezen

Referenties

  1. Lewis, P., Perez, E., Piktus, A., Petroni, F., Karpukhin, V., et al. (2020). Retrieval-augmented generation for knowledge-intensive NLP tasks. Advances in Neural Information Processing Systems 33 (NeurIPS 2020). arxiv.org/abs/2005.11401
  2. Barnett, S., Kurniawan, S., Thudumu, S., Brannelly, Z., & Abdelrazek, M. (2024). Seven failure points when engineering a retrieval augmented generation system. Proceedings of the IEEE/ACM 3rd International Conference on AI Engineering – Software Engineering for AI (CAIN 2024), 194–199. doi:10.1145/3644815.3644945 arxiv.org/abs/2401.05856
  3. Es, S., James, J., Espinosa-Anke, L., & Schockaert, S. (2024). RAGAs: Automated evaluation of retrieval augmented generation. Proceedings of EACL 2024: System Demonstrations. aclanthology.org/2024.eacl-demo.16/
  4. Saad-Falcon, J., Khattab, O., Potts, C., & Zaharia, M. (2024). ARES: An automated evaluation framework for retrieval-augmented generation systems. Proceedings of NAACL 2024. aclanthology.org/2024.naacl-long.20/
  5. Liu, N. F., Lin, K., Hewitt, J., Paranjape, A., Bevilacqua, M., Petroni, F., & Liang, P. (2024). Lost in the middle: How language models use long contexts. Transactions of the Association for Computational Linguistics, 12. aclanthology.org/2024.tacl-1.9/
  6. Yao, S., Zhao, J., Yu, D., Du, N., Shafran, I., Narasimhan, K., & Cao, Y. (2023). ReAct: Synergizing reasoning and acting in language models. International Conference on Learning Representations (ICLR 2023). arxiv.org/abs/2210.03629
  7. Patil, S. G., Mao, H., Yan, F., Ji, C. C.-J., Suresh, V., Stoica, I., & Gonzalez, J. E. (2025). The Berkeley Function Calling Leaderboard (BFCL): From tool use to agentic evaluation of large language models. Proceedings of the 42nd International Conference on Machine Learning (ICML 2025), PMLR 267. proceedings.mlr.press/v267/patil25a.html
  8. Yao, S., Shinn, N., Razavi, P., & Narasimhan, K. (2024). τ-bench: A benchmark for tool-agent-user interaction in real-world domains. arXiv preprint arXiv:2406.12045. arxiv.org/abs/2406.12045
  9. Greshake, K., Abdelnabi, S., Mishra, S., Endres, C., Holz, T., & Fritz, M. (2023). Not what you've signed up for: Compromising real-world LLM-integrated applications with indirect prompt injection. Proceedings of the 16th ACM Workshop on Artificial Intelligence and Security (AISec '23). doi:10.1145/3605764.3623985 arxiv.org/abs/2302.12173

Elke referentie is gecontroleerd bij de uitgever, arXiv of de officiële bron.

Citeren

LMXAI. (2026). Veelgestelde vragen over RAG en AI-agents in productie. LMXAI Inzichten. https://lmxai.com/nl/insights/production-rag-ai-agents-faq.html