← Case studies
Engineering · Agentische systemen

Agentische capaciteiten

De meeste agentische demo's werken één keer. Ze betrouwbaar laten werken in productie — met echte gebruikers, randgevallen en falende tools — is een vak apart. Zo ontwerpt LMXAI agentische systemen, en dit is het echte tool-ecosysteem waarin ze werken.

Orkestratie
LangGraph · LangChain
Toolprotocol
MCP-integratie
Betrouwbaar toolgebruik
LoRA fine-tune · BFCL-v3
Ingezet in
AI-diëtist · mdGPT

De aanpak

LMXAI bouwt agentische systemen op LangGraph en LangChain, met externe functies geïntegreerd via het Model Context Protocol (MCP). Maar orkestratie is maar de helft van het probleem — de lastigere helft is het onderliggende model betrouwbaar maken in het aanroepen van die tools.

Die betrouwbaarheid wordt gebouwd, niet aangenomen. Het basismodel wordt gefinetuned voor toolgebruik (LoRA / QLoRA) en met evalscope gevalideerd op BFCL-v3, HumanEval en GSM8K voordat het in een agentloop komt — hetzelfde proces waarmee mdAgent-Hermes-32B 82,3% haalde op onze interne BFCL-v3 single-turn-eval. Bij het productierijp maken komen daar gestructureerde retries, checkpoints met een mens in de loop en end-to-end tracing met OpenTelemetry en Phoenix bij.

De faalwijzen waartegen we ontwerpen

  • Hallucinatie bij toolgebruik — het model roept een echte tool aan met verkeerde of verzonnen argumenten.
  • Onherstelbare toestand — een mislukte stap heeft geen retry-logica of terugvalpad.
  • Stille fouten — de agent gaat door na een fout zonder die aan de gebruiker of in de trace te tonen.
  • Ontsporende loops — geen stopvoorwaarde, geen budget voor stappen of tokens.

Ontwerppatronen

Zes patronen die LMXAI consequent toepast in agentische systemen in productie.

Patroon 01

Orkestratie als graaf

Agents worden in LangGraph gemodelleerd als gerichte grafen in plaats van vrije loops. Elke toestandsovergang is expliciet, voorwaardelijk en bij elke stap te inspecteren.

Waarom: een graaftrace debuggen is een diff lezen; een vrije loop debuggen is archeologie.

Patroon 02

Betrouwbaar toolgebruik door fine-tuning

Standaardmodellen zijn niet betrouwbaar genoeg in function calling voor productie. Het basismodel wordt gefinetuned op geselecteerde tool-use-data en vóór de uitrol gevalideerd tegen BFCL-v3.

Waarom: mdAgent-Hermes-32B haalde via precies dit proces 82,3% op onze interne BFCL-v3 single-turn-eval.

Patroon 03

Toolintegratie via MCP

Externe functies worden aangeboden via het Model Context Protocol — een consistente, met schema's gevalideerde interface waarmee het model tools vindt en aanroept, zonder hardgecodeerde lijmcode.

Waarom: een tool toevoegen of vervangen wordt een schemawijziging, geen codewijziging.

Patroon 04

Checkpoints met een mens in de loop

Workflows met veel op het spel tonen expliciete goedkeuringsmomenten vóór ingrijpende acties, met interrupt/resume van LangGraph, zodat een mens de controle houdt zonder de uitvoeringsgraaf te breken.

Waarom: in de zorg en de financiële sector is een agent die niet te pauzeren is een risico.

Patroon 05

Gestructureerde retry & fallback

Elke node die een tool aanroept heeft een retrybudget met backoff, validatie van het outputschema en een terugvaltak die netjes terugschakelt in plaats van een corrupte toestand door te geven.

Waarom: een tijdelijke API-timeout mag een klinische workflow van tien stappen niet afbreken.

Patroon 06

End-to-end observability

Elke stap levert een gestructureerde trace via OpenTelemetry en Phoenix: welke node draaide, de in- en output van het model, welke tool met welke argumenten werd aangeroepen en de latency per stap.

Waarom: wat je niet ziet, kun je niet verbeteren — en toezichthouders vragen steeds vaker om audit trails.

Het tool-ecosysteem

Een concreet voorbeeld: de werkplektools die via MCP beschikbaar zijn voor de agents van mdGPT gaan veel verder dan chat — het model kan werken met documenten, data, kennissystemen en het web.

Documentverwerking

  • PDF / DOCX / PPTX lezen
  • OCR-pipeline (PyMuPDF + RapidOCR)
  • Documenten maken & bewerken
  • Exporteren naar DOCX / XLSX

Analyse van tabeldata

  • Schema, voorbeeld & samenvatting (Excel/CSV)
  • Filteren & group-by zoals in SQL
  • Waardeverdelingen
  • Correlatieanalyse

Zoeken & retrieval

  • Semantisch / vectorzoeken
  • Kennisbank bevragen
  • Grep over de hele werkplek
  • Zoeken binnen bestanden

Kennis & notities

  • Notion-pagina's & -databases
  • Pagina's maken / aanvullen
  • Notitiebeheer
  • Chatgeschiedenis doorzoeken

Agenda & taken

  • Afspraken zoeken / maken
  • Afspraken wijzigen & verwijderen
  • Takenlijsten
  • Geplande automatiseringen

Database (Snowflake)

  • Tabellen tonen
  • Tabelschema inspecteren
  • SQL-query's uitvoeren
  • Gestructureerde verwerking van resultaten

Financiële rekenhulpen

  • ROI, btw, kortingen
  • Leningen & samengestelde rente
  • Percentages
  • Valuta omrekenen

Web

  • Inhoud van een URL ophalen
  • Zoeken op het web
  • Antwoorden op basis van bronnen
  • Actuele informatie ophalen

Bestands- & werkplekbeheer

  • Werkplek doorbladeren / tonen
  • Verplaatsen, kopiëren, hernoemen
  • Mappen maken
  • Downloadlinks

Toegepast in productie

Klinische AI

AI-diëtist

Dieetplanningsagent op LangGraph met menselijke goedkeuring voordat een klinisch plan wordt geleverd — gebouwd om administratie voor behandelaars te verminderen, geen gepubliceerde productiviteitsstudie.

Case study
LLM Gateway

mdGPT Gateway

Agent in meerdere stappen met SSE-streaming over de volledige werkplektools, met isolatie per gebruiker en OTel-tracing bij elke stap.

Case study
Model · Fine-tune

mdAgent-Hermes-32B

LoRA-fine-tune met 82,3% op onze interne BFCL-v3 single-turn-eval — het betrouwbare fundament onder elke agent.

Case study

Stack

LangGraphLangChainMCPFastAPILoRA / QLoRABFCL-v3HumanEvalGSM8KevalscopeOpenTelemetryPhoenix