Orkestrasyon
LangGraph · LangChain
Çoğu ajanik demo bir kez çalışır. Bunları üretimde — gerçek kullanıcılar, uç durumlar ve araç hataları boyunca — güvenilir kılmak bir mühendislik disiplinidir. LMXAI ajanik sistemleri böyle tasarlar; işlettikleri gerçek araç ekosistemi de budur.
LMXAI ajanik sistemleri LangGraph ve LangChain üzerinde kurar; dış yetenekler Model Context Protocol (MCP) üzerinden entegre edilir. Ancak orkestrasyon sorunun yalnızca yarısıdır — daha zor olan yarı, alttaki modeli bu araçları çağırmada güvenilir kılmaktır.
Bu güvenilirlik varsayılmaz, mühendislikle üretilir. Temel model araç kullanımı için ince ayarlanır (LoRA / QLoRA) ve bir ajan döngüsüne girmeden önce evalscope ile BFCL-v3, HumanEval ve GSM8K üzerinde doğrulanır — mdAgent-Hermes-32B’yi dahili BFCL-v3 tek tur eval’inde %82,3’e taşıyan aynı süreç. Üretim sertleştirmesi ardından yapılandırılmış yeniden denemeler, insan-döngüde kontrol noktaları ve OpenTelemetry ve Phoenix ile uçtan uca izleme ekler.
LMXAI’nin üretim ajanik sistemlerinde tutarlı uygulanan altı kalıp.
Ajanlar serbest döngüler yerine LangGraph’ta yönlü graflar olarak modellenir. Her durum geçişi açıktır, koşulludur ve her adımda incelenebilir.
Raftan alınan modeller üretim için işlev çağırmada yeterince güvenilir değildir. Temel model küratörlenmiş tool-use verisi üzerinde ince ayarlanır ve dağıtımdan önce BFCL-v3 ile doğrulanır.
Dış yetenekler Model Context Protocol üzerinden sunulur — modelin sabit yapıştırma kodu olmadan araçları keşfedip çağırmasını sağlayan tutarlı, şema doğrulamalı bir arayüz.
Yüksek riskli iş akışları, sonuç doğuran eylemlerden önce açık onay kapıları gösterir; LangGraph’ın interrupt/resume’u ile yürütme grafı kırılmadan insan kontrolde kalır.
Her araç çağırma düğümünün backoff’lu bir yeniden deneme bütçesi, çıktı şeması doğrulaması ve bozuk durumu yaymak yerine zarifçe düşen bir yedek dalı vardır.
Her adım OpenTelemetry ve Phoenix üzerinden yapılandırılmış bir iz üretir: hangi düğüm çalıştı, model giriş/çıkışı, hangi araç hangi argümanlarla çağrıldı ve adım gecikmesi.
Somut bir örnek: mdGPT ajanlarına MCP üzerinden açılan çalışma alanı araç seti sohbetten çok daha fazlasını kapsar — modelin belgeler, veri, bilgi sistemleri ve web üzerinde eylem almasını sağlar.
Klinik plan tesliminden önce insan onayı olan LangGraph diyet planlama ajanı — klinisyen idari yükünü kesmek için tasarlandı; yayımlanmış bir verimlilik çalışması değil.
Vaka çalışmasıTam çalışma alanı araç seti üzerinde SSE-streaming çok adımlı ajan; her adımda kullanıcı başına izolasyon ve OTel izleme.
Vaka çalışmasıDahili BFCL-v3 tek tur eval’inde %82,3 LoRA ince ayarı — her ajanın altındaki güvenilir temel.
Vaka çalışması