SDK wrappers (LangChain, LlamaIndex)
Wrapper de uma linha para usuários de frameworks.
SDK wrappers estão planejados, mas não estão disponíveis no MVP atual. Se seu agente roda por LangChain ou LlamaIndex, o wrapper previsto é uma linha ao redor da chain ou query engine existente. Até isso sair, use proxy mode.
O que o wrapper faz
O SDK wrapper se conecta ao sistema nativo de callbacks de cada framework. LangChain expõe callbacks no nível da chain; LlamaIndex expõe no nível da query engine. A rendfly registra um callback que captura cada conversa — a sequência completa de mensagens, tool calls e respostas do modelo — e envia para o pipeline de eval da rendfly de forma assíncrona depois que a resposta volta para sua aplicação.
Suas chamadas de modelo vão diretamente da sua aplicação para o provider. A rendfly nunca entra nesse caminho. O callback dispara depois do fato, então o overhead é uma pequena escrita assíncrona em vez de um salto extra de rede no caminho crítico.
Uso ilustrativo
Quando o SDK sair, é assim que o wrapper de um setup existente de LangChain ou LlamaIndex deve parecer. Estes imports e assinaturas são ilustrativos — representam a API planejada, não código funcional hoje.
LangChain Python:
from rendfly.langchain import wrap
# sua chain existente, sem mudança
chain = ConversationChain(llm=llm, memory=memory)
# wrapper de uma linha — conversas são enviadas ao seu projeto rendfly
monitored_chain = wrap(chain, project_key="rfk_proj_...")LlamaIndex Python:
from rendfly.llamaindex import wrap
# sua query engine existente, sem mudança
query_engine = index.as_query_engine()
# wrapper de uma linha
monitored_engine = wrap(query_engine, project_key="rfk_proj_...")Depois do wrapper, chame monitored_chain.run(...) ou monitored_engine.query(...) exatamente como antes. O wrapper é transparente no ponto de chamada.
Trade-offs vs proxy mode
Nenhuma abordagem é universalmente melhor — depende do seu setup:
SDK wrappers:
- Menor overhead de latência (callback assíncrono, sem salto extra de rede)
- Integração mais próxima com o framework — funciona mesmo se o framework gerencia o roteamento de provider internamente
- Exige instalar o pacote da rendfly e uma pequena mudança de código
- Específico por linguagem: wrappers Python primeiro, outros conforme demanda
Proxy mode:
- Sem instalação de SDK, sem mudança de código além de
base_url - Agnóstico de linguagem: funciona com qualquer cliente HTTP em qualquer linguagem
- Adiciona um pequeno salto de rede (meta de ≤30ms p99)
- Funciona com chamadas API diretas, não apenas agentes no nível de framework
Se você roda um agente LangChain para um help bot no Slack ou um agente LlamaIndex sobre uma base de conhecimento, o SDK wrap provavelmente é o caminho mais limpo. Se seu agente é um serviço TypeScript chamando OpenAI diretamente, proxy mode é mais simples.
E outros frameworks?
Se você usa Vercel AI SDK, Mastra, AutoGen, CrewAI ou qualquer outro — proxy mode cobre você sem dependência de SDK. SDK wrappers vão expandir além de LangChain e LlamaIndex conforme o que as pessoas realmente usam. Se quiser priorizar um framework específico, envie email para hi@rendfly.com dizendo o que você roda.
Relacionado
- Proxy mode — a alternativa agnóstica de linguagem que não exige instalar SDK