RAG event-driven sobre bases de conhecimento multi-tenant
- Problema
- A IA conversacional de uma plataforma B2B multi-tenant respondia a partir da base de conhecimento de cada tenant, mas o custo de infraestrutura crescia mais rápido que o uso conforme tenants e workflows LLM se multiplicavam.
- Abordagem
- Reestruturei o pipeline em estágios event-driven desacoplados na AWS, redesenhei o retrieval em torno do Typesense e consolidei a orquestração para que workflows conversacionais multi-LLM compartilhem uma única camada de retrieval.
- Impacto
- Custo de infraestrutura do RAG reduzido em ~50% servindo tráfego multi-tenant em produção: 1,2 milhão+ de respostas servidas até hoje, com pico de 148 mil em um único mês. O pipeline virou a fundação de todas as features de IA entregues depois.
Sistema proprietário em produção (NDA) · walkthrough de arquitetura sob demanda







