GPA | Arquitetura de IA

Como a Sauter, em sua parceria contínua com o GPA, redesenhou a arquitetura da solução "Food Safety" para reduzir custos operacionais e manter a alta performance.

A arquitetura inicial foi projetada para máxima precisão e estabilidade, utilizando uma verificação de fatos em duas fontes de dados simultaneamente (Cloud Functions e Vertex AI Datastore) para garantir que a resposta mais completa fosse sempre entregue, minimizando a chance de erros.

A arquitetura de verificação dupla, embora extremamente eficaz, apresentava um desafio de custo-benefício. Como cada consulta acionava ambas as ferramentas, os custos operacionais eram somados.

Uma análise proativa da Sauter identificou que 1.000 perguntas complexas sobre a planilha de indicadores geravam um custo de $28,41. O desafio era claro: como evoluir a arquitetura para reduzir significativamente esse custo, sem comprometer a qualidade e a confiabilidade das respostas que o time de Food Safety do GPA já confiava?

Nossos Resultados

A Sauter propôs uma nova arquitetura condicional. Em vez de consultar as duas fontes de dados simultaneamente, o novo fluxo aciona primeiro a fonte primária e mais confiável (Cloud Functions). Apenas nos casos em que uma resposta não é encontrada, o sistema ativa a segunda camada de pesquisa (Vertex AI Datastore) como uma alternativa.

Essa abordagem inteligente garante que os recursos mais caros sejam utilizados apenas quando estritamente necessário, otimizando os custos na grande maioria das consultas.

A implementação da nova arquitetura oferece uma projeção de otimização de custos clara e direta, transformando a eficiência financeira da solução.

O Que Entregamos?

Redução de Custos em até 55%: O custo para 1.000 perguntas sobre documentos gerais, que antes compunham o custo total, cai para aproximadamente $13,66.
Otimização Máxima para Tarefas Simples: Para 1.000 solicitações de links de planilhas, o custo é reduzido para cerca de $12,53.
Manutenção da Qualidade: Como a fonte primária (Functions) é a mais confiável, a mudança mantém a alta qualidade da resposta final na maioria dos casos, com uma pequena redução na latência.
Parceria Estratégica: A iniciativa demonstra o compromisso da Sauter não apenas em entregar, mas em gerenciar e otimizar proativamente as soluções de seus clientes, garantindo sustentabilidade a longo prazo.

Ferramentas Que Foram
Usadas no Projeto

Prismasz8
Google Cloud Functions
Prismasz7
Vertex AI (Gemini 1.0 flash)
Prismasz6
Vertex AI Datastore
Prismasz5
Dialogflow API
Prismasz2
Embeddings API

Sauter & GPA: Evoluindo Soluções

A verdadeira inovação neste case não está apenas na tecnologia, mas na maturidade da parceria entre Sauter e GPA. A capacidade de analisar criticamente uma solução em produção e propor uma evolução focada em eficiência financeira demonstra um compromisso com o sucesso do cliente que vai além da entrega inicial.

A nova arquitetura é um testemunho de como a melhoria contínua e a otimização de custos são fundamentais para a sustentabilidade de soluções de IA em escala corporativa. A Sauter reafirma seu papel como um parceiro estratégico que busca, de forma proativa, o máximo valor para seus clientes.

Otimização de Custos: Redesenho da arquitetura para um modelo condicional, reduzindo drasticamente os custos por consulta.
Arquitetura Inteligente: Implementação de um fluxo que aciona recursos de maior custo apenas quando necessário, mantendo a alta qualidade da resposta final.
Parceria Proativa: Demonstração do compromisso da Sauter com a otimização contínua e a sustentabilidade financeira das soluções do GPA.
Sustentabilidade da Solução: Garantia de que a ferramenta de IA se mantenha financeiramente viável e eficiente para o cliente a longo prazo.

Entre em contato

Em até 24 horas, daremos um retorno sobre seu contato.

Garanhuns