LLM conversa, otimizador decide
Bot de WhatsApp para antecipação de recebíveis: a IA conduz a conversa e um beam search com poda escolhe as faturas.
Resumo
Contexto
Antecipar recebíveis exige selecionar quais faturas antecipar, o que é uma escolha combinatória. Fazer isso numa conversa de WhatsApp pede resposta quase em tempo real.
Ação
Separei as responsabilidades. O LLM (Vertex AI) conduz a conversa; a seleção de faturas fica com um algoritmo determinístico de beam search com poda, que mantém o tempo de resposta aceitável. A API recebe mensagens e documentos por webhook, roda um job diário e tem um modo de simulação que funciona sem credenciais.
Resultado
O protótipo ficou completo e funcional em modo de simulação, mas não chegou a rodar com clientes.
Lição
Não peça ao LLM o que um algoritmo resolve melhor: use o modelo para a linguagem e o código para a decisão.
Arquitetura
Versão longa
Como funciona
- A mensagem chega pelo webhook do WhatsApp (Z-API).
- O LLM conduz a conversa com o cliente.
- Quando o cliente pede uma antecipação, o beam search monta combinações de faturas, mantém só as melhores a cada passo e poda as demais. Assim, a resposta sai em tempo de conversa.
- O resultado volta ao cliente pela conversa.
O projeto nasceu com cuidado de segurança: nenhuma credencial versionada, toda configuração via ambiente e um modo de simulação para desenvolver sem tocar no WhatsApp real.
Lições aprendidas
- Divisão de trabalho. O LLM interpreta e conversa; a escolha das faturas é determinística e testável.
- Busca com orçamento. Beam search com poda troca a solução ótima garantida por uma resposta boa dentro do tempo de uma conversa.