LocalFAQ AI

Chatbot de FAQ para Telegram construído com n8n e Ollama, explorando integração de LLM local, contexto empresarial e workflows automatizados sem inferência em nuvem.

Principais pontos
  • LLM local executada através do Ollama
  • Modelo phi3:mini
  • Workflow automatizado com n8n
  • Integração com Telegram
  • Contexto empresarial injetado no prompt
  • Fallback para respostas inválidas ou indisponíveis
  • Execução local sem custos de inferência em nuvem
Tecnologias utilizadas
Screenshot de capa de LocalFAQ AI

Visão geral

O LocalFAQ AI é um chatbot de FAQ para Telegram criado para explorar integração de modelos de linguagem locais com workflows automatizados.

A aplicação utiliza n8n para orquestrar o fluxo, Ollama para executar o modelo phi3:mini localmente e Telegram como interface de interação.

Como funciona

O usuário envia uma mensagem pelo Telegram.

O n8n recebe a mensagem através de um webhook e verifica se ela é um texto.

Em seguida, o workflow injeta informações estruturadas sobre a empresa no contexto enviado ao Ollama.

O modelo phi3:mini gera a resposta utilizando esse contexto.

Caso o modelo não consiga produzir uma resposta válida, o workflow envia uma mensagem de fallback ao usuário.

Arquitetura

O fluxo principal é:

Telegram → n8n Webhook → validação da mensagem → Company Context → Ollama → phi3:mini → validação da resposta → Telegram

O conhecimento da empresa é inserido diretamente no prompt através do node Company Context, utilizando uma abordagem de prompt-stuffing em vez de banco vetorial.

Funcionalidades

O bot possui:

  • Atendimento através do Telegram
  • Contexto customizável da empresa
  • Respostas baseadas no contexto fornecido
  • Limite de tamanho das respostas
  • Fallback para informações indisponíveis
  • Tratamento de mensagens que não são texto
  • Execução local do modelo
  • Workflow totalmente orquestrado pelo n8n

Decisões técnicas

O projeto utiliza phi3:mini por ser um modelo pequeno, com requisitos de hardware mais baixos e inferência local.

O contexto empresarial é colocado diretamente no prompt em vez de utilizar uma infraestrutura de embeddings ou banco vetorial.

Essa escolha mantém a arquitetura simples e adequada ao objetivo de estudar integração de IA local com automação.

Screenshots

Workflow principal desenvolvido no n8n.

LocalFAQ AI • 1 de 1
LocalFAQ AI - Captura de tela 1

Aprendizados

O projeto foi desenvolvido principalmente para aprender a integrar LLMs locais com ferramentas de automação.

A experiência envolveu Ollama, configuração de modelos locais, construção de prompts com contexto empresarial, tratamento de respostas e integração entre n8n, Telegram e um servidor local.