Criei uma Camada de IA Local para Meus Documentos e Fotos — Aqui Está o Que Aprendi
O Problema
Eu queria fazer perguntas sobre minha própria papelada e fotos sem enviá-las para um serviço de IA na nuvem. Coisas simples como:
- "Quanto eu gastei com eletricidade no ano passado?"
- "Quais documentos eu tenho sobre meu seguro de carro?"
- "Quantas fotos eu tirei na Espanha em 2023?"
Mas eu não queria que minhas faturas, contratos e fotos de família acabassem nos dados de treinamento de outra pessoa.
A Pilha
| Componente | Propósito |
|---|---|
| Paperless-ngx | Arquivo de documentos, OCR, metadados estruturados |
| Immich | Backup de fotos e vídeos |
| ChromaDB | Índice de busca semântica |
| Ollama | Inferência LLM local |
| Open WebUI | Interface de chat unificada |
| MCP | Ferramentas determinísticas para dados estruturados |
| LiteLLM | Roteamento de modelo |
Tudo roda em uma única máquina com Windows 11 com uma RTX 5080 de 16GB. Um Orange Pi 5 Plus cuida dos backups.
Duas Lições Difíceis
1. Ferramentas determinísticas superam o raciocínio LLM para qualquer coisa contável
Comecei pedindo ao modelo para contar minhas faturas. Ele deu respostas erradas. Toda vez.
A solução foi uma ferramenta MCP de 20 linhas que consulta a API do Paperless e retorna um número. Sem raciocínio, sem alucinação — apenas a contagem correta.
2. Disciplina de roteamento importa
Para campos de fatura estruturados (fornecedor, total, IVA, número da fatura), adicionei uma regra rígida ao prompt do sistema:
> "Sempre consulte o Paperless para esses campos. Nunca use o índice semântico."
Isso eliminou a maioria das respostas erradas que eu estava recebendo. O índice semântico é ótimo para "encontre algo sobre seguro de carro." É péssimo para "qual é o total exato da fatura #1234?"
Por Que Não Apenas Usar a IA Nativa do Paperless 3.0?
Estou no Paperless 3.0.3, então eu tenho os recursos de IA nativa, incluindo chat de documentos. Esta configuração não os substitui — ela os complementa:
- Escopo mais amplo: A mesma interface cobre documentos, fotos e vídeos
- Operações determinísticas: Ferramentas MCP garantem precisão para consultas estruturadas
- Experiência unificada: Uma interface de chat para tudo
O Que Não Funcionou
Eu documentei as falhas também. Alguns destaques:
- Tentativas iniciais de deixar o modelo raciocinar sobre totais de faturas
- Tentativa de usar o índice semântico para extração exata de campos
- Confusão inicial sobre qual fonte de dados consultar para qual tarefa
Escrita completa (espanhol e inglês): github.com/fwinchi/ia-local-casa
Para Quem Isso É
- Pessoas que querem consultar seus próprios dados sem IA na nuvem
- Entusiastas de auto-hospedagem
- Qualquer um curioso sobre o MCP como uma ferramenta prática para precisão de dados
Não sou um desenvolvedor. Construído com assistência de IA, verificando sugestões e testando antes de aplicar.
Feedback é bem-vindo — especialmente sobre o que eu errei.
A implementação de uma camada de IA local pode ajudar empresas brasileiras a manter a privacidade de seus dados enquanto utilizam inteligência artificial. A solução apresentada é útil para quem busca precisão em consultas de dados sem depender de serviços externos. Isso pode ser um diferencial competitivo em um mercado cada vez mais preocupado com a segurança da informação.
