Alucinações da IA: o que são e como evitá-las?

O que são alucinações da IA?

Por exemplo, se pedirmos à IA os números de CNPJ de 20 empresas de São Paulo com receita crescente, podemos receber uma lista aparentemente lógica e completa. Só que… todos os CNPJs apresentados podem ter sido inventados.

Uma característica marcante das alucinações é justamente essa aparência de coerência: as respostas parecem convincentes, e a IA não demonstra a menor dúvida. É por isso que as interfaces dos modelos de linguagem recomendam verificar os números e fatos apresentados.

Por que a IA alucina?

Assim, as alucinações tendem a ocorrer em três situações:

• falta de dados (a principal causa: o modelo tenta adivinhar);
• prompt impreciso (o modelo preenche as lacunas);
• tarefa complexa demais (o modelo tenta fazer tudo de uma vez).

O problema não está apenas nos modelos de linguagem, mas também no acesso aos dados. Portanto, as alucinações não surgem de forma espontânea e impossível de controlar: elas decorrem de condições identificáveis, que podem ser tratadas.

Como evitar as alucinações da IA?

É possível reduzir as alucinações da IA oferecendo acesso direto e estruturado aos dados. Nesse ambiente, os modelos de linguagem conseguem interpretar informações, tomar decisões e chegar a conclusões com mais segurança.

Esse é o princípio das três abordagens a seguir, que podem ser adotadas conforme a complexidade da tarefa.

Preparar um arquivo de dados

Fornecer dados prontos é a solução mais simples para reduzir o risco de alucinações. Assim, deixamos menos espaço para a IA “inventar histórias”.

Quem está começando muitas vezes trata o modelo de linguagem como se ele fosse, ao mesmo tempo, um mecanismo de busca, um pipeline de ETL e uma ferramenta de extração de dados. O problema é que, quando a tarefa exige coletar, limpar e padronizar dados, a quantidade de informações pode ultrapassar a janela de contexto, aumentando drasticamente o risco de alucinações.

Por isso, vale dividir a coleta de dados em vários prompts menores e verificar os resultados ao longo do processo. Pode parecer tedioso e demorado, mas é assim que construímos uma base sólida para os modelos de linguagem mostrarem seu verdadeiro potencial: trabalhar com dados disponíveis.

Usar uma API

A conexão com uma API é uma solução mais avançada: permite acessar dados de forma mais rápida, escalável e sempre atualizada. Se preparar um arquivo de dados equivale a entregar um balde de água, disponibilizar uma API equivale a abrir uma torneira.

A busca usada pelo ChatGPT, Claude ou Gemini não é tão diferente da que uma pessoa faria. Os modelos de linguagem consultam conteúdos em sites externos, como Reddit ou Wikipedia, e retornam com uma resposta.

Nesse método, porém, não há garantia de que o conteúdo esteja correto e atualizado. Fontes dispersas podem seguir padrões diferentes, apresentar datas distintas e incluir erros ou opiniões de pessoas. Uma API ajuda a superar essa limitação ao fornecer uma fonte consistente e programável de dados tratados.

Por exemplo, a API da Monitly oferece acesso a estatísticas do mundo todo por meio de conexões diretas com fontes de instituições como o IBGE, o Eurostat, o World Bank, a WHO e o IMF, entre outras. Assim, em vez de procurar informações em vários sites, a IA faz uma consulta direta à API e recebe o resultado mais recente, o que facilita a análise e a interpretação dos dados.

Conectar-se via MCP

Conectar a IA ao MCP (Model Context Protocol) dá aos modelos de linguagem acesso direto a arquivos, planilhas, códigos e aplicativos. Isso reduz significativamente o risco de alucinações ao disponibilizar dados prontos para o modelo trabalhar.

Por exemplo, a plataforma de dados empresariais Compabase disponibilizou um MCP que permite à IA verificar rapidamente informações sobre empresas locais. Dessa vez, se pedirmos os números de CNPJ de 20 empresas de São Paulo com receita crescente, podemos obter uma lista coerente e verificada, em vez de informações inventadas. A diferença não é que o modelo tenha ficado subitamente “mais inteligente”. Antes, ele não tinha acesso a esses dados; agora, pode executar uma consulta SQL no banco de dados e receber os resultados.

Em outras palavras:

Sem MCP:

• algumas empresas não existem;
• os dados financeiros são arbitrários;
• os números de CNPJ são inventados.

Com MCP:

• o modelo consulta o banco de dados;
• retorna registros específicos;
• o resultado da consulta é determinístico.

É claro que as alucinações não desaparecem se continuarmos exigindo processamento excessivo e cruzamentos complexos de dados. Mas, quando oferecemos um ambiente com dados estruturados e atualizados em tempo real, além de limitar a margem de interpretação, a IA deixa de adivinhar e passa a analisar informações existentes.