Segurança em IA: quais dados você nunca deve compartilhar?

O que não inserir na IA?

Nas versões públicas dos modelos, não insira as seguintes categorias de dados:

• dados pessoais – nomes, endereços, números de CPF, telefones ou endereços de e-mail de clientes, funcionários ou seus;
• prontuários médicos – históricos de saúde, resultados de exames e diagnósticos de pacientes, sujeitos a regras rigorosas de proteção de dados, como a LGPD e a HIPAA;
• informações corporativas confidenciais – relatórios financeiros não publicados, estratégias de marketing, cadastros de clientes e planos de fusões, aquisições ou demissões;
• segredos comerciais – código-fonte de softwares, fórmulas de produção, algoritmos exclusivos ou documentação técnica interna da empresa;
• senhas e credenciais – chaves de API, dados de login, tokens de autenticação, dados de cartões de pagamento e chaves de criptografia de qualquer tipo;
• materiais protegidos por direitos autorais – textos integrais de livros, artigos científicos pagos ou roteiros para os quais você não possui a licença necessária;
• conteúdo ilegal – materiais que promovam violência ou ódio, ou instruções para atividades contrárias à legislação vigente.

O que acontece com os dados inseridos na inteligência artificial?

Os dados enviados a provedores de serviços em nuvem passam por várias etapas de processamento e análise. O ciclo de vida dessas informações não termina quando a resposta é gerada.

Treinamento dos modelos

Dados inseridos nas versões padrão de ferramentas de IA generativa voltadas ao consumidor muitas vezes são usados para continuar treinando os modelos. Isso significa que as informações fornecidas podem influenciar os parâmetros da rede neural e, em tese, voltar a aparecer futuramente em uma resposta a outro usuário.

Revisão humana e moderação

Além do processamento automatizado, os sistemas de IA contam com filtros de segurança. Se um algoritmo considerar uma solicitação suspeita, por exemplo, por possível violação dos termos de uso, a conversa poderá ser sinalizada para revisão humana. Nesse caso, funcionários do provedor ou profissionais externos responsáveis pela rotulagem de dados poderão acessar diretamente o conteúdo inserido para aprimorar os mecanismos de moderação.

Armazenamento de dados e backups

Os provedores de IA armazenam registros de conversas em seus servidores para manter a continuidade do serviço, diagnosticar falhas e preservar o contexto de sessões futuras. É importante lembrar que excluir um chat pela interface raramente significa apagar imediatamente as informações dos servidores. Os dados permanecem nos sistemas de backup do provedor por determinado período, aumentando o risco de exposição de informações confidenciais caso a infraestrutura em nuvem sofra um ataque cibernético bem-sucedido.

Contas pessoais e corporativas: diferenças no nível de proteção

Contas pessoais padrão, gratuitas ou pagas, em muitos serviços populares processam por padrão as informações enviadas para fins de treinamento. Assim, cada sessão traz o risco de expor informações confidenciais caso elas sejam compartilhadas.

Em ambientes corporativos e empresariais — como contas Enterprise e serviços executados em nuvens privadas por meio de APIs de provedores como Microsoft Azure, AWS e Google Cloud —, os padrões de proteção são mais rigorosos. Nesses ambientes, os provedores asseguram conformidade com normas de segurança (ISO 27001 e SOC 2) e com a LGPD, além de declararem em contratos (SLA/DPA) que os dados dos clientes não são usados para treinar modelos públicos de base. As restrições sobre os dados inseridos podem ser menos rígidas nesses casos, mas ainda é necessário adotar políticas de gestão de riscos e controle de acesso.

O que é seguro inserir na IA?

Apesar das restrições, há muitos tipos de informação que podem ser inseridos e processados pela IA com segurança. Entre eles estão:

• materiais disponíveis publicamente – artigos de acesso aberto, publicações em blogs, relatórios de mercado públicos, textos de leis e conteúdos de sites como a Wikipédia;
• informações não confidenciais – instruções gerais, perguntas sobre conceitos teóricos, regras gramaticais e ortográficas, equações matemáticas e consultas ao dicionário;
• trechos anonimizados de documentos – modelos de documentos e contratos ou trechos de código dos quais tenham sido removidos por completo identificadores exclusivos, chaves, nomes de clientes e detalhes da arquitetura interna;
• textos de sua autoria – rascunhos de e-mails, publicações para redes sociais, roteiros de apresentações ou artigos que não contenham dados corporativos sensíveis;
• conjuntos de dados abertos – dados sintéticos ou estatísticas de repositórios públicos usados para aprender técnicas de análise e formatação.

Como anonimizar mensagens e dados antes de enviá-los à IA?

Remoção de identificadores e substituição por marcadores

Nesse processo, dados sensíveis são substituídos por identificadores fictícios. Por exemplo, o nome “João da Silva” pode ser trocado por “[Cliente_1]”, e o nome da empresa “Empresa Exemplo” por “[Organização_A]”. Isso preserva a estrutura, a sintaxe e o contexto do documento para o modelo de linguagem, sem revelar a identidade da pessoa ou organização original.

Técnicas de mascaramento de informações sensíveis

O mascaramento oculta diretamente sequências de caracteres importantes, geralmente substituindo-as por símbolos especiais, como em um número de cartão apresentado como 4532 **** **** ****. Outra técnica eficaz é generalizar os dados: em vez de informar um valor exato, como um salário de R$ 8.000, use uma faixa aproximada, como “salário entre R$ 7.000 e R$ 9.000”. Isso reduz o risco de reidentificação.

Automatização do processo com ferramentas DLP e RegEx

A remoção manual de informações em textos longos está sujeita a falhas. Em ambientes profissionais, são usados scripts baseados em expressões regulares (RegEx) ou sistemas DLP (Data Loss Prevention). Essas ferramentas podem examinar automaticamente uma solicitação antes do envio, detectando e bloqueando ou substituindo sequências que correspondam a formatos de CPF, CNPJ, endereços de e-mail ou números de contas bancárias.

Dados compartilhados com a IA: como impedir que sejam usados no treinamento?

Configurar a própria ferramenta também ajuda a reduzir os riscos de compartilhar informações com a IA. A maioria dos provedores oferece opções para desativar o uso do conteúdo no treinamento dos modelos.

• ChatGPT (OpenAI) – nas configurações da conta (Settings), acesse “Data controls” e desative “Improve the model for everyone”. Isso impede que os textos inseridos sejam usados para treinar o modelo. Na versão atual da interface, essa ação não remove as conversas da visualização do usuário: o histórico de chats permanece disponível. Independentemente dessa configuração, a OpenAI ainda mantém os registros em seus servidores por 30 dias para monitoramento de abusos e segurança, antes da exclusão definitiva.
• Gemini (Google) – nas configurações de privacidade, desative “Gemini Apps Activity”. Assim, novas conversas deixam de ser salvas na conta Google e de ser usadas para treinar os modelos. A alteração, porém, não elimina imediatamente os registros da infraestrutura do provedor: o Google os mantém por até 72 horas para preservar a segurança do serviço.
• Claude (Anthropic) – nas versões gratuitas e padrão voltadas ao consumidor, as configurações atuais permitem por padrão o uso dos dados inseridos para aprimorar os algoritmos. Essa é uma mudança importante em relação aos primeiros anos da empresa, quando a Anthropic destacava que não usava conversas dos usuários para treinamento. Para desativar esse uso, acesse a seção de privacidade nas configurações da conta e desligue a opção de compartilhamento de dados “Help improve Claude”.

Vale lembrar que alterações nas configurações de privacidade e a desativação do uso de dados para treinamento só valem para o futuro. Informações enviadas antes da mudança e já incorporadas ao ciclo de aprendizado de máquina permanecem na estrutura da rede neural.