Por que usar um ChatGPT genérico fora do sistema é mais arriscado do que não usar IA nenhuma

Usar um ChatGPT genérico fora do sistema de processos para analisar um caso de um órgão público é mais arriscado do que simplesmente não usar inteligência artificial nenhuma. Não porque a IA seja perigosa em si, mas porque, fora do processo, ela perde as duas coisas que tornam uma resposta confiável na gestão pública: a base normativa do caso concreto e o registro de que aquela consulta aconteceu. O problema não está na tecnologia — está em onde ela roda.

Uma IA fora do processo não conhece a norma do seu município

Uma ferramenta de IA de uso geral responde com base numa massa ampla de informação disponível na internet, sem filtro pela legislação municipal, pelo código de obras local ou pelo fluxo específico daquele tipo de processo. Perguntada sobre um caso concreto — um pedido de parcelamento, uma exigência técnica, um enquadramento de risco —, ela tende a responder com uma regra genérica, muitas vezes federal, que pode não valer para aquele município específico. A resposta soa segura e bem escrita, mas parte de uma base que não é a que rege o caso.

Uma IA que opera dentro do processo eletrônico parte do caminho inverso: o enquadramento legal, o tipo de processo e as regras já configuradas para aquele fluxo entram como contexto antes de qualquer resposta. Ela não diverge para uma massa genérica de informação porque está presa ao que é pertinente àquele processo. É essa diferença que separa uma sugestão fundamentada de uma resposta plausível — e é o servidor que copia a segunda direto para um despacho oficial quem herda o erro.

O que sai do processo pelo ChatGPT não entra em nenhuma trilha de auditoria

Dentro de um sistema de processo eletrônico, cada leitura automatizada e cada sugestão de IA fica vinculada ao processo, com data, horário e usuário — a mesma lógica que já existe para qualquer histórico de visualização de processo. Colar um trecho de um processo dentro de um assistente genérico produz o oposto: uma pergunta e uma resposta que não ficam registradas em lugar nenhum vinculado àquele expediente.

Isso cria um ponto cego que o gestor só percebe tarde demais. Diante de uma auditoria do Tribunal de Contas, de uma requisição do Ministério Público ou até de um recurso administrativo do próprio requerente, não existe como reconstruir o que foi perguntado à ferramenta externa, o que ela respondeu, nem se aquilo influenciou a decisão registrada no despacho. A decisão formal existe; o raciocínio que ajudou a formá-la, não.

Colar dado de processo num assistente genérico expõe dado pessoal sem controle

Praticamente todo processo administrativo carrega dado pessoal nos termos da Lei Geral de Proteção de Dados — nome, CPF, endereço, motivo de um indeferimento, às vezes dado sensível envolvido numa fiscalização ou num benefício. Colar esse conteúdo numa ferramenta de IA de uso geral, fora do ambiente do órgão, é tratamento de dado pessoal sem finalidade definida, sem base legal específica para aquele uso e sem qualquer garantia contratual sobre onde a ferramenta armazena ou reaproveita o que foi digitado.

É o mesmo risco discutido a propósito do sigilo fiscal em processos tributários: o problema nunca foi a IA, foi o perímetro de acesso ao redor do dado. Uma IA que opera dentro do processo herda o mesmo permissionamento que já vale para qualquer servidor humano naquele fluxo. Uma ferramenta externa rompe esse perímetro no instante em que alguém cola o primeiro trecho — e nenhuma política interna de uso “consciente” de IA generativa desfaz esse rompimento depois que ele já aconteceu.

Conclusão

A diferença entre usar IA e não usar IA não é onde está o risco real de um órgão público. O risco está em onde a IA roda: dentro do processo, sob o mesmo controle de acesso, a mesma base normativa e a mesma trilha de auditoria que já regem qualquer decisão administrativa — ou fora dele, numa ferramenta genérica que não conhece a lei local, não registra nada e não oferece garantia sobre o dado que acabou de receber. Entre nenhuma IA e uma IA sem esse perímetro, a segunda é a opção mais arriscada. Para ver como a IA embarcada num processo eletrônico opera dentro desse controle, agende uma demonstração.