Por João Saldanha – Advisor de Governança, Risco e Compliance na Tripla
Quando falamos em riscos, sejam eles corporativos, de segurança da informação ou mesmo de governança algorítmica, existe uma regra não escrita que fundamenta boa parte dos trabalhos destinados à sua gestão: a de que riscos não conhecidos sempre serão os mais preocupantes.
Esses riscos ocultos não são necessariamente os mais graves em dano potencial ou probabilidade de ocorrência, mas o simples fato de não serem conhecidos os torna imensamente preocupantes.
Não há defesa contra o inimigo que não se vê.
O dado não rastreado, a exceção não logada, o comportamento que escapa à matriz de risco, o processo que opera fora do radar da governança. A invisibilidade, nesse contexto, não é metáfora, mas descrição de uma gravíssima vulnerabilidade sistêmica. E é justamente aí que reside o perigo melindroso daquilo que, aqui, chamamos de Shadow AI.
Se a expressão “Shadow IT” já nos alertava para o uso não autorizado de softwares, servidores e aplicativos por colaboradores à margem dos controles formais da TI, o fenômeno da Shadow AI representa uma mutação ainda mais sofisticada, mais difusa e potencialmente mais perigosa.
Estamos falando agora de Inteligência Artificial não homologada, não auditada e não supervisionada, utilizada por colaboradores com um clique: sem instalação, sem barreira técnica, sem rastreabilidade, mas com acesso direto à linguagem, aos dados e, em muitos casos, às decisões. E, o mais preocupante: ao contrário da Shadow IT tradicional, a Shadow AI pode existir mesmo sob o crivo de processo homologatório.
A diferença entre a Shadow IT e a Shadow AI não está apenas na camada tecnológica, mas também na camada psicológica do usuário. Instalar um software não autorizado exige decisão deliberada, mínima competência técnica, um certo desvio consciente da política interna e, muitas vezes, nível necessário de identidade. Já usar uma IA generativa como ChatGPT, Copilot ou Gemini para revisar um e-mail, gerar um parecer, rascunhar uma cláusula contratual ou preparar uma análise de risco não exige mais do que um navegador aberto (muitas vezes em dispositivo pessoal) e uma pergunta em português simples.
O colaborador não precisa driblar o firewall, nem acessar o terminal de linha de comando. Basta colar um texto, descrever uma tarefa e pressionar ENTER. A resposta chega pronta, fluida e perigosamente convincente, mesmo que, muitas vezes, objetivamente incorreta.
Essa sedutora fluidez mascara o risco e reduz a inibição, já que a aparência de neutralidade técnica esconde o vazio de auditoria, o colapso da trilha de responsabilização, o apagamento do controle. Quando o uso é invisível, a governança é ficção.
A maior ameaça da Shadow AI não está no mau uso deliberado, mas no uso não identificado. O que não é identificado, não é registrado. O que não é registrado, não é auditável. E o que não existe formalmente, não pode ser governado.
A governança algorítmica, quando se pretende mais do que retórica de compliance, exige visibilidade. Exige que a organização saiba quais modelos estão sendo utilizados, com que finalidade, por quais áreas, com quais dados e com quais mecanismos de controle e validação.
Na ausência dessa visibilidade, não há política possível, apenas ilusão ou simulação de controle.
E simular controle é, talvez, o mais perigoso dos estados de ignorância institucional. É achar que se governa porque se escreveu uma diretriz, enquanto a realidade opera em prompt oculto, modelada por sistemas que aprendem com cada pergunta, armazenam cada padrão e devolvem respostas cada vez mais adaptadas à ausência de limites.
É importante dizer com todas as letras: todo dado inserido em uma IA pública sem salvaguardas institucionais é um dado fora da organização.
Não importa se a intenção era apenas revisar a redação de um parágrafo técnico ou pedir sugestões de argumentos jurídicos. Se aquele parágrafo contém dados pessoais (sensíveis ou não) ou estratégicos, como cláusulas contratuais, parâmetros financeiros, informações de clientes, análises de risco ou hipóteses de investigação, a simples inserção em uma IA não autorizada pode representar vazamento institucional involuntário, violação da LGPD, quebra de sigilo contratual ou, em casos extremos, responsabilidade civil objetiva por omissão de controle.
E quando isso ocorre sem que as áreas de segurança da informação, privacidade ou compliance tenham ciência, o risco se multiplica em silêncio, cresce à sombra da boa intenção, muitas vezes motivado por uma postura autodestrutiva da entidade.
Quando as organizações acreditam que a adoção de Inteligência Artificial aumentará a produtividade e, com isso, elevam suas metas institucionais, mas não disponibilizam oficialmente essas ferramentas aos colaboradores, cria-se um cenário propício ao uso não homologado de IA.
Nessa lógica, os colaboradores recorrem a soluções alternativas para atender às novas exigências de desempenho.
Ou seja: a elevação de metas com base na promessa de produtividade da IA exige, como contrapartida, a sua disponibilização institucional. Caso contrário, o uso não homologado se tornará inevitável.
Um efeito menos visível, mas igualmente grave, é a erosão da autoria institucional. Pareceres, relatórios e análises passam a ser gerados por modelos estatísticos treinados com dados externos, enviesados, de origem incerta e não verificável. O resultado é um conteúdo que aparenta legitimidade e rigor técnico, mas que não pode ser atribuído a nenhum agente rastreável.
É fruto da soma algorítmica de bilhões de fragmentos autorais desconexos, o que inviabiliza a responsabilização, compromete a confiabilidade e rompe o vínculo entre autoria, contexto e consequência.
Quando um cliente, um órgão regulador ou o próprio mercado cobra explicações, a organização se vê diante de um texto que saiu de dentro da empresa, mas não foi escrito por ela.
Não há accountability possível nesse cenário. Apenas constrangimento, perda de credibilidade e dano à confiança institucional.
Portanto, os riscos de não se conhecer a verdadeira extensão dos processos algorítmicos dentro da organização ultrapassam, em muito, a percepção tradicional de Shadow IT.
E o combate a esses riscos começa por uma obviedade incômoda: não se controla aquilo que não se nomeia.
É necessário que as organizações reconheçam a existência desse fenômeno, mapeiem seu uso real, ainda que informal, e estruturem políticas claras, atualizadas e pedagogicamente eficazes sobre: ferramentas permitidas, finalidades autorizadas, fluxos de dados controlados, monitoramento de uso e critérios de responsabilização em caso de abuso.
Isso não é cerceamento. É governança.
É garantir que a inteligência artificial seja, de fato, uma ferramenta a serviço dos objetivos da organização, e não um agente autônomo operando sob o disfarce da eficiência.
Um dos pontos mais importantes, e assustadores, sobre a Shadow AI é que, ao contrário da Shadow IT, ela pode ocorrer mesmo em tecnologias homologadas.
Sim, é possível que a organização utilize uma tecnologia avaliada e aprovada, e ainda assim incorra em Shadow AI.
Estamos falando aqui de funcionalidades algorítmicas não mapeadas, ou seja, recursos baseados em IA que operam dentro de sistemas cujo propósito declarado não envolve inteligência artificial.
Imagine que o setor de RH de uma empresa contrate um software de recrutamento e seleção para filtragem de currículos. A princípio, os usuários sabem que o sistema filtra com base em critérios objetivos inseridos por eles, como escolaridade, experiência ou certificações.
Ocorre que o sistema também possui uma funcionalidade de aprendizado de máquina, que traça um “perfil ideal” de candidato com base em contratações anteriores.
Nesse caso, o uso de filtros auto programáveis pode resultar em discriminação, violação de princípios de privacidade ou mesmo descumprimento legal trabalhista. E esses riscos só podem ser controlados se os usuários souberem que essa funcionalidade existe, o que, muitas vezes, não é o caso.
Portanto, mesmo tecnologias homologadas, quando abrigam funcionalidades de IA não reconhecidas pela organização, podem configurar Shadow AI, com todos os riscos a ela associados.
A Shadow AI não habita o código: ela habita o hábito. Cresce no atrito ausente entre o que é fácil e o que é permitido, e floresce onde o discurso de inovação atropela a paciência da maturidade institucional.
O risco da IA, ao contrário do que se crê, reside menos no seu uso malicioso e mais na naturalização do uso inconsciente, ainda que bem-intencionado. Está na ideia de que, por parecer mágica, ela não precisa de regras.
Mas toda ferramenta que interage com dados, decisões ou linguagem precisa ser visível, compreendida e auditada. Do contrário, ela governa em silêncio, e nos resta apenas responder por decisões que não tomamos.
Se a governança quer ser mais do que retórica, ela precisa aprender a enxergar o que se esconde, porque os maiores riscos são, sempre, os que não se pode ver.
