ChatGPT, Copilot, Gemini e outras ferramentas de inteligência artificial já fazem parte da rotina de muitas empresas. O desafio é que essa adoção nem sempre ocorre de maneira planejada.
Colaboradores podem utilizar ferramentas sem conhecimento da organização, compartilhar informações corporativas em ambientes públicos ou automatizar processos sem avaliar adequadamente riscos e consequências.
É nesse cenário que a governança de IA ganha importância.
Em entrevista à 98 News, Rodrigo Colen, CEO da Tripla, discutiu os riscos do uso de inteligência artificial sem governança, o papel das pessoas e da tecnologia nesse processo e os cuidados necessários antes de automatizar decisões e atividades empresariais.
Assista na íntegra: https://www.youtube.com/watch?v=-FvRkukJv3w
Leia também:
Os cenários e os desafios da regulamentação da Inteligência Artificial no Brasil
Inteligência Artificial e o mundo que existe entre pensar e saber
Quais os próximos passos da inteligência artificial? Descubra o que esperar da tecnologia para os negócios
Perguntas frequentes sobre governança de IA nas empresas
Por que a governança de IA é importante para as empresas?
A governança de IA é importante porque estabelece regras, responsabilidades, limites e controles para o uso da inteligência artificial dentro das empresas. O ideal é que essa estrutura exista antes mesmo da implementação das tecnologias.
Segundo Rodrigo Colen, CEO da Tripla, muitas organizações já utilizam ferramentas e agentes de IA sem conhecer completamente os impactos que uma implementação inadequada pode causar.
“Antes de você implementar uma IA, o ideal é implementar a governança.”
A governança algorítmica ajuda a definir como a IA pode ser utilizada, quais riscos precisam ser considerados e quem é responsável pelas decisões relacionadas à tecnologia, reduzindo riscos para a empresa e para as pessoas.
Quais são os riscos do uso de IA sem governança?
O uso de IA sem governança pode ampliar erros, falhas operacionais, exposição de dados e decisões inadequadas em grande escala.
Um profissional pode executar determinada atividade incorretamente algumas vezes antes que o problema seja identificado. Um agente de IA, por outro lado, pode repetir o mesmo erro milhares ou até milhões de vezes em pouco tempo.
“Quando existe um erro no processo que foi automatizado, ele também vai exponenciar o prejuízo.”
A mesma capacidade que permite à inteligência artificial aumentar produtividade e velocidade também pode multiplicar rapidamente as consequências de um processo mal definido.
Por isso, antes de automatizar uma atividade, a empresa precisa entender como o processo funciona, quais riscos existem e quais podem ser as consequências de uma decisão incorreta.
Ferramentas de segurança resolvem os riscos do uso de IA?
Não. Ferramentas de segurança ajudam a controlar os riscos relacionados à inteligência artificial, mas não substituem uma estratégia de governança de IA.
Existem tecnologias capazes de monitorar o uso de IA e impedir, por exemplo, que informações sensíveis, documentos internos ou dados estratégicos sejam compartilhados com plataformas não autorizadas.
Mas os controles tecnológicos precisam partir de regras previamente definidas pela organização.
“Antes de gastar dinheiro com ferramenta, preocupe-se com o seu processo, preocupe-se com a governança.”
Primeiro, a empresa deve determinar quais ferramentas de IA podem ser utilizadas, quais informações podem ser compartilhadas e em quais atividades a tecnologia pode ser aplicada. Depois, as soluções de segurança ajudam a monitorar e aplicar essas políticas.
Qual é o papel das pessoas no uso de inteligência artificial?
As pessoas continuam tendo um papel fundamental no uso da inteligência artificial, principalmente na definição, supervisão e validação dos processos automatizados.
Quanto maior a participação da IA em uma atividade, mais importante se torna compreender o processo que está sendo automatizado. Isso vai além de saber escrever bons prompts.
Quem desenvolve, utiliza ou supervisiona um agente de IA precisa entender como o processo de negócio funciona, por que determinadas decisões são tomadas e quais consequências podem surgir de uma decisão incorreta.
Em aplicações mais complexas, agentes de IA podem executar tarefas continuamente e em grande escala. Por isso, automatizar um processo sem conhecimento suficiente sobre seu funcionamento também aumenta os riscos.
Tudo o que pode ser automatizado com IA deve ser automatizado?
Não. Nem todo processo que pode ser automatizado com inteligência artificial deve necessariamente ser automatizado.
Durante a entrevista, Rodrigo Colen utiliza como exemplo uma cidade que poderia usar inteligência artificial para automatizar seus semáforos. A tecnologia poderia gerar ganhos relevantes de eficiência, mas uma falha também poderia provocar consequências graves.
“Não é porque pode automatizar que deve automatizar.”
Antes de adotar uma automação, as empresas precisam avaliar o que realmente faz sentido automatizar, quais riscos estão envolvidos, quais decisões exigem supervisão humana e quais controles precisam acompanhar a tecnologia.
A governança de IA busca justamente criar esse equilíbrio entre inovação, produtividade, segurança e responsabilidade.
