Por Walter Sanches (*)
De acordo com um estudo
global da Boston Consulting Group (BCG), 74% dos profissionais essenciais para
o dia a dia das operações já utilizam Inteligência Artificial (IA) regularmente
em suas atividades, enquanto 72% afirmam que as competências exigidas para seus
cargos foram impactadas pela tecnologia. No entanto, mesmo que esse movimento
contribua para a evolução dos resultados de uma organização, ele também acende
um alerta para riscos quando o recurso tecnológico é utilizado sem regras
claras ou mecanismos adequados de governança corporativa, principalmente num
setor como a indústria.
É nesse contexto que surge o conceito de Shadow AI, termo utilizado para
descrever o uso de plataformas de Inteligência Artificial sem conhecimento,
supervisão ou autorização formal das empresas. Na prática, colaboradores
recorrem a ferramentas gratuitas, de código aberto (open source) ou
contas pessoais para acelerar tarefas do dia a dia, muitas vezes sem considerar
o destino das informações compartilhadas nessas plataformas.
Para o setor industrial, os riscos são particularmente elevados, considerando que
especificações técnicas, estudos de pesquisa e desenvolvimento, informações
sobre fornecedores e outros dados estratégicos podem estar sendo inseridos em
sistemas externos sem que haja garantias sobre sua proteção. Dependendo da
plataforma utilizada, essas informações podem ser armazenadas, processadas ou
até utilizadas para aperfeiçoar modelos futuros, criando potenciais
vulnerabilidades para a propriedade intelectual das organizações.
Impactos do Shadow AI para a indústria
Além da exposição de segredos industriais, o uso indiscriminado dessas ferramentas
pode gerar problemas relacionados à segurança cibernética, direitos autorais,
vazamento de credenciais corporativas e compartilhamento indevido de dados
pessoais de clientes, fornecedores ou colaboradores. Nessas situações, a
responsabilidade recai diretamente sobre a organização, que pode enfrentar
impactos financeiros, jurídicos, além de riscos significativos à reputação.
O próprio estudo da BCG aponta que o principal desafio da IA é a questão
organizacional e gerencial da tecnologia. Embora a adoção desta ferramenta
esteja avançando rapidamente, a governança ainda apresenta lacunas importantes,
com empresas que não possuem diretrizes claras para a gestão da interação entre
pessoas e sistemas de IA, enquanto a prestação de contas relacionadas ao uso da
tecnologia figura entre as principais preocupações para os próximos anos.
Esse cenário reforça a necessidade de que as empresas do setor industrial
estabeleçam uma governança robusta para o uso da Inteligência Artificial, porém
não com o objetivo de restringir a inovação, mas garantir que ela aconteça de
forma responsável e alinhada aos objetivos estratégicos da companhia.
Importância da gestão da IA
Empresas com uma estratégia clara para gestão de ferramentas de IA apresentam resultados
significativamente superiores às organizações que apenas disponibilizam o
recurso aos colaboradores, segundo a pesquisa. Nesse sentido, companhias que
possuem direcionamento estratégico bem definido conseguem capturar mais valor
dos investimentos realizados e obter maior impacto nos resultados do negócio.
Na indústria, isso significa compreender quais processos realmente podem se
beneficiar da IA, quais informações podem ser compartilhadas com segurança e
quais atividades exigem controles mais rigorosos. Dessa maneira, a definição de
ferramentas homologadas, políticas de uso, critérios para tratamento de dados e
mecanismos de monitoramento passa a ocupar o mesmo patamar de importância que a
própria adoção tecnológica.
A criação de comitês multidisciplinares, envolvendo áreas como tecnologia,
engenharia, jurídico, compliance, segurança da informação e recursos humanos,
contribui para que essas diretrizes sejam construídas de forma consistente e
alinhadas às necessidades de cada operação.
O papel da alta gestão
Compete aos gestores definir o apetite ao risco relacionado ao uso da Inteligência
Artificial, assegurar que exista uma política corporativa de IA aprovada e
acompanhar periodicamente indicadores que demonstrem o grau de adoção,
conformidade e exposição aos riscos decorrentes do uso da tecnologia é de extrema
importância.
Ao contrário do que possa parecer, estes limites não impedem o uso da IA e sim
colocam regras claras o que pode acelerar o bom uso pois reduzem a insegurança
dos colaboradores e permitem que a inovação aconteça dentro de limites previamente
definidos.
Capacitação como elemento de proteção
A governança corporativa sobre a IA também precisa contemplar a capacitação das
equipes, partindo da premissa que a segurança não depende apenas da tecnologia
ou das políticas internas, mas é um processo que também envolve o conhecimento
dos colaboradores. Profissionais que compreendem os limites, riscos e
responsabilidades associados ao uso da Inteligência Artificial estão mais
preparados para utilizar essas ferramentas de forma consciente e segura.
Este recurso tem potencial para aumentar a produtividade, acelerar análises e apoiar
decisões importantes nas empresas, entretanto ele não substitui o julgamento
humano nem elimina a necessidade de validação crítica das informações geradas.
Quando utilizada sem critérios, pode produzir respostas incorretas,
interpretações imprecisas ou recomendações inadequadas para o contexto do
negócio.
Por isso, o futuro da IA na indústria
dependerá da capacidade das organizações estabelecerem estratégias claras de
governança corporativa, que protejam seus ativos intelectuais e preparem suas
equipes para utilizar a tecnologia de forma responsável. Uma gestão
estruturada, além de prevenir o fenômeno do Shadow AI, proporciona ganhos em
eficiência operacional e, de modo geral, na sustentabilidade do negócio a longo
prazo.
(*) Walter Sanches é Diretor de Tecnologia da
Informação e Planejamento da Termomecanica,
empresa líder na transformação de Cobre e suas ligas.
