Shadow AI: como empresas podem proteger seus dados na era da inteligência artificial?
Por Fabiano Nagamatsu, diretor da Osten Moove
Salvador, 23/01/2024 – A IA trouxe inúmeras oportunidades de melhorar a eficiência dos processos no ambiente corporativo. Por outro lado, a disseminação dessa tecnologia também ocasionou alguns problemas. Muitos trabalhadores fazem uso de sistemas de inteligência artificial generativa sem a autorização da empresa, desrespeitando a política de privacidade de dados, o famoso Shadow AI. Segundo levantamento recente da Gartner, até 2026, 5% dos funcionários se envolverão com o uso não autorizado de IA em suas corporações.
Hoje, é preciso lidar com os desafios que envolvem esse tipo de tecnologia, por isso diversas organizações estão implementando medidas de educação e conscientização e investindo em monitoramento.
Quando falamos em ferramentas de IA, como ChatGPT, Midjourney, DALL-E, entre outras, todo cuidado é pouco. Ao alimentá-las com informações do dia a dia de trabalho, muitas vezes, dados confidenciais são expostos. Em primeiro lugar, a empresa deve investir em ações de educação para conscientizar o colaborador sobre os riscos envolvidos no processo. Treinamentos regulares podem ser fundamentais com a finalidade de garantir que todos compreendam as implicações da IA generativa.
Além disso, as diretrizes sobre o uso de IA devem ser comunicadas aos funcionários. Os gestores devem informar a respeito das políticas de segurança de dados. É indispensável estabelecer processos claros de aprovação para a criação e implementação de sistemas de inteligência artificial e adotar práticas de governança eficazes.
Fortalecer ações supervisionando o uso de IA é essencial, o que pode incluir criação de comitês para revisar e aprovar projetos, bem como a nomeação de um profissional responsável por todo o trabalho. Outra medida é integrar o controle de IA às práticas de GRC existentes, isso permite avaliar riscos, definir controles apropriados e acompanhar a conformidade.
Fazer uso de ferramentas de monitoramento e detecção para identificar a presença de Shadow AI na infraestrutura de uma empresa é mais do que necessário atualmente. Análises de logs, tráfego de rede e comportamento de sistemas com o objetivo de encontrar atividades não autorizadas devem envolver a rotina de qualquer negócio.
