O outro lado da moeda: riscos que o ChatGPT pode trazer para a segurança digital

Por Bruno Telles, cofundador e COO da BugHunt

Salvador, 15/03/2023 – Sucesso nas redes sociais, o ChatGPT é um assistente virtual de conversação que utiliza Inteligência Artificial para responder as perguntas e dialogar com os usuários a respeito de tópicos variados.

Por ser capaz de entender o questionamento e gerar respostas em vários idiomas, auxiliar na obtenção de informações e fornecer assistência de maneira geral, a ferramenta chamou a atenção dos internautas, que passaram a criar trends e até mesmo memes a partir da interação com a IA.

Em menos de cinco dias após a sua popularização, em novembro de 2022, a tecnologia conquistou a marca de um milhão de usuários, e segue sendo vista como um potencial revolucionário para diversos setores da informação, criatividade e gestão.

Disponível 24 horas por dia, com capacidade de lidar com inúmeras perguntas simultaneamente e possibilidade de aprendizado constante, com base nas interações com os usuários, as vantagens parecem inúmeras.

Entretanto, há o outro lado da moeda. Apesar de atrativa, a inteligência pode ser utilizada como aliada de cibercriminosos para elaboração de ataques, que podem ganhar uma camada de criatividade.

Antes do ChatGPT, a adoção da IA mantinha-se razoavelmente estável, segundo a pesquisa The State of AI da McKinsey. Em 2022, 50% dos respondentes adotavam IA em ao menos uma área de negócio, pouco mais que os 47% de 2018. Com impacto real na produtividade de diferentes setores, é provável que essa tecnologia altere radicalmente estes números, mas não sem provocar algum tipo de risco.

Os impactos negativos para a segurança digital

Dentre as desvantagens como compreensão limitada, a IA pode ter dificuldade em compreender certas nuances na linguagem, caso a pergunta seja muito complexa, acarretando em respostas com potenciais erros. Entretanto, o que mais assusta são as possibilidades de vazamento de dados, já que o ChatGPT pode coletar informações pessoais de qualquer usuário ou até mesmo de uma empresa.

Incentivadas pela curiosidade, muitas pessoas podem acessar a ferramenta e, por descuido ou desinformação, compartilhar informações confidenciais em suas conversas com a ferramenta, levando em consideração que os dados inseridos no ChatGPT podem ser utilizados para aprendizagem da Inteligência Artificial, não sendo garantida a confidencialidade daquelas informações.

Para este tipo de risco, é importante que as empresas estejam em dia com a conscientização dos usuários, lembrando que não se deve compartilhar informações sensíveis em sistemas na internet.

Além disso, da mesma forma que é utilizado por qualquer outra pessoa, o bot pode auxiliar o cibercriminoso tirando dúvidas e ajudando em algum tópico específico, como a elaboração e aprimoramento de scripts de ataques ou identificação de fragilidades em códigos.

Nesse sentido, as empresas devem investir esforços e recursos para implementar processos de cibersegurança, principalmente nas questões de monitoramento de bordas e ataques, backups e também na educação dos colaboradores.

É natural que, com o surgimento de ferramentas revolucionárias, algumas empresas passem a depender delas em algum sentido. Nesse caso, ao mesmo tempo que pode significar um avanço de tecnologia, pode acabar diminuindo a capacidade de criação e inovação dos profissionais, que ficam condicionados a respostas prontas.

Caso as empresas comecem a utilizar essa tecnologia para funções nos seus processos de negócio, devem utilizar de forma consultiva, apenas como mais uma fonte de informação, até porque já foram identificadas diversas respostas incorretas ou imprecisas dadas pela IA, exigindo o acompanhamento de profissionais capacitados.

O ChatGPT, portanto, é uma ferramenta que, se utilizada de forma correta, pode auxiliar muito. As possibilidades são inúmeras, desde tirar dúvidas em determinados tópicos, incluindo questões técnicas, até auxiliar na identificação da melhor estratégia para a cibersegurança.

A ferramenta pode ser uma aliada na análise de códigos de sistemas na identificação de vulnerabilidades, além de contribuir na tomada de decisão sobre como corrigir determinada falha e outras informações que podem ser adquiridas sobre infraestrutura tecnológica e cloud.

Contudo, o ChatGPT ainda está longe de substituir um profissional especializado no assunto. As empresas que têm processos maduros e bem definidos conseguirão enfrentar os riscos que a evolução das Inteligências Artificiais trarão, principalmente se contarem com a tecnologia para auxiliar na proteção dos sistemas e informações.