Pesquisa da Kaspersky com a Universidade de Ghent descobriu que os robôs podem extrair informações sigilosas e que a maioria das pessoas confiam neles

Salvador, 15/10/2019 – A influência social dos robôs sobre as pessoas e as incertezas que isso pode trazer não devem ser subestimadas. Uma pesquisa realizada pela Kaspersky e a Universidade de Ghent descobriu que os robôs podem efetivamente extrair informações sigilosas de pessoas que confiam neles, persuadindo-as a executar ações inseguras. Estimativas apontam que os sistemas robóticos serão comuns nas residências de alto padrão até 2040.

Atualmente, a maior parte dos robôs está em fase de pesquisa acadêmica e é cedo demais para discutir como incorporar medidas de cibersegurança. No entanto, o estudo da Kaspersky e da Universidade de Ghent descobriu um novo e inesperado aspecto de risco associado à robótica: o impacto social que ela tem sobre o comportamento das pessoas, além do perigo potencial e do vetor de ataque que a tecnologia traz.

A pesquisa, que contou com cerca de 50 participantes, utilizou um robô criado e programado para interagir com as pessoas usando a comunicação não verbal e a fala. O contexto do estudo aconteceu em um ambiente em que os robôs estavam hackeados e permitindo total controle do atacante neste cenário. Neste cenário, a pesquisa avaliou os possíveis riscos de segurança relacionados ao fato de o robô influenciar ativamente os usuários a executar determinadas ações, como:

♦  Obter acesso a instalações em zona proibida: o robô foi colocado perto de uma entrada restrita de um edifício no centro de Ghent, Bélgica, e perguntou aos funcionários do prédio se poderia entrar com eles. A área só pode ser acessada após a digitação de uma senha de segurança nos leitores de acesso das portas. Durante o experimento, nem todos os funcionários atenderam à solicitação do robô, mas 40% destravaram a porta e a mantiveram aberta para permitir que o robô entrasse na área restrita. No entanto, quando o robô foi disfarçado como um entregador de pizza, segurando uma caixa de uma conhecida marca internacional de entregas, os funcionários aceitaram a solicitação do robô imediatamente e pareceram menos inclinados a questionar sua presença ou os motivos para querer acessar a área restrita.

♦  Obter informações sigilosas. A segunda parte do estudo focou a obtenção de informações pessoais que normalmente seriam usadas para redefinir senhas (como data de nascimento, marca do primeiro carro, cor favorita, etc.). Mais uma vez, o robô convidava as pessoas para uma conversa amigável. Com exceção de um participante, os pesquisadores conseguiram obter aproximadamente uma informação pessoal por minuto.

“No início da pesquisa, examinamos o software usado no desenvolvimento do sistema robótico. Curiosamente, descobrimos que os designers tomaram uma decisão consciente de excluir mecanismos de segurança e se concentrar exclusivamente no conforto e na eficiência. No entanto, como mostraram os resultados de nossa experiência, assim que a fase de pesquisa for concluída, os desenvolvedores deverão lembrar da segurança. Além das considerações técnicas, há aspectos importantes que precisam ser considerados em termos da segurança robótica. Esperamos que nosso projeto e investimento conjunto no campo da cibersegurança robótica com os colegas da Universidade de Ghent incentive outras pessoas a dar sequência a pesquisas deste tipo na área para aumentar a visibilidade pública sobre este problema”, avalia Dmitry Galov, pesquisador de segurança da Kaspersky.

Tony Belpaeme, professor de inteligência artificial e robótica na Universidade de Ghent, acrescenta: “A literatura científica indica que a confiança nos robôs e, mais especificamente, nos robôs sociais é real e pode ser usada para convencer as pessoas a realizar ações ou revelar informações. Em geral, quanto mais humanoide for o robô, maior será sua capacidade de persuadir e convencer. Nossa experiência mostrou que isso pode gerar riscos significativos à segurança: as pessoas tendem a não considerá-los, presumindo que o robô é bom e confiável. Isso proporciona um possível canal para ciberataques e os três estudos de caso discutidos no relatório são apenas uma fração dos riscos à segurança associados. Por isso, é fundamental cooperarmos agora para entender todas as vulnerabilidades emergentes. Teremos a compensação no futuro” .

O relatório ‘O potencial dos robôs sociais para persuasão e manipulação: um estudo de prova de conceito’ está disponível em Securelist .com: http://securelist.com/robots-social-impact/94431/

Últimas notícias