Os riscos do viés de dados nos projetos de inteligência artificial (IA)

Por Francisco Larez – VP da Progress para América Latina e Caribe

Salvador, 19/09/2023 – A inteligência artificial (IA) tem o potencial de oferecer um enorme valor comercial para as organizações e sua adoção foi acelerada pelos desafios trazidos pela pandemia. De acordo com projeções do IDC, neste ano, o investimento em tecnologias como IA, machine learning, automação e robótica crescerá 32 vezes mais do que a economia da América Latina. Outra pesquisa divulgada pelo Gartner indica que os CEOs elegeram a IA como principal tecnologia cotada para ter impacto significativo nos negócios e a Forrester estima que o mercado de software de inteligência artificial atingirá US$ 37 bilhões até 2025.

Mais recentemente, novas ferramentas de IA generativa, como o ChatGPT, se popularizaram entre os consumidores em todo o mundo, trazendo uma mudança revolucionária na indústria. E, embora a IA não seja novidade, essas aplicações democratizam o acesso à tecnologia e são capazes de transformar processos de TI relacionados ao atendimento e suporte ao cliente, negociações e inovação de produtos.

Contudo, apesar dos benefícios trazidos, a ascensão da IA traz preocupações em relação ao enviesamento de dados: situações em que a tecnologia toma decisões sistematicamente injustas para determinados grupos sociais, e que têm o potencial de causar danos reais a pessoas e empresas. Um artigo publicado na Harvard Business Review alerta que, hoje, a maior parte do desenvolvimento de inteligência artificial é realizada por um pequeno grupo de pessoas altamente técnicas e culturalmente homogêneas, o que abre precedentes para que sejam criados sistemas baseados em uma visão limitada do mundo.

De acordo com um levantamento da Progress, globalmente, 78% dos decisores empresariais e de TI acreditam que o viés de dados se tornará uma preocupação maior à medida que o uso de IA/ML aumenta, mas apenas 13% deles estão tratando disso e têm um processo de avaliação contínuo. No Brasil, 57% das organizações afirmam sofrer com este problema e 75% confirmam que precisam fazer mais para lidar com a situação.

Neste contexto, como consequência da falta de diversidade de perspectivas daqueles que treinam e desenvolvem os sistemas, ferramentas outrora disruptivas podem se tornar um risco ao produzir resultados inesperados e potencialmente prejudiciais. Um exemplo notório desse fenômeno ocorreu quando algoritmos de contratação baseados em IA foram descobertos favorecendo candidatos masculinos em detrimento das mulheres, devido ao viés presente nos dados históricos.

Em outra situação, uma empresa, ao tentar recriar personagens identificando diferentes países do mundo com geradores de imagem impulsionados por IA, obteve resultados que continham formas extremas de viés de representação, incluindo características racistas. Ou seja, os riscos inerentes ao enviesamento de dados não podem ser subestimados, uma vez que podem comprometer seriamente a confiabilidade das operações e minar a integridade das decisões empresariais.

Companhias que negligenciam essa faceta da implementação de IA correm o risco de enfrentar implicações legais, reputacionais e financeiras significativas. Além disso, a dependência de sistemas enviesados pode excluir certos grupos de consumidores, diminuindo a inclusão e reduzindo o potencial de mercado. Assim, é importante que as organizações estejam atentas às formas de preconceito que essas tecnologias podem alimentar.

A gestão proativa do enviesamento de dados exige esforço e nota-se que ainda existe uma falta de compreensão em torno do treinamento, processos e tecnologia necessários para lidar com esse fenômeno de maneira eficaz. Por isso, as organizações precisam investir em monitorização e mitigação do viés ao longo do ciclo de vida da tecnologia, e ter transparência e responsabilidade no desenvolvimento e na implementação de sistemas de IA a fim de evitar consequências adversas.

Veremos cada vez mais a necessidade da criação de padrões e normas claras e precisas para o uso da IA, bem como do controle de qualidade no uso eficaz e responsável da tecnologia. Tudo isso impactará a forma como as empresas utilizam a tecnologia para fazer negócios, criar inovação e atender seus clientes. A abordagem cautelosa e consciente em relação a esse desafio garantirá que a IA contribua para um crescimento sustentável e inclusivo, em vez de perpetuar desigualdades e riscos indesejados.