O entusiasmo em torno da IA é bem fundamentado, mas existem armadilhas!
Por Leandro Lopes, diretor de Engenharia de Sistemas da Nutanix América Latina
Salvador, 04/12/2023 – A Inteligência Artificial (IA) está se popularizando rapidamente para automação e otimização dos processos de negócios, na área de Pesquisa & Desenvolvimento com o aprimoramento dos produtos existentes e até mesmo a criação de novos, para acelerar análises e estudos e tantas outras aplicações. Ainda, o movimento das organizações rumo à nuvem (privada, híbrida, multicloud etc.) também está contribuindo para adoção da IA. Desde o ChatGPT e dos vários modelos de linguagem grande (LLMs) que se seguiram, os avanços da IA estão ganhando destaque nas decisões de negócios. Porém, há uma série de armadilhas a serem evitadas como um dos exemplos a gestão do custo de execução desses modelos.
O objetivo dos líderes na adoção de IA é gerar um retorno sobre o investimento (ROI) por meio do aumento da eficiência, do desbloqueio de novas oportunidades de negócios ou de uma infinidade de outras potencialidades. Entretanto, quanto maior for o custo incorrido ao executar a IA generativa, maior será o benefício necessário para obtenção do ROI.
É inerente que grandes quantidades de dados de uso geral e de uso específico sejam necessárias para acionar os mecanismos de IA. Todos esses dados devem ser armazenados, gerenciados e protegidos – e cada uma dessas funções implica em uma taxa.
Devido aos requisitos de capacidade, de desempenho e de escala necessários para gerenciar efetivamente esses modelos, muitos dos primeiros usuários procuraram executá-los na nuvem pública. Embora o objetivo desses primeiros projetos fosse a transformação do negócio, o resultado para muitas empresas foi um grande choque com os altos custos envolvidos.
À medida que o abandono inicial imprudente dá lugar a uma consideração mais madura sobre como aproveitar esses programas, as organizações estão adotando uma abordagem mais cuidadosa e sutil. Cada vez mais, um LLM será treinado na nuvem pública antes de ser executado na própria infraestrutura de uma empresa para permitir um maior controle de custos.
Isso não só faz sentido do ponto de vista do custo – especialmente quando se considera que pode custar de 4 a 5 vezes mais para executar um modelo compacto de IA na nuvem do que em um datacenter local – como também pode atenuar outras consequências não intencionais.
Manter os dados sob controle
Embora a eficiência de custos seja um desafio importante em qualquer projeto de TI, também é essencial manter a segurança e o controle sobre os dados. Uma das maiores armadilhas que as empresas devem evitar ao implementar modelos de IA é entrar em conflito com as regulamentações de segurança e soberania de dados.
Isso é particularmente difícil de gerenciar na nuvem pública, mesmo com cargas de trabalho tradicionais. Com a nova geração de modelos de IA esse desafio é ainda maior, pois a legislação que rege seu uso e treinamento ainda está sendo desenvolvida.
Para as empresas multinacionais, a soberania dos dados representa um risco significativo. Como as nações continuam a considerar as implicações de privacidade da IA, parece improvável que haja um consenso global que regule os modelos de IA e os dados usados para treiná-los.
Isso exige que as empresas tenham controle sobre seus dados e como eles são usados. Um LLM usado numa filial australiana, por exemplo, deve ser treinado somente em dados australianos e usado somente na Austrália. A introdução de dados de clientes brasileiros no modelo australiano pode gerar riscos regulatórios.
A questão é que estamos apenas começando a descobrir as perguntas a serem feitas no espaço regulatório. Ainda levará algum tempo até que tenhamos sequer um vislumbre das respostas. Até lá, as empresas precisam manter o controle de seus dados e aplicações, algo que é muito mais difícil de se conseguir em uma infraestrutura que não é sua.
Além das regulamentações, há várias questões de segurança a serem consideradas. Por exemplo, se estiver desenvolvendo um chatbot de atendimento ao cliente, os dados proprietários do produto precisarão ser incluídos em seu treinamento. Essas são informações extremamente confidenciais que as organizações provavelmente não se sentiriam confortáveis em manter na nuvem pública.
Além disso, a grande maioria dos projetos de IA corporativa é projetada para oferecer uma vantagem competitiva. Essa vantagem só pode ser obtida se os modelos e os dados usados para treiná-los forem mantidos em segurança.
Em última análise, o entusiasmo em torno da IA é bem fundamentado. Ela tem a capacidade de reimaginar completamente o funcionamento das empresas, dos governos e da sociedade como um todo. Porém, neste primeiro momento, devemos estar cientes dos riscos e aprendermos como gerenciá-los.
E, embora a inovação não seja gratuita, o preço do acesso a ela nunca deve ser uma surpresa.
