Quem responde quando a IA erra?
Por Eliézer Mota, CEO da Genux Consult
Salvador, 13/07/2026 – Quero começar respondendo diretamente à pergunta do título: quando a inteligência artificial não acerta em uma atividade empresarial, quem responde é a empresa. Afinal, cabe à gestão decidir usar a ferramenta, integrá-la à rotina, validar suas entregas e colocá-las em circulação. A responsabilidade nunca é da tecnologia. O mercado não é um filme distópico em que sistemas passam a decidir sozinhos. Se a IA foi adotada dentro da operação, a responsabilidade por seu uso — e por suas falhas — continua sendo da organização.
Por isso, nos diversos erros factuais que já vimos, como análises apoiadas em referências inexistentes, respostas automatizadas equivocadas em canais de atendimento, decisões sustentadas por dados enviesados e uso de ferramentas sem qualquer diretriz formal dentro das equipes, não é preciso nenhuma busca muito minuciosa para achar o culpado.
Mas, para além da responsabilidade, o problema não está só no que a IA produziu, mas no fato de aquilo ter sido aceito, utilizado ou publicado sem o nível de checagem, supervisão e governança que a situação exigia. É por isso que a discussão ética sobre IA nas empresas não pode continuar restrita a um debate genérico sobre o futuro da tecnologia ou a dilemas extremos e distantes da rotina corporativa.
O uso responsável da tecnologia começa em perguntas muito mais objetivas: para quais atividades ela pode ser usada, com quais dados, sob quais limites, com qual revisão humana e com quem assumindo a decisão final. O entusiasmo com a tecnologia é compreensível, mas ele costuma chegar antes da maturidade de uso.
Para mim, ainda, um dos pontos centrais nessa discussão é o uso informal de IA dentro das organizações. Porque o maior risco, muitas vezes, não está no projeto oficial de inteligência artificial, aquele que passou por discussão, aprovação e integração. Está no uso cotidiano, espontâneo e sem controle, que surge dentro das equipes antes mesmo que a empresa tenha definido regras claras.
É assim que nasce uma automação paralela: quando profissionais recorrem a ferramentas de IA para acelerar entregas, revisar documentos, apoiar análises ou responder demandas sem orientação formal, sem critérios para uso de dados e sem qualquer clareza sobre validação. À primeira vista, parece apenas ganho de produtividade. Na prática, pode ser a porta de entrada para erro, exposição de informação sensível, inconsistência de processo e risco reputacional.
O ponto mais delicado é que essa dinâmica cria uma ilusão de distância entre a empresa e o problema, como se o uso “não oficial” diminuísse sua responsabilidade. Não diminui. Se a ferramenta foi usada dentro da operação, em atividades ligadas ao negócio, com impacto sobre documentos, clientes, decisões ou informações estratégicas, a responsabilidade continua sendo da empresa. E é justamente por isso que governança em IA não pode olhar apenas para as soluções formalmente implantadas. Ela precisa alcançar também o uso difuso, silencioso e improvisado que já acontece dentro das equipes.
No fim, a pergunta “quem responde quando a IA erra?” funciona como um teste simples de maturidade. Se a empresa não consegue respondê-la com clareza, provavelmente ainda não está pronta para escalar o uso da tecnologia com segurança. Afinal, a IA pode automatizar tarefas, acelerar processos e ampliar produtividade. O que ela não faz é assumir culpa, proteger reputação ou responder por um dano causado. Por isso, a empresa precisa deixar claro, desde o início, que não terceiriza sua responsabilidade para o algoritmo.
