A ampliação do uso de sistemas de inteligência artificial em processos de análise, recomendação e decisão aumenta a atenção sobre riscos de viés algorítmico nas empresas. O AI Index 2026, da Universidade Stanford, aponta que incidentes documentados de IA subiram de 233 em 2024 para 362 em 2025, enquanto a adoção organizacional da tecnologia chegou a 88%. O avanço indica que a discussão deixou de ficar restrita a laboratórios, áreas de inovação e equipes técnicas, passando a envolver decisões de negócio, relações de consumo, gestão de pessoas e prestação de serviços.
O tema ganha relevância porque sistemas automatizados podem influenciar etapas de crédito, recrutamento, atendimento, seguros, educação, saúde, prevenção a fraudes, cobrança, análise documental e acesso a benefícios. Em muitos casos, a IA não aparece como responsável final pela decisão, mas atua como filtro, pontuação, recomendação ou mecanismo de priorização. Esse tipo de uso pode gerar ganhos operacionais, mas também aumenta a necessidade de explicar quais dados foram considerados, quais critérios orientaram o resultado e como uma pessoa afetada pode pedir revisão quando houver erro ou tratamento desigual.
O viés algorítmico pode surgir de diferentes formas. Bases históricas podem refletir desigualdades já existentes, variáveis aparentemente neutras podem funcionar como substitutas de renda, região, idade, gênero ou deficiência, e modelos estatísticos podem reproduzir padrões de exclusão presentes nos dados de treinamento. Também há risco quando sistemas são implantados em contextos diferentes daqueles para os quais foram avaliados, quando não há monitoramento contínuo de desempenho ou quando a organização não mede impactos sobre grupos afetados. Nessas situações, uma decisão apresentada como técnica pode produzir efeitos discriminatórios sem que a empresa perceba de imediato.
No Brasil, o debate avança em paralelo à tramitação do PL 2338/2023, que dispõe sobre o desenvolvimento, o fomento e o uso ético e responsável da inteligência artificial com base na centralidade da pessoa humana. O texto em análise na Câmara dos Deputados prevê princípios como não discriminação, transparência, explicabilidade, auditabilidade, contestabilidade e supervisão humana. A proposta também trata de direitos relacionados à explicação, à contestação e à revisão de decisões em sistemas de alto risco, tema que tende a ganhar importância conforme empresas adotam IA em processos que afetam oportunidades, direitos ou acesso a serviços.
A Autoridade Nacional de Proteção de Dados (ANPD) também colocou o tema no centro de sua agenda ao lançar um sandbox regulatório experimental em inteligência artificial e proteção de dados, com foco em técnicas, tecnologias e modelos de negócio que promovam transparência algorítmica. A Lei Geral de Proteção de Dados (LGPD) já prevê o direito de solicitar revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem interesses do titular, incluindo decisões destinadas a definir perfil profissional, de consumo e de crédito. A lei também prevê a prestação de informações claras e adequadas sobre critérios e procedimentos utilizados, observados os segredos comercial e industrial.
Referenciais internacionais reforçam essa agenda. O NIST AI Risk Management Framework inclui, entre as características de sistemas de IA confiáveis, validade, segurança, resiliência, accountability, transparência, explicabilidade, interpretabilidade, privacidade e gestão de vieses prejudiciais. Na União Europeia, o AI Act adota abordagem baseada em risco e enquadra como alto risco usos de IA em áreas como educação, emprego, acesso a serviços essenciais, crédito, justiça e aplicação da lei. Para esses cenários, a regulação europeia exige medidas como gestão de risco, qualidade de dados, documentação técnica, registros, transparência, supervisão humana, robustez e segurança.
Para Rafael Lotfi Marrocos Leite, fundador da VGrid, consultoria em governança corporativa de IA, AI Security e AI Compliance, a discussão sobre viés deve sair do campo abstrato e chegar aos controles verificáveis. “Quando uma IA afeta crédito, emprego ou serviços, a ausência de viés não pode ser presumida; precisa ser demonstrada com evidências”, afirma. Segundo ele, a governança de IA precisa conectar explicabilidade, contestabilidade, supervisão humana e não discriminação a processos internos, responsáveis definidos, registros e critérios de avaliação. “Não basta dizer que há um humano no processo. É preciso saber se esse humano entende o sistema, tem autoridade para revisar o resultado e consegue alterar uma decisão inadequada”, complementa.
A gestão desse risco tende a exigir inventário dos sistemas de IA, classificação de impacto, documentação dos dados utilizados, avaliação de fornecedores, testes por grupos afetados, análise de variáveis sensíveis ou substitutas, canais de contestação, trilhas de auditoria e revisão periódica dos modelos. Também pode envolver avaliação de impacto algorítmico, políticas de uso aceitável, definição de papéis entre áreas de negócio, tecnologia, jurídico, compliance, segurança da informação e privacidade. “A empresa precisa conseguir reconstruir o caminho da decisão. Sem registro, critério e responsável, a governança vira apenas uma declaração de intenção”, avalia Lotfi. Para organizações que usam ou pretendem usar IA em processos sensíveis, o desafio passa a ser demonstrar que inovação, eficiência e proteção de direitos podem operar dentro do mesmo sistema de gestão.
Website: vgrid.com.br