IA em seleção de emprego: como investigar discriminação algorítmica?

Em exemplo hipotético, uma pessoa atende aos requisitos anunciados para uma vaga, envia o currículo e recebe uma recusa em poucos segundos. A rapidez pode indicar uma etapa automatizada, mas não prova discriminação. Para investigar o ocorrido, é necessário entender quais informações entraram no processo, como foram usadas e em que momento produziram a exclusão. A expressão “o algoritmo decidiu” descreve mal uma cadeia que envolve escolhas de recrutadores, empresas contratantes e fornecedores de tecnologia.

A inteligência artificial pode organizar candidaturas, resumir experiências ou recomendar uma ordem de análise. Também pode funcionar como filtro eliminatório. A diferença importa porque uma recomendação examinada criticamente por alguém não é igual a um bloqueio que impede o currículo de chegar à equipe responsável pela vaga.

Começar pela regra de seleção, não pelo nome do sistema

O anúncio original é um ponto de partida importante. Convém guardar a descrição da função, os requisitos, as etapas anunciadas e a versão do currículo enviada. Se a candidatura incluiu questionário, teste ou entrevista gravada, o candidato pode preservar as instruções recebidas e as respostas que legitimamente conseguir acessar.

Uma investigação inicial pode organizar três perguntas: qual requisito teria deixado de ser atendido, onde esse requisito foi informado e como a empresa verificou seu cumprimento. A ausência de resposta não demonstra, sozinha, que houve discriminação. Ainda assim, ela pode revelar uma seleção pouco explicável e indicar quais documentos precisam ser solicitados.

Considere uma hipótese: a vaga admite diferentes formações, mas o formulário só permite escolher uma delas. A exclusão pode decorrer de configuração inadequada, mesmo sem uso de modelo sofisticado. Corrigir o problema exige localizar essa etapa; discutir genericamente a inteligência artificial poderia esconder a falha concreta.

A proibição de discriminar alcança o acesso ao trabalho

A Lei nº 9.029 proíbe práticas discriminatórias e limitativas no acesso à relação de trabalho ou em sua manutenção, por motivos como sexo, origem, raça, cor, situação familiar, deficiência e idade, entre outros. A utilização de um fornecedor tecnológico não transforma critérios proibidos em critérios legítimos.

Isso não significa que qualquer diferença de resultado entre candidatos seja ilícita. Uma seleção envolve requisitos relacionados à atividade e avaliações de qualificação. A questão é examinar a pertinência do critério, sua aplicação e a existência de restrições discriminatórias. A análise precisa levar em conta o caso concreto, sem prometer contratação ou reparação automática a todo candidato recusado.

Também é necessário distinguir admissão e rompimento de vínculo. As consequências legais previstas especificamente para uma dispensa discriminatória não devem ser transportadas, sem análise, para uma pessoa que nunca foi contratada. O direito discutido e a providência pretendida precisam corresponder à situação efetivamente vivida.

Informações aparentemente neutras podem exigir investigação

Uma equipe pode examinar se a ferramenta valoriza excessivamente características sem relação demonstrada com o trabalho. Em exemplo hipotético, a distância entre a residência e determinado bairro poderia afetar a classificação, embora a vaga seja remota. Isso justificaria perguntar por que o endereço entrou na avaliação e qual necessidade operacional pretende atender.

Esse tipo de variável pode estar associado a características sociais. A associação isolada não prova ilegalidade, mas demonstrar intenção de discriminar não é requisito geral para reconhecer discriminação indireta. O guia da Secretaria de Inspeção do Trabalho explica que uma regra aparentemente neutra pode impor desvantagem injustificada a determinado grupo. A apuração deve examinar o efeito, a justificativa, as alternativas e a qualidade das evidências, mesmo que ninguém tenha declarado propósito discriminatório. O mesmo cuidado vale para intervalos no currículo, trajetórias profissionais menos lineares e formas diferentes de apresentar experiências equivalentes.

Retirar um campo explícito de raça ou gênero tampouco demonstra, por si, que o processo ficou livre de discriminação. A investigação precisa alcançar as regras efetivamente aplicadas. Ao mesmo tempo, coletar novos dados sensíveis para realizar uma auditoria requer fundamento próprio e proteção adequada; uma boa finalidade não autoriza coleta indiscriminada.

O candidato pode formular pedidos mais precisos

A LGPD assegura direitos de acesso e correção de dados e proíbe tratamento para fins discriminatórios ilícitos ou abusivos. Seu artigo 20 permite solicitar revisão de decisões tomadas unicamente com tratamento automatizado que afetem interesses, incluindo perfil profissional. Também prevê informações claras sobre critérios e procedimentos, resguardados segredos comercial e industrial.

O texto legal não estabelece uma exigência geral de que essa revisão seja necessariamente realizada por pessoa natural. Por isso, o candidato pode perguntar como a revisão funciona, sem afirmar que a lei assegura em qualquer situação uma entrevista humana. Tampouco há um direito irrestrito de receber todo o código do fornecedor.

Um pedido concreto pode identificar a vaga e a data, perguntar quais dados pessoais foram considerados, apontar uma informação incorreta e solicitar esclarecimento sobre a etapa automatizada. É diferente de exigir uma explicação abstrata sobre toda a tecnologia da empresa. Quanto mais localizado estiver o problema, maior a possibilidade de uma resposta verificável.

Revisão efetiva exige capacidade de mudar o resultado

Para a empresa, designar uma pessoa para clicar em “confirmar” não demonstra que houve avaliação independente. Como proposta de governança, a equipe revisora deveria conhecer a vaga, acessar os elementos relevantes e conseguir alterar uma exclusão indevida. Também deveria registrar o fundamento da manutenção ou mudança do resultado.

Pode ser útil comparar a informação original do currículo com a interpretação produzida pelo sistema. Uma abreviação profissional, um documento com formatação incomum ou uma experiência descrita em linguagem regional podem ser mal interpretados. Essas hipóteses precisam ser testadas no contexto autorizado, sem concluir antecipadamente que explicam todas as recusas.

O registro da versão da ferramenta também ajuda. Se o fornecedor modifica o modelo entre a candidatura e a reclamação, executar novamente o currículo pode produzir resposta diferente. Uma repetição posterior não reconstitui necessariamente o processo original. A investigação deve reconhecer essa limitação e buscar os registros disponíveis da decisão questionada.

Comparações precisam considerar quem entrou em cada etapa

Uma análise de resultados deve distinguir inscritos, pessoas que completaram o formulário, candidaturas tecnicamente válidas e candidatos submetidos à mesma avaliação. Comparar percentuais de grupos em etapas diferentes pode produzir uma conclusão enganosa. Também é preciso considerar tamanho da amostra e diferenças legítimas de qualificação.

Não existe um único percentual apresentado neste texto como prova universal de discriminação. Uma diferença relevante pode funcionar como sinal para aprofundar a investigação; não dispensa contextualização. Da mesma forma, uma taxa global aparentemente equilibrada pode esconder um problema concentrado em uma unidade, cargo ou fase específica.

A empresa pode organizar essa análise com acesso restrito, separação entre avaliação de equidade e decisão individual de contratação, além de documentação das limitações. Essas medidas são propostas de investigação. Não representam auditoria realizada pelo Jornal da Justiça nem certificação de conformidade de qualquer plataforma comercial.

A responsabilidade deve acompanhar as decisões reais

O contrato com o fornecedor pode esclarecer quem configura filtros, valida critérios, responde a solicitações e preserva registros. A descrição contratual, porém, precisa corresponder ao funcionamento real. Uma contratante que escolhe os parâmetros de exclusão não explica sua conduta apenas afirmando que utiliza tecnologia externa.

Para o candidato, reunir anúncio, protocolos e respostas ajuda a levar uma questão delimitada à orientação jurídica e aos canais competentes. O objetivo da apuração é transformar uma recusa opaca em perguntas verificáveis. Investigar discriminação algorítmica exige examinar decisões humanas incorporadas ao processo, dados utilizados e efeitos concretos, sem presumir neutralidade da ferramenta nem culpa a partir de uma rejeição isolada.