Fornecedor de IA na segurança pública pode responder por falhas? Entenda o projeto

O fornecedor de inteligência artificial usada na segurança pública poderá responder subsidiariamente por defeitos graves do sistema, segundo um projeto aprovado em comissão na Câmara. A previsão está no substitutivo ao PL4.356/2025 e ainda não é lei. O texto também trata da atuação dos agentes públicos e mantém a IA como instrumento de apoio, sem transferir a ela a responsabilidade pelas decisões.

A proposta aguardava designação de relator na Comissão de Segurança Pública e Combate ao Crime Organizado na consulta realizada em 17 de setembro de 2026. Antes, em 12 de agosto, a Comissão de Ciência, Tecnologia e Inovação aprovou o parecer do deputado Coronel Meira. Outras etapas legislativas ainda precisam ser percorridas.

Para uma pessoa prejudicada por identificação errada ou outra falha, a existência de vários participantes torna importante reconstruir o ocorrido. Um resultado pode depender do programa, da base consultada, da configuração escolhida e da ação tomada a partir do alerta. A expressão erro da IA não esclarece, sozinha, qual dessas etapas produziu o dano.

O que diz a proposta sobre o fornecedor

O artigo7º do substitutivo prevê responsabilidade subsidiária do fornecedor por defeitos graves. No mesmo dispositivo, afirma que o agente público não será responsabilizado exclusivamente por erro decorrente do sistema, ressalvados dolo comprovado ou uso indevido. A leitura conjunta é necessária para não transformar uma cláusula em imunidade geral.

Responsabilidade subsidiária não é sinônimo de responsabilidade solidária: os conceitos possuem consequências diferentes sobre a forma de exigir a obrigação. A redação proposta não fornece, por si, uma resposta completa para toda cadeia de empresas ou para todos os tipos de dano. Seu alcance dependeria da versão final, das demais normas e da interpretação aplicável.

Também não é correto afirmar que, enquanto o projeto não virar lei, fornecedores estejam livres de responsabilização. Contratos e regras vigentes já podem incidir, conforme a situação. O que está em discussão é uma previsão específica para sistemas empregados no âmbito do Sistema Único de Segurança Pública, e não a criação do primeiro mecanismo jurídico de reparação de qualquer falha tecnológica.

O artigo37, parágrafo6º, da Constituição disciplina a responsabilidade das pessoas jurídicas ali previstas pelos danos causados por seus agentes a terceiros, assegurado o direito de regresso nos casos de dolo ou culpa. A análise de uma ocorrência exige identificar a conduta, o dano e a relação entre eles.

O projeto não pode ser lido como se uma contratação privada retirasse automaticamente a responsabilidade estatal. É necessário distinguir a relação da pessoa prejudicada com o poder público, a eventual relação com o fornecedor e os ajustes internos entre os participantes. São planos que podem se relacionar, mas não têm necessariamente os mesmos fundamentos.

Como exemplo hipotético, uma pessoa é abordada após um alerta incorreto. A apuração pode revelar informação desatualizada fornecida pelo próprio órgão, falha do programa ou interpretação inadequada do operador. Também pode encontrar fatores combinados. A origem do erro precisa ser demonstrada antes de atribuir toda a consequência a um único participante.

Falha técnica e uso indevido são questões diferentes

Uma ferramenta pode produzir o resultado previsto em seu desenho e, ainda assim, ser utilizada para uma finalidade inadequada. Pode também falhar em uma função para a qual foi contratada. Separar essas hipóteses ajuda a formular perguntas ao fornecedor e à administração, além de orientar a preservação dos registros relevantes.

Como exemplo hipotético, um sistema foi avaliado para comparar retratos bem iluminados, mas é empregado em imagens distantes e desfocadas. Será importante examinar o que o contrato previa, quais limitações foram informadas e quem decidiu pela aplicação. A situação não autoriza presumir de antemão que o fornecedor ou o operador seja o único responsável.

O Código Civil contém regras gerais sobre atos ilícitos e reparação. Sua incidência deve ser examinada junto ao regime jurídico da relação concreta. Invocar uma regra genérica não dispensa demonstrar os fatos necessários ao pedido, nem permite prometer indenização sem conhecer a origem e a extensão do prejuízo.

A Lei14.133/2021, nos contratos submetidos a seu regime, prevê acompanhamento e fiscalização da execução. Também atribui ao contratado obrigações relativas a vícios, defeitos e incorreções e trata de danos causados à administração ou a terceiros. A fiscalização pública não elimina, por si, a responsabilidade do contratado.

Na avaliação de uma contratação de IA, é relevante conferir como foram descritos o objeto, o desempenho esperado, a manutenção e o tratamento de incidentes. Um contrato que apenas utiliza expressões como alta precisão ou tecnologia avançada oferece menos clareza do que critérios verificáveis. Essa é uma questão de planejamento e fiscalização do serviço entregue.

Atualizações também podem alterar o comportamento da ferramenta. Como exemplo hipotético, uma nova versão modifica a forma de gerar alertas e a equipe continua trabalhando com orientações antigas. Para reconstruir uma ocorrência, interessa saber qual versão estava ativa e quais informações foram comunicadas. A mera identificação da marca do produto pode ser insuficiente.

A Agência Câmara destaca a previsão de registros auditáveis e relatórios no projeto. O texto integral busca permitir a reconstituição das operações. Isso importa porque a disputa não envolve apenas o resultado final: pode depender de entradas, alertas, acessos e decisões tomadas ao longo do caminho.

Para quem sofreu uma medida indevida, documentos sobre o episódio, horários, protocolos e comunicações recebidas podem ajudar a delimitar o pedido. A obtenção de registros técnicos sob controle do órgão ou do fornecedor pode exigir providências específicas. Preservação e acesso são questões distintas, especialmente quando o material também contém informações sigilosas ou de terceiros.

Não se recomenda tentar acessar sistemas alheios para produzir prova. A documentação disponível de forma lícita e o acionamento dos canais jurídicos adequados oferecem um caminho para discutir a conservação e a apresentação do material. Um registro técnico isolado também precisa de contexto para ser interpretado corretamente.

O que ainda precisa ser acompanhado

A cláusula sobre defeitos graves não contém, por si, uma lista capaz de resolver todos os casos. A qualificação de um defeito e sua relação com o dano exigem análise técnica e jurídica. A continuidade da tramitação poderá esclarecer ou alterar esse desenho, que deve ser acompanhado pela versão dos documentos aprovados.

O debate envolve como distribuir deveres entre quem desenvolve, fornece, contrata e utiliza a tecnologia. Para a pessoa afetada, a questão prática é preservar elementos que permitam identificar a falha e seus efeitos. Uma referência genérica à inteligência artificial não deve substituir a explicação de quem decidiu, com quais informações e sob qual responsabilidade.