Imagine solicitar um empréstimo e receber uma negativa em poucos segundos. Nenhum funcionário conversa com você e a resposta informa apenas que a operação não atende aos critérios da instituição.
Agora considere situações semelhantes em processos seletivos, contratação de serviços ou avaliação de perfis. Sistemas automatizados podem participar de decisões que afetam oportunidades, condições comerciais e interesses individuais.
A automação oferece velocidade e capacidade de análise, mas também amplia uma dificuldade: como compreender e questionar um resultado quando seus motivos permanecem desconhecidos? Essa é uma das questões centrais do debate sobre o direito à explicação.
Quando a decisão deixa de ter um interlocutor
Uma decisão automatizada continua inserida na atividade de uma organização. Existem responsáveis por escolher o sistema, definir sua utilização e estabelecer procedimentos para lidar com os resultados.
Entretanto, o usuário pode encontrar apenas uma mensagem padronizada. Ao procurar esclarecimentos, recebe a informação de que o resultado foi produzido automaticamente e não pode ser alterado naquele canal.
Essa resposta descreve parte do procedimento, mas não explica os critérios nem esclarece como apresentar uma contestação.
A ausência de um interlocutor capaz de encaminhar a demanda pode transformar uma ferramenta de eficiência em obstáculo. O problema não é apenas quem decidiu, mas como a organização permite compreender e revisar o resultado.
Nem toda automação funciona da mesma forma
Alguns sistemas aplicam regras relativamente simples. Uma solicitação pode ser recusada porque falta um documento ou porque determinado requisito não foi preenchido.
Outros utilizam modelos estatísticos que combinam numerosas informações para produzir classificações e estimativas. Nesses casos, a relação entre os dados e o resultado pode ser mais difícil de apresentar.
Também existem processos que misturam etapas automáticas e avaliação humana. Essa diferença importa para identificar quais regras e garantias se aplicam.
Por isso, não basta afirmar que uma decisão envolveu inteligência artificial. É necessário compreender a função desempenhada pelo sistema, o grau de participação humana e as consequências da operação para a pessoa afetada.
O que significa explicar uma decisão?
Uma explicação útil deve oferecer elementos para compreender o resultado dentro de seu contexto. Apresentar apenas o nome do modelo ou uma descrição genérica da tecnologia pode não atender a essa finalidade.
No exemplo do crédito, o interessado pode precisar saber se a avaliação considerou informações incorretas, registros desatualizados ou características relevantes de sua situação financeira.
Isso não significa que exista uma obrigação universal de revelar todo detalhe técnico de qualquer sistema. O alcance da informação depende das regras aplicáveis e das circunstâncias.
A distinção central está entre explicar o funcionamento geral de uma ferramenta e esclarecer os critérios relacionados ao resultado questionado. Essas informações podem se complementar, mas não são equivalentes.
O que a LGPD estabelece
O artigo 20 da LGPD prevê o direito de solicitar revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem interesses do titular, incluindo decisões relacionadas à definição de perfis.
O dispositivo também determina o fornecimento, quando solicitado, de informações claras e adequadas sobre os critérios e procedimentos utilizados, observados os segredos comercial e industrial.
Seu alcance não deve ser confundido com uma garantia irrestrita de acesso a qualquer algoritmo. Também é necessário distinguir decisões exclusivamente automatizadas de processos com outras formas de participação.
A aplicação da regra exige analisar como a decisão ocorreu e de que maneira afetou os interesses da pessoa.
Explicação, revisão e correção são direitos diferentes
Compreender um resultado não significa necessariamente obter sua alteração. Uma explicação pode demonstrar que as informações estavam corretas, enquanto a revisão examina o questionamento apresentado.
Também pode ser necessário corrigir dados antes de avaliar novamente a solicitação. Um erro no cadastro e uma discordância sobre o critério utilizado apresentam problemas distintos.
Além disso, a redação do artigo 20 não estabelece, de forma geral, que toda revisão deva ser obrigatoriamente realizada por uma pessoa natural.
Essas diferenças ajudam a organizar expectativas. Pedir esclarecimentos, atualizar informações e contestar uma conclusão podem exigir providências complementares, em vez de uma resposta única que encerre todos os pedidos.
Segredo empresarial não elimina a discussão
Modelos e procedimentos podem envolver conhecimentos técnicos e interesses empresariais protegidos. A transparência precisa considerar esses limites, expressamente reconhecidos pela LGPD.
Isso não torna suficiente uma recusa genérica de qualquer esclarecimento. É necessário distinguir informações sobre a tecnologia de elementos úteis para compreender os critérios aplicados.
A lei também prevê a possibilidade de auditoria pela autoridade nacional para verificar aspectos discriminatórios quando as informações não forem oferecidas com fundamento em segredo comercial e industrial.
O desafio consiste em organizar formas adequadas de acesso e fiscalização. Revelar integralmente um sistema e manter o titular completamente sem informação não são as únicas alternativas possíveis.
A dificuldade de explicar modelos complexos
Em determinados modelos, pode ser difícil apresentar uma relação simples entre cada informação e o resultado individual. Métodos de explicabilidade procuram oferecer elementos para interpretar esse funcionamento.
Entretanto, uma aproximação sobre a influência de fatores não deve ser apresentada como uma descrição perfeita de todas as operações internas.
Também existe uma diferença entre gerar uma justificativa plausível e demonstrar que ela corresponde ao processo utilizado. Uma explicação produzida depois da decisão pode parecer convincente sem representar adequadamente seus fundamentos.
Por isso, as organizações precisam avaliar a fidelidade das informações oferecidas. Simplificar a linguagem é importante, mas não pode significar inventar uma razão mais fácil de comunicar.
Como identificar um erro sem conhecer os critérios?
Imagine um candidato eliminado porque uma informação de seu currículo foi interpretada incorretamente. Uma mensagem genérica de encerramento pode impedir que ele perceba a falha.
Situações semelhantes podem envolver cadastros duplicados, dados antigos ou registros associados à pessoa errada.
A transparência pode ajudar a localizar essas inconsistências. Para ser útil, precisa estar acompanhada de canais capazes de receber documentos, corrigir informações e encaminhar a análise.
Não basta disponibilizar um formulário de contestação se ele apenas provoca a repetição automática da resposta inicial. A estrutura deve permitir examinar o problema apresentado, conforme as obrigações aplicáveis à relação.
A opacidade pode esconder tratamentos inadequados
Sistemas podem reproduzir distorções existentes nos dados ou utilizar características que funcionam como aproximações de outras informações. A ausência de critérios explícitos dificulta investigar esses efeitos.
Isso não significa que toda decisão automática seja discriminatória. Significa que a qualidade do resultado precisa ser avaliada, em vez de presumida pela sofisticação da ferramenta.
Em situações com impacto sobre oportunidades, importa examinar erros, diferenças entre grupos e adequação das informações utilizadas.
Explicações individuais podem contribuir para essa análise, mas não substituem avaliações mais amplas. Um problema recorrente pode exigir auditoria e revisão do processo, além do tratamento de uma reclamação específica.
Transparência precisa considerar quem recebe a informação
Uma descrição adequada para uma equipe técnica pode ser incompreensível para um consumidor. Da mesma forma, uma mensagem resumida pode não oferecer os elementos necessários a uma fiscalização especializada.
Por isso, a comunicação pode exigir níveis diferentes de detalhamento. O usuário precisa compreender aspectos relevantes da decisão e os caminhos disponíveis para questioná-la.
Termos técnicos, documentos extensos e percentuais isolados podem criar uma aparência de transparência sem esclarecer o resultado.
O objetivo deve ser transmitir informações úteis e fiéis. Também importa permitir esclarecimentos adicionais quando a explicação inicial não responde à questão concreta apresentada.
Explicar deve fazer parte do planejamento
A capacidade de fornecer informações não deveria ser considerada apenas depois de uma reclamação. Ela pode integrar a escolha do sistema, os contratos com fornecedores e os procedimentos internos.
A organização precisa compreender quais registros estarão disponíveis e como poderá reconstruir uma decisão. Dependência de terceiros não elimina a necessidade de planejar esse acesso.
Também convém definir quem recebe os pedidos, como identifica o tipo de questionamento e quando encaminha uma análise especializada.
Essas medidas ajudam a transformar transparência em procedimento efetivo. Sem organização, até uma equipe disposta a esclarecer o resultado pode não encontrar informações suficientes para responder adequadamente.
O direito de compreender aquilo que nos afeta
A automação não precisa ser abandonada para preservar informação e contestação. Seus benefícios podem coexistir com mecanismos capazes de identificar falhas e examinar consequências.
O chamado direito à explicação deve ser discutido com atenção às garantias legais existentes, sem prometer acesso ilimitado nem reduzir transparência a mensagens padronizadas.
Também é necessário reconhecer que explicar não equivale a demonstrar justiça. Uma decisão pode ser compreensível e ainda assim utilizar um critério inadequado.
O desafio é combinar informação, qualidade dos dados, possibilidade de revisão e responsabilidade institucional.
Quando um sistema participa de uma decisão relevante, conhecer apenas o resultado pode ser insuficiente para exercer direitos. A organização precisa estar preparada para tratar questionamentos dentro das regras aplicáveis.
“Foi o algoritmo que decidiu” informa qual ferramenta participou do processo. Não deveria funcionar como ponto final para quem precisa compreender o que aconteceu.
