A (in)suficiência do direito à revisão e à explicação na efetivação do princípio da transparência e na prevenção de potenciais vieses discriminatórios do credit score

Abstract

O presente trabalho se propõe a analisar se os instrumentos legais presentes na Lei Geral de Proteção de Dados (LGPD) que visam limitar a aplicação indiscriminada do sistema de pontuação creditícia, em especial o direito à explicação e o direito à revisão de decisões automatizadas, são suficientes para garantir uma maior transparência e prevenir potenciais resultados discriminatórios. A atividade creditícia no Brasil, por sabidamente envolver alto risco de inadimplência, utiliza o sistema de pontuação de crédito (credit scoring) para auxiliar na decisão de outorga do crédito. Esta técnica de cálculo aplica o método estatístico, alimentado com dados pessoais do consumidor, a fim de classificar os consumidores em grupos de “bons” ou “maus” pagadores de acordo com a probabilidade de cumprirem com suas obrigações. Apesar da sua relevância para a economia, historicamente este sistema de pontuação é constantemente criticado em decorrência do processamento algorítmico poder resultar em decisões automatizadas reprodutoras de vieses discriminatórios. Assim, na tentativa de fornecer uma resposta aos anseios dos consumidores por uma maior transparência na utilização deste instrumento probabilístico por birôs de crédito, houve o reconhecimento da sua licitude pelo Superior Tribunal de Justiça aliada à determinação da observância às garantias e direitos conferidos ao titular dos dados, notadamente, no Código de Defesa do Consumidor, na Lei do Cadastro Positivo e na Lei Geral de Proteção de Dados. O trabalho utiliza-se do método dedutivo de abordagem, com consulta a materiais bibliográficos, jurisprudência e legislações, e encontra-se dividido em duas partes. Em um primeiro momento, a pesquisa analisa os aspectos gerais sobre o credit scoring, com destaque para a sua definição, evolução histórica, aplicabilidade e regulação no ordenamento jurídico brasileiro. Posteriormente, serão examinados os possíveis riscos decorrentes da opacidade e o potencial viés discriminatório no credit scoring, as novidades regulatórias da LGPD ao score com análise, fundamentalmente, do direito à explicação e à revisão como garantias ao princípio da transparência. A relevância da presente pesquisa consiste em examinar em que medida as mudanças legislativas advindas da LGPD contribuíram para lidar com os desafios à efetivação do princípio da transparência no sistema credit score. Através do estudo, entende-se que apesar da importância dos mecanismos do direito à explicação e à revisão humana, estes não se mostram suficientes à efetivação do princípio da transparência e, por conseguinte, na prevenção de vieses discriminatórios no âmbito da pontuação creditícia.

This study aims to analyze whether the legal instruments present in the General Data Protection Law (GDPL) that aim to limit the indiscriminate application of the credit scoring system, especially the right to explanation and the right to review automated decisions, are sufficient to ensure greater transparency and prevent potential discriminatory results. The credit activity in Brazil, as it is known to involve a high risk of default, uses the credit scoring system to assist in the decision to grant credit. This calculation technique applies the statistical method, fed with personal consumer data, in order to classify consumers into groups of "good" or "bad" payers according to their likelihood of meeting their obligations. Despite its relevance to the economy, historically this scoring system is constantly criticized because the algorithmic processing can result in automated decisions that reproduce discriminatory biases. Thus, in an attempt to provide an answer to the wishes of consumers for greater transparency in the use of this probabilistic tool by credit bureaus, there was the recognition of its lawfulness by the Superior Court of Justice coupled with the determination of compliance with the guarantees and rights conferred to the holder of the data, notably in the Code of Consumer Protection, the Positive Disclosure Act and the General Data Protection Law. The work uses the deductive method of approach, with consultation of bibliographical materials, jurisprudence and legislation, and is divided into two parts. First, the research analyzes the general aspects of credit scoring, with emphasis on its definition, historical evolution, applicability and regulation in the Brazilian legal system. Subsequently, the possible risks arising from opacity and the potential discriminatory bias in credit scoring will be examined, as well as the regulatory changes introduced by the GDPL to credit scoring, with a fundamental analysis of the right to explanation and review as guarantees to the transparency principle. The relevance of this research is to examine to what extent the legislative changes arising from the GDPL have contributed to addressing the challenges to the effectiveness of the principle of transparency in the credit scoring system. Through this study, it is understood that, despite the importance of the mechanisms of the right to explanation and human review, these are not sufficient to the effectiveness of the principle of transparency and, consequently, to the prevention of discriminatory biases in the credit scoring system.