Explainability: Como Explicar Decisões Automatizadas

A implementação de modelos de inteligência artificial na concessão de crédito e na prevenção a fraudes transformou a eficiência operacional do mercado financeiro brasileiro. No entanto, o uso de modelos "caixa preta" não é mais aceitável. A explicabilidade (Explainability) deixou de ser apenas um debate acadêmico para se consolidar como um mandato regulatório rígido e um pilar de vantagem competitiva e confiança.

1. Por Que Explicar? O Mandato Regulatório, a Confiança e o Retorno Operacional

No ecossistema financeiro atual, decisões automatizadas ditam o ritmo de crescimento de fintechs, bancos e FIDCs. Um motor de crédito avalia milhares de requisições por segundo. Porém, quando uma proposta é negada ou uma transação é bloqueada por suspeita de fraude, o cliente, o regulador e os auditores internos fazem a mesma pergunta: Por quê?

Explicar a decisão traz três benefícios centrais:

• Compliance Regulatório: Jurisdições globais e locais exigem transparência nas decisões automatizadas que afetam direitos ou interesses econômicos.
• Confiança do Consumidor: O fornecimento de respostas claras (através de reason codes) reduz a fricção no atendimento, diminui processos nos Juizados Especiais Cíveis (JECs) e permite que bons clientes ajustem seu comportamento financeiro para futura aprovação.
• Depuração e Operação (DecisionOps): Para os cientistas de dados e equipes de risco, entender o peso das variáveis permite detectar deterioração de performance do modelo (concept drift), viés e anomalias sistêmicas precocemente, facilitando as práticas de DecisionOps.

2. O Arcabouço Regulatório no Brasil: LGPD e BACEN

O Impacto do Artigo 20 da LGPD

A Lei Geral de Proteção de Dados Pessoais (LGPD) estabelece no Brasil um marco rigoroso sobre decisões automatizadas. O Artigo 20 consagra o direito do titular de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses, incluindo expressamente aquelas destinadas a definir o seu perfil de crédito^{[Fonte: Brasil/LGPD, 2018]}.

A falta de transparência não é uma infração barata. O Artigo 52 da LGPD prevê multas severas que podem chegar a 2% do faturamento bruto da empresa, limitadas a R$ 50 milhões por infração. Simultaneamente, a base legal para o processamento desses dados muitas vezes recai sobre o Art. 7, inciso X (proteção do crédito), o que reforça a necessidade de justificar o modelo de forma robusta e transparente, evitando interpretações de tratamento abusivo ou discriminatório.

Resoluções do Banco Central do Brasil (BACEN)

O regulador financeiro brasileiro adota postura igualmente rigorosa quanto ao gerenciamento de risco de modelos (Model Risk Management - MRM):

• Resolução CMN 4.557/2017: Exige que as instituições financeiras mantenham processos documentados de validação independente de seus modelos de risco de crédito, assegurando sua consistência e adequação. A explicabilidade técnica (como as variáveis impactam o score) é parte integrante da avaliação de adequação.
• Resolução CMN 4.893/2021: Focada em segurança cibernética e governança de dados, determina o rastreamento, a integridade e a explicabilidade do uso da informação ao longo do ciclo de vida dos dados na instituição, mitigando riscos de vazamentos e manipulação de pontuações via ataques adversariais.

Para aprofundar na estruturação dessas regras dentro dos motores de cálculo, confira nosso artigo sobre Governança de Decisão.

3. Panorama Global: O que o Brasil pode aprender com EUA e Europa

As regulamentações globais funcionam como previsoras das diretrizes que a Autoridade Nacional de Proteção de Dados (ANPD) e o BACEN podem adotar. A observação desses mercados ajuda as instituições nacionais a arquitetar motores preparados para o futuro.

O EU AI Act e o Efeito Bruxelas

O EU AI Act estabelece a primeira regulação abrangente de inteligência artificial do mundo. No seu Anexo III, os sistemas de IA utilizados para avaliar a solvabilidade ou estabelecer o credit score de pessoas físicas são categorizados como de Alto Risco (High-Risk). O Artigo 13 desse regulamento institui requisitos estritos de transparência: os provedores devem garantir que o output dos modelos seja interpretável para o usuário, exigindo documentação técnica profunda que justifique o comportamento do algoritmo sob diferentes distribuições estatísticas^{[Fonte: Parlamento Europeu, 2024]}.

O Caso SCHUFA: A Posição do CJEU

A mais recente consolidação dessa rigidez ocorreu na Alemanha, envolvendo o birô de crédito SCHUFA. Em dezembro de 2023, o Tribunal de Justiça da União Europeia (CJEU), no caso C-634/21, decidiu que a emissão automatizada de uma pontuação de crédito (score) constitui uma "decisão individual automatizada" restrita pelo Artigo 22 do GDPR, se os credores confiarem de forma determinante nessa pontuação para a negativa de crédito^{[Fonte: CJEU C-634/21, Dec 2023]}. Esse marco jurisprudencial aumenta a pressão para que o modelo explique exatamente como o score foi gerado.

EUA: ECOA, FCRA e os Reason Codes

Nos Estados Unidos, o foco recai há décadas sobre a não-discriminação e o adverse action notice:

• ECOA (Equal Credit Opportunity Act) - Regulation B: O 12 CFR § 1002.9 obriga os credores a fornecerem "razões principais específicas" (specific principal reasons) para uma recusa de crédito. Declarar genericamente que "o cliente não atingiu o score mínimo" é ilegal.
• FCRA (Fair Credit Reporting Act): Sob o 15 U.S.C. § 1681g, além de apresentar o score, a instituição deve divulgar até 5 fatores chave que afetaram adversamente a nota do consumidor.

4. Por Dentro da "Caixa Preta": Técnicas de eXplainable AI (XAI)

Enquanto a transição de scorecards logísticos para modelos de Machine Learning não lineares (XGBoost, LightGBM, Redes Neurais) elevou dramaticamente o Gini e o KS das carteiras, ela trouxe o custo da opacidade. Em uma regressão logística (como em um scorecard tradicional), a contribuição de cada variável é aditiva e facilmente legível pelos coeficientes de Wald. No entanto, como abrir os algoritmos de árvore com milhares de divisões complexas?

A resposta está nas técnicas de XAI. Abaixo, mergulhamos nas arquiteturas e complexidades teóricas.

Valores de Shapley e a Revolução do SHAP

Originários da Teoria dos Jogos Cooperativos de Lloyd Shapley (1953), os valores de Shapley buscam distribuir o ganho total (a predição de risco) de forma justa entre todos os jogadores (as variáveis/features do modelo). Em 2017, Lundberg e Lee formalizaram o SHAP (SHapley Additive exPlanations), que unificou diversas abordagens de explicação em um formato matematicamente sólido e aditivo^{[Fonte: Lundberg & Lee, NeurIPS 2017]}.

A Complexidade Computacional:
O grande desafio do SHAP exato é que seu cálculo é NP-hard. Para calcular a contribuição exata de uma feature, o algoritmo precisa avaliar todas as permutações possíveis de subsets de variáveis, resultando em uma complexidade de O(2^F), onde F é o número de features. Em modelos de crédito modernos com milhares de variáveis transacionais do Open Finance, isso é impraticável em tempo real.

A Solução Otimizada: TreeSHAP
A adoção massiva em produção só foi possível com o TreeSHAP. Ao invés de ser agnóstico ao modelo, ele explora a estrutura interna de árvores de decisão (como Random Forest e Gradient Boosted Trees), reduzindo a complexidade para um tempo polinomial O(T × L × D²), onde T é o número de árvores, L é o número máximo de folhas e D a profundidade máxima^{[Fonte: Lundberg et al, Nature Machine Intelligence 2020]}. O TreeSHAP permite que plataformas como a Sinky entreguem explicações precisas em milissegundos num ambiente de alta disponibilidade.

LIME (Local Interpretable Model-agnostic Explanations)

Introduzido por Ribeiro, Singh e Guestrin, o LIME constrói um modelo surrogate (substituto) linear, simples e localmente focado ao redor da instância que precisa ser explicada^{[Fonte: Ribeiro et al, KDD 2016]}. Ele perturba os dados da requisição original e observa como as previsões do modelo "caixa preta" mudam.

Contrafactuais (Counterfactual Explanations) e a Ação do Usuário

Enquanto o SHAP descreve "o que levou o modelo a dar score 450", as explicações contrafactuais respondem à pergunta de negócios: "O que o usuário precisa mudar para o score chegar a 700?"

Um framework notável neste espaço é o DiCE (Diverse Counterfactual Explanations), que busca caminhos factíveis e acionáveis para reverter uma decisão negativa^{[Fonte: Mothilal et al, FAT* 2020]}. Se um cliente tem o crédito negado, um contrafactual inútil seria "aumente sua idade em 10 anos". Um contrafactual acionável seria "reduza o limite utilizado no cartão de crédito em 15% nos próximos dois meses".

5. Reason Codes: A Tradução Técnica para o Consumidor

Produzir os valores de SHAP resolve o problema do Cientista de Dados, mas o atendente do SAC e o consumidor não entendem frações decimais de impacto em log-odds. É aqui que os Reason Codes entram. Os reason codes são a interface de comunicação do seu sistema de explainability.

A FICO (Fair Isaac Corporation) popularizou um padrão global na qual os códigos indicam fatores de risco de forma hierárquica. Por exemplo, no mercado norte-americano, regras como o código "10" indicam "Proportion of balances to credit limits on bank/national revolving or other revolving accounts is too high".

As melhores práticas operacionais para o design de Reason Codes indicam que se deve retornar até 4 códigos (no máximo 5). Estudos demonstram que fornecer mais de quatro justificativas para um adverse action satura a compreensão do consumidor, tornando o esforço de melhoria do crédito confuso e irrealizável.

Aplicações Práticas (Brasil):
Em motores que operam sobre dados do Cadastro Positivo ou Open Finance, as pontuações SHAP são agregadas (via Dicionários de Tradução) em agrupamentos lógicos de negócios antes de serem traduzidos. Exemplo prático:

• Variável avg_util_card_6m tem SHAP = -0.45
• Variável max_util_card_1m tem SHAP = -0.22
• Agregação Lógica: Comprometimento de Renda em Limite Rotativo (SHAP total: -0.67)
• Reason Code Traduzido (Código 014): "Alta utilização dos limites de cartão de crédito nos últimos meses."

6. Prevenção de Viés (Bias) e o Impacto Desproporcional

Explicabilidade e Justiça (Fairness) andam juntas. Como destaca Christoph Molnar em "Interpretable Machine Learning" (3ª Edição, 2025), a transparência dos modelos frequentemente expõe proxies estruturais inadvertidos para raça, gênero ou origem social^{[Fonte: Christoph Molnar, 2025]}.

Nos Estados Unidos, a regulação ECOA define explicitamente 9 bases protegidas (incluindo raça, cor, religião, origem nacional, sexo, estado civil e idade). Se um modelo de machine learning apresentar resultados discriminatórios, a instituição é acionada baseando-se no princípio jurídico de Disparate Impact (Impacto Desproporcional).

A Regra dos Quatro Quintos (Four-Fifths Rule)

Originária das diretrizes de seleção de emprego (EEOC, 1978) e hoje amplamente adotada por órgãos financeiros como o CFPB para avaliação de risco algorítmico, a Four-Fifths Rule estabelece uma heurística quantitativa de discriminação. A regra postula que se a taxa de seleção (neste caso, a aprovação de crédito) para um determinado grupo demográfico for inferior a 80% (ou quatro quintos) da taxa de aprovação do grupo mais favorecido, existe uma presunção de Adverse Impact Ratio (AIR) < 0.80, atraindo intenso escrutínio legal e regulatório.

O monitoramento contínuo de matrizes de confusão segmentadas por variáveis sociodemográficas sensíveis é um requisito essencial de Compliance Automatizado em arquiteturas de decisão.

7. Governança e Documentação de Modelos (Model Risk Management)

O alinhamento do explainability às políticas internas da instituição demanda documentação contínua, processo liderado globalmente por um padrão-ouro americano.

O Padrão SR 11-7 do Federal Reserve

A carta-circular SR 11-7 (Supervisory Guidance on Model Risk Management), emitida conjuntamente pelo Fed e o OCC (Office of the Comptroller of the Currency) em abril de 2011, é considerada a bíblia global de governança de modelos^{[Fonte: Federal Reserve/OCC, Abril 2011]}. Ela define obrigações profundas quanto a:

1. Desenvolvimento, implementação e uso consistentes.
2. Validação independente e efetiva de modelos (Effective Challenge).
3. Governança contínua, políticas e controles corporativos.

No Brasil, bancos múltiplos e cooperativas adequam seus processos de validação de modelos ao SR 11-7 como forma de satisfazer as exigências da Resolução CMN 4.557 do BACEN.

8. Arquitetura de um Motor de Explicação (Explanation Engine)

Técnicas de XAI não podem rodar soltas no ambiente de produção; elas exigem orquestração. O conceito moderno é o do Explanation Engine (Motor de Explicação), muitas vezes um microserviço adjacente (ou acoplado nativamente) ao Motor de Regras. O fluxo arquitetural ocorre na seguinte ordem:

1. Ingestão e Payload: O sistema de Credit Originator envia o perfil do cliente para a API do Motor.
2. Enriquecimento: Dados estruturados do birô, open banking e antifraude são apensados.
3. Inferência: O modelo XGBoost ou Rede Neural calcula a predição bruta (probabilidade de default - PD).
4. Cálculo do XAI (Paralelo): Em milissegundos, o módulo de explainer calcula os valores de TreeSHAP sobre o vetor de características avaliadas.
5. Agregação e Tradução: O vetor denso (ex. 500 features com SHAP values) passa por uma lookup table hierárquica e um algoritmo heurístico elege os 4 Reason Codes mais impactantes.
6. Resposta Unificada: A API devolve à esteira de decisão tanto a recomendação (APROVAR/NEGAR), o score, quanto a lista final de justificativas acionáveis, alimentando as interfaces do front-end do banco.

9. A Abordagem da Sinky para a Explicabilidade

Na Sinky, a explicabilidade não é uma funcionalidade complementar (add-on) — ela compõe o núcleo arquitetural das nossas decisões de crédito e fraude. Nosso Motor de Regras e Modelos foi concebido para abstrair a complexidade estatística, provendo auditorabilidade de ponta a ponta.

Ao conectar um modelo LightGBM à nossa plataforma, a Sinky garante cálculos nativos baseados em TreeSHAP integrados ao pipeline de inferência com latência sub-milissegundo, emparelhando essas predições aos reason codes perfeitamente configuráveis via interface no-code/low-code, eliminando a dependência do time de engenharia na gestão de justificativas regulatórias e de atendimento.