Decisões automatizadas e o direito a uma explicação possível
Entre transparência técnica e compreensão humana, o que significa explicar uma decisão algorítmica?
A presença crescente de sistemas automatizados em decisões que afetam pessoas exige uma pergunta anterior à tecnologia: que tipo de explicação permite compreender, contestar e transformar uma decisão?
Explicar não é apenas revelar
A abertura de um código ou a entrega de uma descrição técnica não garantem, por si só, uma explicação juridicamente relevante. A informação precisa ser compreensível para quem sofre os efeitos da decisão.
Uma explicação adequada deve revelar os critérios decisivos, permitir a identificação de erros e oferecer uma via real de contestação.
A centralidade da revisão humana
A revisão humana efetiva não pode ser uma etapa simbólica. Ela pressupõe autonomia, competência e condições concretas para alterar o resultado produzido pelo sistema.
Referências
- Lei nº 13.709/2018 — Lei Geral de Proteção de Dados Pessoais.
- Regulamento (UE) 2024/1689 — Artificial Intelligence Act.