Barroso declara ganha destaque após novo desdobramento em obsolescência

Obsolescência do julgador? IA, Minority Report e linha de produção de decisões, 9h22 Em, Luís Roberto Barroso proferiu uma declaração que rapidamente polarizou o debate jurídico brasileiro.

Segundo o ex-ministro do Suprem Tribunal Federal, “não tenho nenhuma dúvida de que este é o futuro: a IA produzindo decisões com maior objetividade do que os juízes” 1, acrescentando que o juiz terá o ônus argumentativo de demonstrar por que não está seguindo a inteligência artificial 2. A afirmação não surgiu no vácuo. Com a IA, o STF reduziu o estoque de processos de 150 mil para 20 mil, por meio de um programa capaz de selecionar temas em que já havia precedente, eliminando recursos repetitivos 3.

Leia no AINotícia: Saúde: Panorama Semanal de Bem-Estar e Cuidados Essenciais

Barroso reconheceu, contudo, os limites desse avanço: o programa de minuta de decisão não foi liberado porque ainda não existe um código de ética maduro o suficiente para deixar a inteligência artificial produzindo decisões 4. Essa tensão entre a potência técnica da IA e a imaturidade ética de sua governança é o epicentro do debate deste artigo. Para além da questão da eficiência, incorpora-se a análise de três dimensões adicionais: o risco de transferência de responsabilidade ao algoritmo; a impossibilidade de uma objetividade pura no julgamento jurídico;

e as hipóteses legítimas de automação assistida no campo das demandas de massa. Minority Report como metáfora jurídica Publicado em 1956, The Minority Report, de Philip K. Dick, é uma narrativa que explora temas de livre-arbítrio, determinismo e as implicações éticas da justiça preventiva. Ambientada em uma sociedade futura onde se utiliza indivíduos precognitivos para prever crimes antes que ocorram, a história levanta questões profundas sobre a natureza da escolha e do destino 5.

A analogia com o presente não é apenas metafórica, mas estrutural. Embora não existam “precogs” propriamente ditos, componentes centrais do futuro imaginado em Minority Report tornaram-se realidade. Departamentos de polícia em todo o mundo vêm usando sistemas orientados por dados para prever quando, onde e por quem crimes poderão ser cometidos 6. Leia também: Saúde em Destaque: Panorama Semanal de Alertas e Dicas

A chamada “Minority Report View” sugere que algoritmos seriam usados para prever o cometimento de crimes e intervir preventivamente 7. Transposta ao julgamento civil e criminal automatizado, a questão central da obra de Dick se reformula com precisão: quem responde quando o sistema erra? Há alguém em posição institucional de reconhecer o erro, ou a máquina já ocupa o lugar de autoridade que deveria pertencer ao humano?

Dick não questiona apenas a eficiência preditiva; questiona a legitimidade de um sistema que pune antes do ato, retirando do julgamento sua dimensão ética fundamental. Promessa da objetividade e problema do viés

O argumento central de Barroso, a objetividade superior da IA, merece escrutínio empírico. A experiência norte-americana com o algoritmo Compas (Correctional Offender Management Profiling for Alternative Sanctions) é paradigmática. Ao agirem com base em suas previsões de risco, juízes de múltiplos estados implicitamente delegam decisões normativas a um software, para além dos já documentados vieses raciais e etários 8.

A investigação da ProPublica demonstrou que réus negros eram quase duas vezes mais propensos do que réus brancos a serem classificados com risco elevado sem efetivamente reincidir, enquanto réus brancos eram com muito maior frequência classificados como baixo risco mesmo quando chegaram a cometer novos crimes 9. Algoritmos de previsão podem herdar vieses humanos e perpetuar discriminações injustas contra grupos historicamente desfavorecidos 10, tornando o Compas um exemplo paradigmático de como desigualdades estruturais se reproduzem sob aparência de objetividade 11. A objetividade algorítmica é sempre uma objetividade derivada.

Ela reflete, com precisão matemática, as distorções do mundo que a alimentou, revelando que a promessa de neutralidade técnica encobre, frequentemente, escolhas normativas não declaradas. Automation bias e transferência silenciosa de responsabilidade Quando o juiz passa a ter o ônus de justificar o porquê de discordar da IA, a responsabilidade nominal permanece humana, mas a autoridade decisória efetiva migra silenciosamente para o sistema. Mais de saude

A esse fenômeno a ciência cognitiva e o direito dão o nome de automation bias. O automation bias consiste na tendência de indivíduos de depender excessivamente de decisões ou propostas geradas por máquinas, resultando na incapacidade de detectar falhas da automação e em deterioração geral da qualidade decisória 12. Produz duas consequências graves no ambiente judicial.

A primeira é a ancoragem cognitiva: o viés de ancoragem consiste na tendência de confiar excessivamente em um pedaço de informação recebido inicialmente, de modo que o julgamento final tende a ser ajustado a partir desse ponto de partida 13. O output da IA torna-se a âncora implícita da deliberação, estreitando o espaço de julgamento autônomo antes mesmo de o juiz começar a raciocinar sobre o caso. A segunda consequência é ainda mais grave do ponto de vista democrático, a diluição de responsabilidade.

Auxiliares decisórios automatizados tendem a criar um “amortecedor moral”, mecanismo psicológico de distanciamento que resulta em sentido diminuído de agência moral e accountability do ator humano 14. Embora os governos possam exigir que humanos tomem as decisões finais, permanece problemático tolerar abordagens orientadas por dados sem salvaguardas procedimentais robustas. Os juízes precisam ser treinados sobre o automation bias. Leia também: Mito ou verdade ganha destaque após novo desdobramento em mito ou verdade

Estudos demonstraram que indivíduos que recebem esse treinamento são mais propensos a examinar criticamente as sugestões de um sistema automatizado 15. Persiste, ainda, um paradoxo normativo: em processos judiciais não há verdade objetiva independente do procedimento, e parece pouco crível que uma IA possa rastrear o erro de outra IA operando a partir de critérios puramente objetivos. Não existem critérios externos ao procedimento que possam estabelecer a correção de uma decisão judicial 16.

Se o juiz for capturado pelo automation bias, o erro pode tornar-se irrastreável e juridicamente irresponsabilizável. Acaso o próprio sistema recursal utilize IA, é possível que uma não corrija a outra IA, porquanto a análise seja apenas objetiva. Incoerência de uma objetividade pura: subjetividade como condição do direito

A promessa de decisões “objetivas” pela IA repousa sobre um pressuposto filosófico que o próprio direito rejeita há séculos, o de que seria possível separar a norma do sujeito que a interpreta. O debate mais denso sobre esse ponto encontra-se na tensão clássica entre Herbert Hart e Ronald Dworkin. Para Hart 17, a textura aberta da norma exige que os tribunais exerçam a discricionariedade nos casos não regulamentados juridicamente.

Dworkin, por sua vez, rejeita a discricionariedade como algo admissível, mas não suprime a subjetividade; ao contrário, converte-a em elemento estrutural da interpretação. Para ele, além das regras, os princípios jurídicos são juridicamente vinculantes para os agentes públicos 18. Princípios como dignidade da pessoa humana, proporcionalidade ou boa-fé não são variáveis quantificáveis;

são construções interpretativas que demandam ponderação contextual, histórica e moral. No Brasil, o artigo 489, parágrafo 1º, do CPC/2015 exige que o juiz demonstre o raciocínio lógico que o levou da norma ao fato19. Essa exigência de accountability argumentativa revela que o próprio ordenamento reconhece a subjetividade como componente estrutural do julgamento e tenta controlá-la por meio da fundamentação, não suprimi-la por meio da automação.

Leia também no AINotícia

Leia também