É possível evitar a lobotomia algorítmica?

Atribuir à inteligência artificial, sistematicamente, tarefas com o grau de complexidade que se pode encontrar na feitura de uma decisão judicial constitui uma forma de descarga cognitiva que tem como consequência a atrofia cognitiva. Esse fenômeno já foi constatado através de exames eletroencefalográficos e outras pesquisas.

O resultado dessa atrofia é a crescente incapacidade de realizar, com recursos intelectuais próprios e autonomia, as atividades terceirizadas.

Essa atrofia tem como consequência a dependência cognitiva, que não surge de maneira abrupta, à semelhança de uma canoa que vira. Vai se instalando gradualmente, com a eliminação, pelas comodidades da automação, das etapas do processo deliberativo.

Como o sapo colocado em água lentamente aquecida, o julgador pode não perceber o momento em que a atrofia se completou.

Essa modalidade de descarga cognitiva tem impactos negativos também no pensamento crítico, que é o resultado inexorável da terceirização, à IA, da reflexão profunda, essencial no processo cognitivo.

Nem é preciso salientar a importância do pensamento crítico na atividade jurisdicional… A jurisdição não pode ser reduzida à mera homologação automatizada de soluções produzidas por uma máquina.

O impacto deletério da descarga cognitiva resulta da eliminação da etapa da reflexão profunda, ou metacognição: a interação com a inteligência artificial, tal como se passa nos sistemas de IA conhecidos, consiste, de maneira geral, em apresentar o problema e comandar a produção do conteúdo decisório.

A etapa intermediária, de deliberação, fica por conta da máquina, e a proposta de decisão por ela produzida corre o risco de ser supervalorizada. Essa supervalorização resulta da tendência humana, quando trabalha com máquinas, de reduzir a vigilância e a supervisão: é o viés da automação.

Residindo o problema na eliminação da reflexão profunda, a solução proposta por pesquisadores1 é de introduzir mudanças no fluxo de trabalho do sistema de IA, de forma a impedir que sejam entregues e rapidamente aceitas as sugestões do sistema, no que diz respeito à produção de decisões, o que é essencial para evitar a dependência cognitiva.2

Esse resultado é obtido com a criação de dificuldades, conceituadas como “microfronteiras”, ou seja, pequenas interrupções na interação com o sistema, de forma a impedir que o usuário pule de um contexto para o outro de forma automática. A lentidão resultante dessas “microfronteiras” faz com que o usuário passe de um modo irrefletido para um modo lento, consciente e deliberativo.3

Por exemplo: o sistema, quando o juiz pedir a elaboração um projeto de decisão, retornará não uma decisão pronta, mas uma série de alternativas, solicitando ao usuário que escolha uma delas. Feita a escolha, a IA poderá apresentar uma possível objeção, perguntando se a escolha é mantida, e sob que fundamento. Essa interrupção no processamento da requisição tem o efeito de anular, em grande medida, a aceitação automática e irrefletida de tudo que a IA produz.

A inteligência artificial é uma ferramenta poderosa, cujo potencial ainda não foi inteiramente explorado, mas é essencial que a capacidade cognitiva dos juízes, que é um patrimônio institucional, seja preservada.

Mas se os sistemas utilizados pelo Poder Judiciário não forem adequadamente implementados, não é desprezível o risco de que se torne uma corporação de zumbis togados.

Porto Alegre, 24 de maio de 2026.

Carlos Alberto Etcheverry

1 COX, Anna L. et al. Design Frictions for Mindful Interactions: The Case for Microboundaries. In: CHI CONFERENCE EXTENDED ABSTRACTS ON HUMAN FACTORS IN COMPUTING SYSTEMS (CHI ’16), 2016, San Jose. Proceedings… San Jose, CA: ACM, 2016. p. 1389-1394. DOI: http://dx.doi.org/10.1145/2851581.2892410.

2 Esse cuidado não é necessário quando se tratar da produção de sumários e relatórios, etapa em que a IA é reconhecidamente rápida e eficiente

3 Essas considerações valem também, é claro, para outros operadores do Direito.

Esta entrada foi publicada em Artigos, Inteligência artificial e marcada com a tag , , . Adicione o link permanente aos seus favoritos.