A ossificação do Direito
Como vimos no artigo anterior, o mundo da IA é o passado: todas as suas criações reproduzem necessariamente os dados com que foi alimentada. Falta-lhe um componente que é — e com toda probabilidade continuará sendo — próprio e exclusivo do ser humano: a consciência.
A consequência desse fato é que as ferramentas de IA são incapazes de adaptação e inovação. Jamais, por iniciativa própria, essas ferramentas serão capazes de divergir das conclusões a que serão conduzidas pelos dados com que foram treinadas. Estarão sempre limitadas pelo que os estudiosos chamam de “mimetismo retrospectivo”.
Isso representa um risco existencial para a evolução do Direito. Nesse campo, os juízes, com grande frequência, são chamados a deliberar sobre situações em que os dados históricos em que se baseia a IA não servirão de guia confiável, por retratarem um momento já ultrapassado pelas mudanças da sociedade.
O Direito, afinal, evolui precisamente porque os juízes, como participantes da vida social, são capazes de perceber quando soluções antigas deixam de ser adequadas a realidades novas. Essa capacidade resulta de algo que nenhum sistema algorítmico possui: consciência do entorno social, porque nele estão imersos.
Aliás, a máquina sequer terá condições de tomar consciência dessas mudanças e de fazer um juízo que conduza a uma mudança de curso. Quando muito poderão ser criados mecanismos que permitam aos administradores dos sistemas tomar conhecimento da insatisfação crescente dos usuários com os resultados produzidos pelas ferramentas de IA.1
Nessas circunstâncias, haverá o risco de que as decisões criadas pela IA passem, cada vez mais, a tratar insatisfatoriamente as demandas submetidas ao exame do Poder Judiciário. As consequências disso são certas: a instituição perderá credibilidade e haverá crescente insatisfação social.
E insatisfação social, é desnecessário dizer, nem sempre produz bons frutos. Junte-se o clamor público e o senso de oportunidade de uma parcela da classe política com vocação populista — no mau sentido da palavra — e teremos a receita para um desastre.
E há outras questões a serem enfrentadas, igualmente importantes.
A primeira dessas questões: como estabelecer um sistema que garanta a transparência do funcionamento dos algoritmos e de ajuste da base de dados às mudanças sociais? A eficiência e transparência desse controle é essencial para garantir que a jurisdição seja prestada de forma equitativa e sem vieses.
A eficiência diz respeito à presteza e efetividade desses ajustes.
A transparência, por seu turno, tem a ver com uma arquitetura do sistema que permita a visualização fácil e imediata de por quê, como, e por quem a ferramenta de IA foi reajustada ou atualizada.
E a transparência, que fique claro, não é apenas uma questão técnica: é um pilar do Estado de Direito. Sua função é garantir que não haja opacidade no processo de manutenção e/ou atualização das ferramentas de IA utilizadas pelos juízes.
Não se fará esse controle sem vontade, investimentos e determinação política pela administração do Poder Judiciário.
Sem essa garantia de transparência, haverá um risco substancial de manipulação dessas ferramentas por agentes econômicos ou sua captura ideológica por setores da sociedade sem particular interesse no bem comum.
O risco, neste caso, seria de transferir a produção jurisdicional para os administradores das ferramentas de IA. Ou para quem consiga controlá-los…
Porto Alegre, 08 de abril de 2026.
Carlos Alberto Etcheverry
1 Como é o caso do botão que permite ao usuário manifestar sua aprovação ou desaprovação com o texto ou resposta fornecida pela IA.