Incursões da IA no sistema judicial: considerações da autora e conclusão do CHATGPT4

Publicado a: 

"E esta, hein?" (Fernando Pessa)

A inteligência artificial (IA) começa a infiltrar, a ritmos diversos e em maior ou menor grau, o sistema judicial pelo mundo fora, agilizando, por exemplo, a execução de pesquisas jurídicas e o julgamento de processos. O uso de sistemas de consulta de jurisprudência baseados em sistemas de IA, permitindo, a filtragem de resultados por tribunal, ramo do direito, data do processo etc. não constitui novidade. O recurso aos sistemas de IA para execução de tarefas burocráticas, por exemplo por funcionários judiciais, não é preocupante. A grande questão é se assistiremos, em breve à emergência do Juiz Robot, tópico esse que merece forte debate atendendo às muitas implicações jurídicas e éticas que espoleta.

Tomemos, como exemplo, os Estados Unido da América (EUA), país em que os sistemas de IA já impactam julgamentos de forma não despicienda de interesse e lembremos o célebre caso de Eric Loomis cuja destino for em parte ditado pelo Correctional Offender Mangement Profiling for Alternative Sanctions (COMPAS).

Sucede que o COMPAS utiliza um algoritmo destinado a prever o risco de reincidência, que auxilia o juiz na determinação da medida da pena e da sua suspensão. Loomis foi classificado, pelo COMPAS, como uma pessoa de alto risco para a sociedade e com elevada tendência para reincidir, tendo pois concluído (o mesmo sistema) que a suspensão da pena não era viável. Por conseguinte, Loomis foi condenando a 6 anos de prisão, graças, em parte, à recomendação feita por um sistema de IA.

Loomis interpôs recurso alegando, entre outras coisas, a ausência de transparência no que toca ao funcionamento do algoritmo em que se alicerça o COMPAS, na sequência da protecção, pelo tribunal de primeira instância, dos

direitos de propriedade intelectual da entidade que havia criado o sistema de IA em causa.

Consequentemente, este processo judicial suscitou, entre outros temas, a análise de um potencial conflito entre dois direitos humanos: por um lado, o direito a um processo justo e equitativo (o direito ao "due process") e, por outro lado, os direitos de propriedade intelectual (que tutelam, em sede industrial, a produção intelectual atinente à actividade económica e, em sede autoral, a produção intelectual de foro literário e artístico).

Decorreu da decisão do tribunal de recurso, a prevalência dos direitos de propriedade intelectual e muito se tem debatido se os direitos de propriedade intelectual devem imperar, ou não, em tal contexto. Todavia, ainda que seja fornecido pleno acesso à informação técnica relativa a semelhante algoritmo, é preciso notar que tal não conduzirá, necessariamente, à compreensão da forma como o sistema de IA calcula a pontuação atribuída.

Mais importante que o debate acima referido relativo a potencial conflito entre dois direitos é, na verdade, o facto de que o recurso levou à discussão, pela primeira vez, da constitucionalidade da utilização de sistemas de IA neste âmbito, tendo aberto as portas (para entusiasmo de uns e arrepio de outros) ao emprego de sistemas de AI no sistema judicial norte-americano.

Na minha opinião, inevitável é a conclusão de que os sistemas de IA têm um papel a desempenhar no seio do processo judicial, agilizando tarefas administrativas de porte menor, não podendo, contudo, conduzir à dispensabilidade dos juízes humanos. Os juízes humanos desempenham um papel crítico na interpretação e na aplicação da lei, missão essa que têm capacidade de executar, ao contrário dos juízes robots, com humanidade, com entendimento do enquadramento geral e com percepção das subtilezas e nuances do caso concreto - entre outros factores.

Esta é o meu ponto de vista. Em nome do princípio do contraditório perguntei ao ChatGPT4 qual era a sua opinião neste campo. Aqui vai o que redigiu:

"A inteligência artificial ainda não foi introduzida no processo judicial na maioria dos países. Há uma série de razões para isso e uma das mais importantes é que um julgamento justo não pode ser concebido se o devido processo - ou seja, os direitos processuais das partes - não for respeitado. E não é fácil conciliar esses direitos processuais com a IA, visto que foram formulados muito antes da existência da IA. Conciliar as exigências do devido processo e o potencial da inteligência artificial não é fácil. É urgente que se reconheça a sua existência nos processos judiciais e se legisle para o seu adequado aproveitamento, mas não à custa do sacrifício de quaisquer direitos fundamentais."

Fundadora de GPI/IPO, Gabinete de Jurisconsultoria

Nota: A autora escreve de acordo com o antigo acordo ortográfico.