Algoritmos Preditivos na Justiça Penal - Uma Análise à luz do Novo Regulamento da União Europeia sobre a Inteligência Artificial

Abstract

This dissertation sought to analyse the possible, current, and eventual intersection between law and modern technologies, considering the ascending potential of Artificial Intelligence systems. These systems have proven to considerably surpass specific human capacities, with advantages in precision, speed, and efficiency, in the execution of diagnostics, prognostics, and analytical tasks. However, its application in criminal justice also reveals several drawbacks. It has therefore become necessary to identify these pros and cons that may be associated with using instruments based on AI algorithms, in the various moments in which these materialize in automated results and decisions with a potential impact on the lives of its recipients. To this end, we limited this investigation to the study of the phenomenon of predictive justice, concerning the use of risk forecasting instruments in police activity and the administration of justice. The introduction of increasingly “smart” technological tools in criminal proceedings will, on the one hand, challenge the traditional conceptions of the theory of the offense and, on the other hand, place increased pressure on state institutions (and beyond) to act in the sense of containment of its risks, responding to a need to balance technological progress with the protection of people's fundamental rights, without ignoring the benefits that may result from it. One of these responses, translated into the first Regulation on Artificial Intelligence (AI Act), has occupied the European Commission and the European Parliament in recent years and is now entering its decisive phase, just a few steps away from approval. Therefore, in the proposal of this diploma, we looked for some light on what the future of this admirable technology in Europe will be like.

Esta dissertação procurou analisar a interseção possível, atual e eventual, entre o direito e as novas tecnologia, considerando o ascendente potencial dos sistemas de Inteligência Artificial. Estes sistemas comprovaram superar consideravelmente certas capacidades humanas, com vantagens na precisão, rapidez e eficiência, na execução de diagnósticos, prognósticos e tarefas analíticas. No entanto, a sua aplicação no âmbito da justiça penal revela também vários inconvenientes. Tornou-se, assim, necessário identificar estes prós e contras que podem estar associados à utilização de instrumentos que têm por base algoritmos de IA, em particular, nos vários momentos em que estes se materializam em resultados e decisões automatizadas com potencial impacto na vida dos seus destinatários.Para tanto, cingimos esta investigação ao estudo do fenómeno da justiça preditiva, em particular, no que diz respeito à utilização de instrumentos de previsão do risco na atividade policial e na administração da justiça. A introdução de instrumentos tecnológicos cada vez mais “inteligentes” no processo penal vai, por um lado, desafiar as conceções tradicionais da teoria da infração e, por outro, colocar sobre as instituições estaduais (e não só) uma pressão acrescida para agirem no sentido da contenção dos seus riscos, respondendo a uma necessidade de equilibrar o avanço tecnológico com a proteção dos direitos fundamentais das pessoas, sem prescindir dos benefícios que dele possam resultar. Uma dessas respostas, vertida na primeira Regulamentação de Inteligência Artificial (Lei da UE sobre IA), tem ocupado a Comissão Europeia e o Parlamento Europeu nos últimos anos e entra agora na sua fase decisiva, a curtos passos da aprovação. Foi, portanto, na proposta deste diploma que procurámos algumas luzes sobre como será o futuro desta admirável tecnologia no espaço europeu.