DA INTELIGÊNCIA ARTIFICIAL NO DIREITO PENAL

03

Reflexões Acerca dos Valores Relacionados à Incorporação da Inteligência Artificial no Direito Penal

Ana Julia Pozzi Arruda28 Ana Paula Bougleux Andrade Resende29 Fernando Andrade Fernandes30

RESUMO O objetivo geral desta investigação consiste em analisar as influências da incorporação e da utilização de mecanismos de inteligência artificial no sistema jurídico-penal, buscando o fundamento valorativo que conduz tal processo. Acerca das bases utilizadas para a análise, busca-se estabelecer um diálogo entre os valores identificados na sociedade contemporânea e as diretrizes constitucionais de política criminal, a partir da referência aos acertos e às falhas da metodologia neokantista quanto à permissividade axiológica no estudo do Direito. Por fim, a pesquisa segue o método de abordagem dedutivo pela identificação dos elementos jurídicos e sociais existentes na sociedade contemporânea e, posteriormente, pelo apontamento da influência deste cenário na conformação da relação entre inteligência artificial e direito penal.

PALAVRAS-CHAVE: Inteligência Artificial; Política Criminal; Direito Penal; Neokantismo e Sociedade Contemporânea.

28 Bolsista CAPES. Mestranda em Direito pela Universidade Estadual Paulista “Júlio de Mesquita Filho” – Faculdade de Ciências Humanas e Sociais, Campus de Franca (FCHS/UNESP). Email: ajpa.arruda@gmail.com. Telefone: (16) 99775-0404. Lattes: http://lattes.cnpq.br/3666240341174232

29 Mestranda em Direito pela Universidade Estadual Paulista “Júlio de Mesquita Filho” – Faculdade de Ciências Humanas e Sociais, Campus de Franca (FCHS/UNESP). Email: apbougleux@gmail.com. Telefone: (34) 99174-0241. Lattes: http:// lattes.cnpq.br/0295264909705831

30 Professor Assistente doutor da Universidade Estadual Paulista “Júlio de Mesquita Filho” – Faculdade de Ciências Humanas e Sociais, Campus de Franca (FCHS/UNESP). Pós-Doutorado em Direito Penal pela Universidade de Salamanca (2011). Doutorado em Direito pela Universidade de Coimbra (2000). Email: feranfer@uol.com.br. Lattes: http://lattes.cnpq. br/0485191470301548

1. INTRODUÇÃO

Há um extenso - e, destaque-se, interessantíssimo - debate acerca das fronteiras entre a condição humana e a inovação tecnológica. Ou seja, deste debate resultam interessantes questões, tais como o que caracteriza uma ação como humana em sua essência? Em que medida tais ações podem ser reproduzidas pelas inovações tecnológicas? E como utilizar as novas tecnologias em benefício do desenvolvimento social? Na literatura, como se verifica em “1984” (ORWELL, 2009) ou em “Admirável Mundo Novo” (HUXLEY, 2014), por vezes são retratados cenários distópicos, nos quais a condição humana é praticamente anulada, em nome do progresso, da padronização e do controle.

Por outro lado, na realidade, os mesmos avanços elevaram a sociedade a um patamar de altíssimo desenvolvimento tecnológico, sem o qual é inimaginável a organização da vida coletiva. Assim, temse o cenário constituído de uma sociedade globalizada e econômica, altamente dependente da tecnologia científica e comunicacional, na busca do eterno aprimoramento e automatização sem fim. De todo modo, constata-se que a incorporação de novas tecnologias nos mais diversos âmbitos do cotidiano sequer pode ser denominado tendência, mas já consiste em uma realidade. Por tal razão, estando atividade judicial e respectivas decisões inseridas neste contexto, são pertinentes as reflexões que discutam como as inovações tecnológicas podem ser utilizadas nesta atividade em prol da sociedade. Dentre tais inovações, o presente trabalho contempla a análise do uso de mecanismos de inteligência artificial para auxílio na tomada de decisão pelo julgador. No âmbito do Sistema jurídicocriminal, a discussão é de especial relevância, em razão da maior sensibilidade das questões sobre as quais se dá a atuação penal, notadamente relacionadas a violações de direitos fundamentais e afetação de bens jurídicos essenciais. Além disso, é inegável que toda imposição de pena representa uma ação organizada do Estado para, via de regra, restringir a liberdade do indivíduo. Assim, justificamse as limitações e racionalizações da atuação do poder punitivo estatal frente às diretrizes de política criminal tendentes a uma expansão da intervenção penal. Todavia, as implicações da configuração social no âmbito jurídico não podem ser desconsideradas quando da análise material do exercício de tal poder punitivo. Por isso, as atuais demandas da sociedade por segurança e controle, que, em última análise, também impulsionam o desenvolvimento tecnológico, devem ser levadas em conta para compreensão do processo de modernização da justiça penal. É certo que tais referências axiológicas coexistem no meio social

em uma interrelação de continuidades e rupturas com a orientação teleológica constitucional.

Questiona-se, então, qual ordem de valores predomina quando se está em pauta a incorporação de mecanismos computacionais, especialmente relacionados à inteligência artificial, no Sistema Jurídico-Penal, e a adequação de tais premissas ao fundamento do Estado Democrático de Direito.

2. DA INCORPORAÇÃO DE NOVAS TÉCNICAS AO DIREITO PENAL

É comum a afirmação de que a sociedade vive um tempo de transformação, marcada pela transição do analógico para o digital. O contexto a que se refere esta afirmativa diz respeito à modificação da vida em sociedade, havendo constante introdução do que se entende por tecnologia no cotidiano. Levando-se em conta, portanto, a dependência recíproca existente entre as Ciências Jurídico-Criminais e a sociedade31, há que se atentar para as influências que sofre o Sistema de Justiça Criminal quando dessa mudança de paradigma, as quais são fruto do avanço técnico que teve início na sociedade

31 Neste sentido, Fernando Fernandes “(...) o sentido da relação existente entre modelo de estado, institucionalização de uma determinada organização social, e respectivo modelo de Direito Penal é de interferência recíproca. No que se refere à forma do relacionamento, é evidente que somente poderá ser um relacionamento dinâmico, como provam as mudanças que um modelo determina no outro, antes referidas” (2003, p. 58) industrial32. Logo, em se tratando de uma sociedade econômica, globalizada, do risco e marcada pela complexidade, tornase inevitável que essas características adquiram relevância também no ambiente jurídico, especialmente em âmbito criminal.

Inicialmente, a consideração das novas tecnologias pelo Direito Penal manifestou-se através dos crimes cometidos nas redes informáticas, os quais foram objeto na Convenção de Budapeste, também denominada Convenção sobre o Cibercrime, no ano de 2001. A Convenção tratou especificamente das infrações à segurança da informação (notadamente confidencialidade, integridade e disponibilidade de dados e sistemas informáticos), infrações relacionadas com os computadores (falsidade e burla informática), infrações relacionadas com o conteúdo (pornografia infantil) e infrações

32 Ao proceder-se a um exercício de regressão histórica, na história recente da humanidade, ter-se-á que a sociedade industrial foi responsável pelo aumento de produção, e consequentemente aumento do lucro, através da introdução de maquinário à cadeia produtiva. Assim, houve aprimoramento dos recursos técnicos, que levou a processos mais complexos e modificação da forma de produção. Essa modificação, decorrente do incremento da técnica, levou ao aumento exponencial dos riscos existentes na sociedade, tendo sido possibilitados os excedentes econômico e de produção. Nesse contexto, os excedentes produzidos ocasionam a ampliação do mercado de tal maneira que seja necessário romper fronteiras, provocando abertura econômica dos mercados, bem como abertura político-ideológica, de modo a gerar necessidade de experiência global, que tem por consequência a mundialização e resulta em uma sociedade fortemente econômica. Torna-se, portanto, patente admitir que os atributos de sociedade econômica, do risco e globalizada são resultados da sociedade industrial, os quais persistem na sociedade contemporânea. Para além disso, é certo que a complexidade da sociedade contemporânea resulta do complemento da técnica na sociedade industrial; cf. BAUMAN, 1999; BECK 2011; GIDDENS, 1991.

relacionadas aos direitos autorais e direitos conexos.

No entanto, progressivamente, observou-se a manifestação da tecnologia no âmbito das Ciências Jurídico-Criminais com outra roupagem, qual seja, para além de ser meio pelo qual os delitos são cometidos, passou a ser também instrumento capaz de auxiliar a lógica de operação do próprio sistema. Desse modo, visando atribuir maior objetividade e eficácia à atividade judicial, seja com relação ao funcionamento do sistema de justiça penal, seja em relação ao procedimento investigativo ou em relação à própria tomada de decisão dos magistrados, passou-se a promover a utilização de sistemas que, através da análise de um banco de dados preexistente e valendo-se do método estatístico, auxilia na predição de eventos futuros. Assim, John Roberts, Chief Justice dos Estados Unidos, quando questionado em 2017 sobre a possibilidade de prever um dia em que smart machines, conduzidas por inteligência artificial, auxiliariam um juiz na reconstrução de um fato criminoso ou na tomada de decisão judicial, respondeu: “é um dia que está aqui” e complementou dizendo que “está colocando uma pressão significativa na forma como o judiciário trata as coisas”33 .

Em outros termos, é necessário fazer um alerta sobre a percepção

33 Tradução livre de “It’s a day that’s here and it’s putting a significant strain on how the judiciary goes about doing things”, cf. THE NEW YORK TIMES, 2017, online. de que instrumentos de inteligência artificial são apenas matéria de ficção científica ou de um futuro longínquo. Contrariamente a esse entendimento, os sistemas de inteligência artificial compõem a vida em sociedade há anos e têm incidência cada vez mais forte. Assim, a incorporação dessas novas técnicas ao Direito é decorrência de uma revolução quantitativa e qualitativa nas operações realizadas com dados, expressas pela disponibilidade de quantidades imensas de dados, os quais são produzidos diária e massivamente em uma sociedade hiperconectada34, e pelo poder computacional sem precedentes, relacionado à alta capacidade de processamento e cada vez menores custos de armazenamento (RODRIGUES, 2020b, p. 10). Exemplificativamente, em se tratando da utilização de sistemas de inteligência artificial para auxiliar o funcionamento do sistema de justiça penal, tem-se a adoção de instrumentos de avaliação aplicados ao sistema penal britânico, como o Offences Brought to Justice (OBTJ), aplicado em

34 Hiperconectividade refere-se ao “estado de disponibilidade dos indivíduos para se comunicar a qualquer momento e tem desdobramentos importantes. Podemos citar alguns: o estado em que as pessoas estão conectadas a todo momento (always-on); a possibilidade de estar prontamente acessível (readily accessible); a riqueza de informações; a interatividade; o armazenamento ininterrupto de dados (always recording). O termo hiperconectividade está hoje atrelado às comunicações entre indivíduos (person-to-person, P2P), indivíduos e máquina (human-to-machine, H2M) e entre máquinas (machine-to-machine, M2M) valendo-se, para tanto, de diferentes meios de comunicação. Há, nesse contexto, um fluxo contínuo de informações e massiva produção de dados.”; cf. MAGRANI, 2018, p. 21.

âmbitos policial e jurisdicional para fins de avaliar a quantidade de ilícitos detectados, investigados e levados aos órgãos de jurisdição penal, bem como estabelecer metas anuais de investigações procedidas pela polícia (BRANDARIZ GARCIA, 2016, p. 193). Quanto aos sistemas capazes de apoiar os procedimentos investigativos, cita-se, dentre inúmeros existentes, a tecnologia desenvolvida pelo Departamento de Polícia de Los Angeles, em parceria com a Universidade da Califórnia, denominada PredPol, pautada em uma forma de policiamento preditivo baseado no lugar, que objetiva apontar locais com maior probabilidade de ocorrerem novos crimes (BRAGA, 2020, p. 696/670). Por fim, no que diz respeito aos instrumentos que auxiliam a tomada de decisão judicial, destacam-se os sistemas denominados Correctional Offender Management Profiles for Alternative Sanctions (COMPAS), desenvolvido por uma empresa norte-americana, e o Level of Service Inventory-Revised (LSI-R), desenvolvido por uma empresa canadense. Ambos funcionam como mecanismos de avaliação de risco, programados para apontar a probabilidade de reincidência ou predizer comportamento criminoso, e são utilizados com o objetivo de apoiar a elaboração da sentença pelo magistrado (RODRIGUES, 2020b, p. 15). Nesse contexto, a inteligência artificial, enquanto fruto do avanço técnico na sociedade contemporânea, mostrase capaz de atribuir maior confiança à política criminal35, sendo essa confiança intrinsecamente ligada à atuação do poder judiciário e não mais aos poderes públicos como um todo (RODRIGUES, 2020a, p. 266). Importa, portanto, elucidar o que se entende por inteligência artificial. A inteligência artificial (IA) é tida como um artefato capaz de raciocinar ou agir, visando desempenho análogo ao de um ser humano ou em busca de um ideal de inteligência (RUSSEL, NORVIG; 2013; p. 2). De modo mais específico, nos termos do Grupo de peritos de alto nível sobre a inteligência artificial (GPAN IA), sistemas de inteligência artificial são: sistemas de software (e eventualmente também de hardware) concebidos por seres humanos, que, tendo recebido um objetivo complexo, atuam na dimensão física ou digital percebendo o seu ambiente mediante a aquisição de dados, interpretando os dados estruturados ou não estruturados recolhidos, raciocinando sobre o conhecimento ou processando as informações resultantes desses dados e decidindo as melhores ações a adotar para atingir o objetivo estabelecido. (GPAN IA, 2018, p.47) Ciente do caráter instrumental e

35 Erik Fontenele Nybo aponta que na sociedade em que as máquinas aparentemente demonstram ser mais confiáveis do que a natureza humana, sendo inclusive capazes de orientar as pessoas a tomarem decisões, opera o governo dos algoritmos, denominado algocracia; cf. NYBO, 2019, p. 9.

abrangente da inteligência artificial, e, portanto, sem ignorar as diversas formas de incorporação da IA no Direito Penal, o presente artigo propõe reflexão acerca da utilização de sistemas que oferecem algum substrato de análise aos magistrados quando do proferimento de decisões judiciais36. Nesse contexto, a análise de um banco de dados previamente existente realizada por um sistema computacional anteriormente programado é capaz de, através de uma lógica valorativa e análise quantitativa, influenciar de forma categórica questões importantes na vida de um indivíduo, especialmente relacionadas à sanção penal arbitrada. Necessário esclarecer, portanto, que instrumentos técnicos capazes de auxiliar o funcionamento do sistema penal são cada vez mais adotados. Frise-se que resta superada a dúvida sobre a capacidade dos sistemas de inteligência artificial atuarem sob lógica valorativa, especialmente diante da capacidade de aprendizagem cumulativa que possuem, segundo a qual “os agentes de aprendizagem melhoram sua habilidade de aprender à medida que adquirem mais conhecimento” (RUSSEL, NORVIG; 2013; p. 680). Assim, uma vez

36 Destaque-se que não se trata dos denominados “juízes robôs”, sistemas de IA capazes de elaborar “boas decisões judiciais”, os quais seriam responsáveis pelo processo decisório em sua integralidade, como ocorre na Estônia com relação a litígios de menor complexidade e menor valor econômico envolvido. Sobre os Juízes Robôs, Luís Greco pondera sua possibilidade fático-descritiva, mas impossibilidade normativo-prescritiva, por haver ausência de responsabilização desses sistemas com relação às decisões proferidas, fato que colidiria frontalmente com a dignidade da pessoa humana, notadamente dos jurisdicionados; cf. GRECO, 2020, online. alimentados, treinados e validados, os sistemas de IA passam a atuar de modo autônomo, pautando as decisões no objetivo previamente estabelecido. A análise que ora se propõe está relacionada aos sistemas que, baseados em dados da vida pregressa de determinado indivíduo (dados contidos em registros oficiais) e dados fornecidos voluntariamente (dados de consulta aberta ou obtidos por meio de questionário), geram análise estatística de probabilidade e risco, pautados em comportamentos de grupos sociais que possuem perfil análogo, bem como em teorias voltadas para esses grupos. Em outras palavras, tem-se: O recurso à análise de dados e algoritmos, baseados em variáveis atinentes à pessoa, quer pelo que diz respeito à sua história (registro criminal ou tipo de crimes cometidos) quer às suas características sociodemográficas (idade, gênero ou situação profissional), e a aplicação de IA à política punitiva permitem a tomada de decisões, designadamente e para o que aqui interessa, na determinação da medida concreta da pena baseadas no risco de reincidência do agente (RODRIGUES, 2020a, p. 272)

Nesse contexto, esses instrumentos de avaliação de risco (risk assessment tools) encontram-se diretamente relacionados a um ideal de eficácia, vez que possuem maior capacidade de processamento e armazenament o, bem como objetividade

e neutralidade, pois são supostamente livres da subjetividade e emoções humanas, e, portanto, mais racionais. É nesse sentido que Anabela Miranda Rodrigues aponta para o desenvolvimento de uma racionalidade penal marcadamente tecnocrática e de cunho economicista, que absorveu muito da política criminal de filiação norte-americana (2020a, p. 272). Assim, na conjuntura em que sistemas de IA geram relatórios de avaliação de risco sobre indivíduos que estão sendo julgados e classifica-os conforme a probabilidade de reincidência, torna-se praticamente inevitável a influência no processo decisório dos magistrados. Nesse sentido, aponta-se que o ser humano tende a atribuir maior credibilidade a avaliações empíricas quando comparado a evidências não empíricas, além de não ser usual que indivíduos desafiem recomendações algorítmicas (HARVARD, 2017, p. 1536). A inevitável influência destas alternativas no processo decisório do juízo coloca em pauta o princípio do juiz natural, expresso, no Ordenamento Jurídico brasileiro, pelo art. 5º, XXXVII e LIII da Constituição Federal, que consagram “não haverá juízo ou tribunal de exceção”, bem como “ninguém será processado nem sentenciado senão pela autoridade competente”. Além disso, põe-se em questão a individualização e o processo de dosimetria da pena, quando da análise de questões pessoais do réu, bem como o princípio da legalidade, caros ao Direito Penal material. Por fim, o direito processual penal também poderá ser suscitado, especialmente em se tratando do devido processo legal, contraditório e ampla defesa.

Assim, uma série de ressalvas deve ser feita com relação à utilização desses sistemas de IA para fins de auxílio na tomada de decisão judicial, não somente com relação aos atributos de eficiência, objetividade e neutralidade, mas também à lógica de valoração exercida. Importa, portanto, que a incorporação de tecnologias às Ciências JurídicoCriminais seja feita de forma refletida e comedida, frente ao risco de acabar por afetar diretamente direitos e garantias fundamentais de ordem material e processual penal, sentido no qual propõese reflexão acerca da lógica valorativa atrelada ao processo de incorporação de inteligência artificial no Direito Penal para fins de auxiliar a tomada de decisão judicial37 .

3. FATORES QUE LEGITIMAM A INCORPORAÇÃO DE INTELIGÊNCIA ARTIFICIAL NO DIREITO PENAL

A expansão do uso da inteligência artificial no âmbito jurídico - e todos os demais campos da vida contemporânea - leva a questionamentos no que tange

37 A título elucidativo, conforme exposto, o objeto de análise do presente estudo é a utilização de sistemas automatizados produtores de relatórios de avaliação de risco e que de algum modo influenciam o processo decisório do magistrado, portanto, sem ignorar a abrangência do termo, as menções a “inteligência artificial” neste artigo são majoritariamente referentes aos mencionados sistemas.

à compatibilidade e a adequação desta opção, buscando-se alternativas para que a incorporação das tendências tecnológicas seja feita de forma correta. É certo que esta introdução não pode ser orientada unicamente por critérios pragmáticos e eficientistas, os quais podem conflitar com a racionalidade jurídica esperada do Sistema jurídico-criminal, ou com a identidade social firmada pelo modelo de Estado adotado.

Algumas inovações tecnológicas, além da tradicional ideia de automação e redução de custos, trazem promessas de maior objetividade, imparcialidade, precisão e certeza. Os mecanismos de inteligência artificial são instrumentos, então, pensados para imitar a racionalidade humana e, ainda, melhorála pela eliminação das falhas cognitivas e erros próprios da condição humana.

Todavia, a absoluta neutralidade no Direito não pode ser mais que ilusão retórica, tendo em vista que, invariavelmente, opera-se com juízos valorativos. No âmbito jurídico-criminal, a questão torna-se ainda mais evidente, na medida em que o Direito Penal, como agência de controle social formal, ocupase apenas das mais graves violações aos bens jurídicos penalmente protegidos. Ou seja, de antemão, verifica-se que há um juízo valorativo no fundamento da organização jurídico-criminal, seja com relação à hierarquização dos bens jurídicos, para seleção daqueles que são penalmente relevantes, seja com relação à limitação do Direito Penal às violações mais graves. A interpretação no âmbito das Ciências sociais aplicadas, enquanto integrantes das Ciências culturais ou, do espírito – como então eram denominadas –, em uma perspectiva valorativa foi mais desenvolvida a partir da metodologia Neokantista liberal do início do Século XX, baseada na referência da realidade a valores38. Esta abordagem metodológica foi uma reação à postura antifilosófica que havia surgido na segunda metade do Século XIX, de forma a evidenciar um retorno à filosofia por meio da referência a valores (MIR PUIG, 2003). Conforme explica Silva-Sánchez, tais valores não eram previamente dados da realidade, mas sim inerentes ao processo de conhecimento e, portanto, dependentes do sujeito observador:

Pois bem, por um lado, a dimensão de valor de uma realidade, o cultural, o que lhe atribui um sentido, surge dentro do próprio processo de conhecimento; não está presente naquela realidade de modo prévio. Por outro lado, os processos de conhecimento se mostram diretamente condicionados por circunstâncias históricas e particulares de cada sociedade, não

38 Neste sentido, Karl Larenz conceitua valor como: “Os valores são reguladores, quer dizer, não são objetivos concretos da vida e da atividade, mas constituem padrões abstratos pelos quais hão de ser aferidos e orientados na vida todos os fenômenos dentro dos domínios da cultura que lhes dizem respeito” (LARENZ, 1997, p. 137)

podendo a ideia kantiana acolherse de uma “consciência em geral” (SILVA-SÁNCHEZ, 1992, p. 56, tradução livre)39

Diferenciava-se, sobretudo, das ciências da natureza, cujo método científico fundava-se, principalmente, no conhecimento empírico, ou seja, na observação da realidade tal como se apresentava. Por isso, Karl Larenz afirma que o objeto de análise das ciências naturais não seria passível de compreensão, apenas de percepção, ao passo que, nas ciências da cultura, abrese espaço para aporte das estruturas de sentido a partir da referência a valores (LARENZ, 1997). Isto demonstra como a metodologia neokantista, inclusive pela melhor separação entre o objeto das ciências da cultura e da natureza, dá início à superação do positivismo naturalista. Contudo, a problemática do neokantismo foi justamente a ausência de indicação expressa dos valores que deveriam orientar o processo de conhecimento, deixando tal escolha exclusivamente ao sujeito observador, tendo em vista que não havia uma classe de valores universais nem absolutos. Dessa forma, tem-se um relativismo axiológico ou subjetivismo epistemológico, que

39 “Ahora bien, por un lado, la dimensión de valor de una realidad, lo cultural, lo que le atribuye un sentido, surge en el seno del propio proceso de conocimiento; no está presente en aquella realidad de modo previo. Por otro lado, los procesos de conocimiento se muestran directamente condicionados por circunstancias históricas y particulares de cada sociedad, no pudiendo acogerse la idea kantiana de una ‘conciencia en general’” (SILVA-SÁNCHEZ, 1992, p. 56) suscitou diversas críticas posteriormente, porque condicionava o resultado do processo de conhecimento às escolhas valorativas individuais (SILVA-SÁNCHEZ, 1992). Transpondo tal cenário para o âmbito jurídico, tem-se que o Direito faz parte das chamadas “Ciências Sociais Aplicadas” e, portanto, integrava a categoria das ciências culturais. Assim, o sentido das normas jurídicas deveria ser compreendido a partir da “ideia de Direito” ou, conforme Gustav Radbruch, deveria expressar a realização do fim último de seu sentido, qual seja servir à justiça (LARENZ, 1997). Em outras palavras, os conceitos e institutos do Direito deveriam se reportar à orientação teleológica do sistema, de forma que reproduzissem os valores axiológicos de justiça, ou da ideia de Direito.

Entretanto, a abstração teleológica e o relativismo axiológico permitem aportes de critérios subjetivos quanto à percepção da realidade e, consequentemente, surgem espaços para interpretações arbitrárias e, possivelmente, autoritárias acerca dos fins da justiça e do Direito. É neste sentido que se dá a crítica de Zaffaroni ao método neokantiano:

Para os neokantianos, aquilo que põe ordem no mundo e o faz disponível é o valor, que permite localizar cada entidade em seu lugar. À pergunta: o que são os valores? respondem que os valores não são, mas sim valem.

Ficaria pendente saber para quem valem ou quem faz que valham – pelo menos no campo dos valores jurídicos –, e a resposta poderia ser talvez para quem os impõe, questão central da axiologia, referida à objetividade e à subjetividade dos valores, que não discutimos agora, mas é mister advertir que o neokantismo não tem outro remédio a não ser sustentar a tese da objetividade (ZAFFARONI, 2019, p. 131)

Em que pese as necessárias e pertinentes críticas ao neokantismo, há que se ressaltar seus méritos, sobretudo ao evidenciar que este desenvolvimento epistemológico chamou atenção para as “referências valorativas da construção conceitual no Direito penal, e a caracterização destes valores como fatores não inerentes ao objeto, nem absolutos, nem universais ou imutáveis, mas sim condicionados subjetivamente e culturalmente” (SILVA-SÁNCHEZ, 1992, p. 57). Posteriormente, é justamente a permissividade axiológica herdada do neokantismo que constitui uma das bases de desenvolvimento do Funcionalismo racional teleológico, uma das correntes doutrinárias que adquiriu status significativo nos últimos tempos. Atualmente, tendo por base uma opção epistemológica de um Sistema jurídico-penal que opere a partir da confluência entre política criminal, criminologia e dogmática, defende-se que é a política criminal a responsável por dar o sentido dos critérios valorativos aplicados ao problema e à estrutura punitiva estatal, de acordo com os fins do direito penal, notadamente quanto à proteção de bens jurídicos. No contexto do Estado Social e Democrático de Direito, que tem por fundamento a proteção e promoção da dignidade humana, esta função transsistemática e valorativa deve refletir a ordem axiológica constitucional (DIAS, 1999). No mesmo sentido, tem-se a posição segundo a qual:

Conservando a sua posição de plena autonomia, a política criminal deve ser transcendente em relação às demais ciências criminais, tornandose trans-sistemática, de modo que entre ela e a dogmática jurídico-penal se estabeleça uma autêntica relação de unidade funcional (...) Ou seja, se a política criminal é trans-sistemática em relação ao Direito Penal, ela deve ser imanente à concepção de Estado plasmada na Constituição (FERNANDES, 2001, p. 35)

Assim, é importante ressaltar que o termo “política criminal”, aqui, não faz referência ao que comumente é interpretado como estratégia de repressão pelo recrudescimento punitivo, mas sim no sentido contemporâneo referente ao “conjunto dos procedimentos pelos quais o corpo social organiza as respostas ao fenômeno criminal” (DELMAS-MARTY, 2004, p. 3). Neste sentido, tais intervenções

podem ser de diversas naturezas, como relacionadas a sanções administrativas, procedimentos restaurativos e, inclusive, jurídico-criminais. Da mesma forma, Roxin afirma que “(...) a política criminal, que se importa com os conteúdos sociais e fins do direito penal, encontra-se fora do âmbito do jurídico” (2002, p. 12).

O objeto da política criminal, portanto, não é apenas o delito, tradicionalmente definido como fato típico, ilícito e culpável, mas também fenômenos de patologia social que estão relacionados ao aumento da criminalidade, como a marginalidade social, a violência simbólica, a seletividade do sistema penal, dentre outros. E é justamente este aspecto da política criminal que a relaciona com o modelo de Estado plasmado na Constituição, pois é nesta que se encontra a referência teleológica para o desenvolvimento social e jurídico. Dessa forma, a realidade contemporânea, no recorte espacial do Ocidente, está predominantemente organizada em torno do Estado material Social e Democrático de Direito, o que significa:

Sob esta designação quero compreender todo o Estado democrático e social que mantém intocada a sua ligação ao direito, e mesmo a um esquema rígido de legalidade, e se preocupa por isso antes de tudo com a consistência efetiva dos direitos, das liberdades e das garantias da pessoa; mas que, por essa razão mesma, se deixa mover, dentro daquele esquema, por considerações de justiça na promoção e na realização de todas as condições - políticas, sociais, culturais, econômicas - do desenvolvimento mais livre possível da personalidade ética de cada um (DIAS, 1999, p. 33)

Na Constituição Brasileira, o compromisso democrático com a dignidade humana e os princípios jurídicocriminais conduzem à conformação de um sistema penal de ultima ratio para proteção de bens jurídicos penalmente relevantes, de forma que a intervenção estatal deve se limitar ao mínimo necessário e apenas quando insuficientes ou inadequados os demais meios de proteção não-penais. Trata-se dos tradicionais critérios da fragmentariedade e subsidiariedade a que deve ser submetida a análise a respeito da intervenção penal. Assim, todo instituto e instrumento de direito penal deve ser submetido a um juízo valorativo para verificar a adequação ou não às diretrizes de política criminal constitucionalmente estabelecidas, sob pena de ilegitimidade do exercício do poder punitivo. A referência constitucional à dignidade da pessoa humana impõe às estruturas jurídico-criminais que “a supressão ou restrição de algum direito inerente a esta última somente será possível na medida da necessidade para a proteção de um outro direito” (FERNANDES,

2003, p. 66). Portanto, o fundamento democrático da política criminal remete necessariamente à observância de três critérios fundamentais ao sistema penal: proporcionalidade - jamais equivalência - nesta relação entre restrição e proteção de direitos, o que deve repercutir tanto nas normas de direito material quanto de direito processual penal; necessidade de utilização do meio mais gravoso pela ausência de outros meios aptos a tal proteção; e idoneidade, relativo à adequação da tutela penal na proteção de um bem (FERNANDES, 2003). Esta configuração do sistema jurídico-penal em consonância com as diretrizes do Estado Democrático de Direito é, evidentemente, resultado do processo histórico de desenvolvimento do Estado (passando pelo Estado Liberal e, posteriormente, pelo Estado Social), bem como das construções epistemológicas relacionadas às ciências criminais e à hermenêutica jurídica. Demonstra-se, portanto, que o Direito, notadamente o Direito Penal, é fruto do contexto histórico, cultural, político e socioeconômico, em uma relação de mútua referência com as normas jurídicas40. Neste mesmo sentido, Jakobs afirma:

(...) é impossível dissociar o Direito penal da sociedade; o Direito penal constitui um cartão de apresentação da sociedade altamente expressivo,

40 Especificamente sobre as implicações históricas no desenvolvimento dogmático, cf. ZAFFARONI, 2002. p. 447467. da mesma forma que sobre a base de outras partes da sociedade é possível extrair conclusões bastante fiéis sobre o Direito penal. Por exemplo, que se imponha a pena máxima por bruxaria, por contar piadas sobre o Führer ou por assassinato, caracteriza a ambos, ao Direito penal e à sociedade (JAKOBS, 1996, p. 22, tradução livre).41

Sendo assim, em que pese as limitações normativas-axiológicas impostas ao Sistema jurídico-penal, sobretudo relacionadas a princípios constitucionais e valorações políticocriminais, é certo que também há uma via de influência na conformação do direito penal que parte da sociedade e atinge as estruturas normativas. Ou seja, há uma inegável projeção das características da sociedade contemporânea no Sistema jurídico-penal, a qual pode ser positiva no sentido de atualização e adequação normativa na compreensão das estruturas sociais; mas, por outro lado, pode se apresentar como problemática, se e quando conflitar com as referidas limitações. Nesse sentido, Silva Sánchez destaca a existência de uma tendência

41 “(...) es imposible desgajar al Derecho penal de la sociedad; el Derecho penal constituye una tarjeta de presentación de la sociedad altamente expresiva, al igual que sobre la base de otras partes de la sociedad cabe derivar conclusiones bastante fiables sobre el Derecho penal. Por ejemplo, que la pena máxima se imponga por brujería, por contar chistes sobre el Führer o por asesinato, caracteriza a ambos, al Derecho penal y a la sociedad” (JAKOBS, 1996, p. 22)

de expansão do direito penal nos ordenamentos jurídicos atuais, sobretudo relacionada a novas tipificações e maior recrudescimento punitivo, bem como “criação de novos bens jurídico-penais, ampliação dos espaços de riscos jurídicopenalmente relevantes, flexibilização das regras de imputação e relativização dos princípios político-criminais de garantia” (SILVA SÁNCHEZ, 2002, p. 21). Apesar de o direito penal ser o instrumento de maior severidade à disposição do Estado, é indispensável ressaltar que a motivação para o seu uso não reside unicamente em uma política estatal punitivista, mas também denota uma demanda social por proteção e segurança. No que tange à sociedade contemporânea, portanto, importa destacar alguns elementos e características a partir dos quais já se evidenciam implicações em termos jurídico-criminais, tendo em vista a conformação de novos interesses ou novas valorações sobre interesses preexistentes. Primeiramente, aponta-se o contexto da chamada modernidade reflexiva, a qual representa a efetiva passagem da sociedade industrial, marcadamente alicerçada no progresso tecnológico e científico, para a sociedade do risco, na qual se vivenciam os riscos, os efeitos colaterais ou reflexos deste progresso na conformação as relações sociais, políticas e econômicas. Assim, o risco corresponde à incerteza e desafia as premissas científicas de racionalização, uma vez que coloca em xeque a capacidade do ser humano de prevê-lo e controlá-lo. Ao acrescer a este cenário o fenômeno da globalização, no qual a sociedade encontra-se integrada e conectada, o risco adquire dimensões mundiais e torna-se independente das fronteiras que delimitam o espaço do Estado moderno. Em outras palavras, Anthony Giddens explica:

A globalização – que é um processo de desenvolvimento desigual que tanto fragmenta quanto coordena – introduz novas formas de interdependência mundial, nas quais, mais uma vez, não há ‘outros’. Estas, por sua vez, criam novas formas de risco e perigo ao mesmo tempo em que promovem possibilidades de longo alcance de segurança global (GIDDENS, 1991, p. 190)

Os riscos, portanto, estão distribuídos no mundo, não são delimitáveis e podem afetar a todos os cidadãos. Além disso, são ameaças de procedência humana, são falhas técnicas do progresso científico e não meros acasos da natureza, o que reforça, neste sentido, as demandas inesgotáveis por novas fontes de controle, previsão e segurança. Há, assim, um aparente paradoxo42, mas que, na

42 É importante ressaltar o elemento econômico que contribui para a perpetuação do paradoxo: “eles surgem sobretudo da ambivalência dos riscos na sociedade de mercado desenvolvida: os riscos não são nesse caso apenas riscos, são também oportunidades de mercado. É precisamente com o avanço da sociedade de risco que se desenvolvem como decorrência as oposições entre aqueles

realidade, retroalimenta-se em uma espiral ascendente: o progresso tecnológicocientífico traz novos riscos, os quais demandam mais progresso tecnológicocientífico para serem controlados. Certamente, como consequência da maior vivência subjetiva dos riscos (que, sem dúvidas, é superior a sua própria existência objetiva), aponta-se a constante e infindável demanda por segurança, a qual desagua - não apenas, mas em grande medida - no Estado e no Direito Penal (SILVA SÁNCHEZ, 2002). Dessa forma, os fatores risco, segurança e globalização parecem ser elementos centrais no direcionamento do Sistema jurídico-criminal para uma abordagem eficientista da criminalidade.

Ao fazer uma comparação entre sociedade industrial, fundada no paradigma da sociedade de classes, e a pós-industrial, sendo esta marcada pelos riscos e pela reflexividade, Ulrich Beck demonstra de forma muito evidente como tais paradigmas influenciam nas configurações axiológicas e normativas:

Dito de maneira esquemática, sistemas axiológicos inteiramente diversos são alavancados nesses dois tipos de sociedades modernas. Em sua dinâmica evolutiva, as sociedades de classes continuam referidas ao ideal da igualdade (em suas várias formulações, da ‘igualdade de

que são afetados pelos riscos e aqueles que lucram com eles” (BECK, 2011, p. 56) oportunidade’ até as variantes de modelos socialistas de sociedade). Não é o caso da sociedade de risco. Seu contraprojeto normativo, que lhe serve de base e de impulso, é a segurança. O lugar do sistema axiológico da sociedade “desigual” é ocupado assim pelo sistema axiológico da sociedade “insegura”. Enquanto a utopia da igualdade contém uma abundância de metas conteudístico-positivas de alteração social, a utopia da segurança continua sendo peculiarmente negativa e defensiva: nesse caso, já não se trata de alcançar efetivamente algo “bom”, mas tão somente de evitar o pior. O sonho da sociedade de classe é: todos querem e devem compartilhar do bolo. A meta da sociedade de risco é: todos devem ser poupados do veneno (BECK, 2011, p. 59-60)

Nesse contexto, a tendência tecnocrática, decorrente da progressiva confiança depositada nos instrumentos técnicos, somada às principais características da sociedade contemporânea acaba por eleger a segurança como fator fundamental para legitimar a introdução de sistemas de inteligência artificial nas Ciências JurídicoCriminais. A crescente busca por maior previsibilidade e segurança pode ser expressa por um anseio irrefletido, que permite a incorporação de técnicas de forma arriscada e imponderada, contexto no qual a sociedade estaria disposta a

ceder liberdade em troca de segurança (RODRIGUES, 2020a, p. 269). Assim, a extrema valorização (e constante necessidade) da segurança constitui fator fundante da sociedade contemporânea, ainda que as ameaças não estejam completamente desvendadas. Nesse sentido, Bauman e Lyon afirmam que “os principais meios de obter segurança, ao que parece, são as novas técnicas e tecnologias de vigilância, que supostamente nos protegem, não de perigos distintos, mas de riscos nebulosos e informes” (2013, p. 95).

O desenvolvimento dos instrumentos de inteligência artificial surge, portanto, com os propósitos de redução de custos do poder público, melhorar a capacidade de processamento e aproveitamento dos dados à disposição das instâncias de controle e, consequentemente, atribuir maior confiança à política criminal. Assim, os governos buscam inovações como forma de aprimoramento de sua atuação, sendo a tecnologia não apenas instrumento para exercício do poder, mas também modificadora das relações de poder e dos limites de governabilidade (NYBO, 2019, p. 9). Isto posto, sendo irrefreável a tendência da incorporação destes mecanismos no funcionamento do sistema de justiça criminal, a questão do tempo presente é como harmonizálos com os fundamentos democráticos, sem que configurem mero utilitarismo ou gerencialismo empírico das demandas contemporâneas. Retoma-se, então, a questão das finalidades político-criminais que devem ser consideradas quando se tem em mente a lógica valorativa a ser introduzida pelos mecanismos de inteligência artificial. A abordagem neokantista esclarece que o sistema jurídico-penal, quando dissociado de seu fundamento político e do respectivo modelo de Estado, pode ser instrumentalizado para os mais diversos fins e permeado por diferentes referenciais axiológicos. Por outro lado, a Constituição Federal estabelece como limites indisponíveis os princípios de garantias fundamentais e dignidade da pessoa humana, os quais devem ser levados em conta indispensavelmente quando da incorporação de novos elementos à sistemática Jurídico-Criminal.

4. DOS RISCOS PARA O SISTEMA JURÍDICO-PENAL

Os diferentes valores que podem figurar na base das propostas relativas à introdução de mecanismos de Inteligência Artificial no Direito Penal possuem implicação direta com o Estado Democrático de Direito e a consequente manutenção da racionalidade do sistema jurídico-criminal. É certo que as demandas contemporâneas contribuem para a reconfiguração da estrutura axiológica, sobre a qual estão edificados os pressupostos constitucionais democráticos, mas é preciso que sejam mantidos os parâmetros mínimos que caracterizam o regime político estatal.

Quanto à utilização dos mecanismos de inteligência artificial para auxílio à tomada de decisão judicial, por não ser - ainda - algo presente na realidade brasileira, há uma dificuldade maior em se fazer prognósticos sobre sua aplicação prática. Todavia, isto não diminui a premente necessidade de se estabelecer as limitações deste processo, bem como evidenciar a quais riscos está submetida tal utilização. No âmbito jurídico-penal, tais reflexões adquirem especial relevância por se tratar de um instrumento normativo que lida com as mais graves violações a direitos, bem como possui legitimidade para intervir na esfera de liberdade dos cidadãos. No que tange ao processo penal:

Afirma-se, pois, que, em linha de princípio, o código de rito (Código de Processo Penal) não é, e não pode ser, uma série de “técnicas” de actuação do Direito Penal, neutra em relação às escolhas político-criminais que neste se exprimem, segundo a ideia de mera instrumentalidade do processo penal (...) (FERNANDES, 2001, p. 69)

Dessa forma, não há que se questionar o papel fundamental desempenhado pelo juiz para a efetivação das normas de ordem processual, sobretudo no que tange à supervisão das partes e à garantia dos direitos fundamentais do réu (e dos demais envolvidos na relação processual). Conforme Ferrajoli, há duas espécies de garantias quanto ao juiz, as garantias orgânicas, que dizem respeito à posição institucional do poder judiciário com relação aos demais poderes e as partes no processo, e as garantias procedimentais, relativas a aspectos probatórios e de formação do juízo (FERRAJOLI, 2002). No que tange às garantias orgânicas, estas compreendem princípios como a independência, a imparcialidade, o juiz natural e demais elementos que caracterizam o modelo acusatório de separação entre juiz e acusação. Por outro lado, as garantias procedimentais visam proteger o princípio processual de livre-conhecimento e formação da livre-convicção do juiz, portanto abarcam o ônus da prova, o princípio do contraditório, a motivação dos atos judiciários, a publicidade, dentre outros (FERRAJOLI, 2002). Tal sistema de garantias visa preservar o devido processo legal e asseverar um processo justo de base democrática. Assim, a lógica de introdução dos mecanismos de inteligência artificial não pode unicamente ser fundamentada em celeridade e eficientismo, tendo em vista a existência de condicionantes garantistas essenciais para o sistema democrático e para o processo acusatório. Modificações estruturais com base em razões de pragmatismo e utilitarismo por vezes fazem eco à lógica de que direitos e garantias fundamentais são obstáculos à persecução penal e à justiça, quando, na verdade, a observância a tais limites é o próprio fundamento de legitimidade da intervenção punitiva.

Como pode ser observado pelo funcionamento dos sistemas de auxílio à tomada de decisão, os quais operam para avaliar riscos ou valorar comportamentos visando prever possíveis casos de reincidência, há que se ter de forma clara em que medida tais sistemas são compatíveis com o princípio da presunção de inocência, por exemplo. Alimentar tais sistemas com dados do réu, parece flertar com um direito penal do autor, de modo que marca um contrassenso no caminho de evolução epistemológica do sistema jurídico-penal.

Importa destacar, nesse mesmo sentido, que a incorporação desses sistemas à lógica jurídico-penal revela impacto significativo sobre os direitos fundamentais, especialmente em se tratando de privacidade, proteção de dados pessoais, não discriminação e igualdade (RODRIGUES, 2020b, p. 28), havendo ampla discussão acerca da afetação de direitos constitucionais, para além de direitos de ordem material e processual. Cite-se, de pronto, questões relacionadas ao devido processo legal, contraditório e ampla defesa, bem como individualização e dosimetria da pena43 . Além disso, em se tratando da atividade de elaboração da sentença pelo magistrado,

43 Colocados em discussão no célebre caso State v. Loomis, julgado nos Estados Unidos da América, no qual o Tribunal de Wisconsin foi provocado pela oposição do direito ao due process e individualização da decisão em detrimento do segredo industrial pelo qual estava protegido o software produtor da avaliação de risco; cf. HARVARD, 2017, online. há que se elevar atenção para o dever de fundamentação das decisões, publicidade dos atos e livre convencimento.

Introduzidos sob a expectativa de causarem impacto positivo no Sistema de Justiça Criminal, e justificados pela racionalização do processo de determinação da medida concreta da pena, os sistemas de inteligência artificial acabam por levantar objeções relevantes. Cite-se, nesse sentido, a opacidade inerente ao funcionamento desses sistemas, uma vez que sendo em sua maioria produtos de empresas privadas, seu procedimento por vezes é protegido por segredo industrial. Assim, não haveria possibilidade de avaliar a ponderação feita sobre os dados analisados, tampouco validar os resultados obtidos, sentido no qual se impõe “obstáculo ao controlo público da decisão a que o julgador chega” (RODRIGUES, 2020a, p. 274).

Outra objeção versa sobre a dificuldade de contrariar uma recomendação gerada por sistemas de inteligência artificial, bem como a suposta desresponsabilização do magistrado com relação à decisão proferida, vez que pautada em avaliação teoricamente mais racional e objetiva. Por fim, mas sem a pretensão de esgotar a questão, existe o empecilho da reprodução de preceitos discriminatórios inerentes ao banco de dados ou à lógica de programação do próprio sistema; também nesse ponto

encontra-se o equívoco de considerar o funcionamento desses sistemas, bem como os seus produtos, como neutros.

Nesse sentido reside a problemática em se considerar que a inteligência artificial em qualquer caso seria capaz de solucionar controvérsias intrínsecas ao Sistema de Justiça Criminal, como decisões pautadas em convicção puramente pessoal ou emocional. Há que se ponderar que as tentativas de estruturar uma racionalidade jurídica tem papel importante em Estados Democráticos, justificadas pela inexistência de espaço para que a convicção subjetiva do magistrado seja critério para resolução de conflitos (RODRIGUES, 2020a, p. 284), entretanto, a discricionariedade do juízo, ainda que realizada sob a égide de determinados marcos normativos e principiológicos, é capaz de garantir uma prestação jurisdicional conciliada à realidade fática.

(...) em nenhum sistema o juiz é uma máquina automática, concebê-lo como tal significa fazer dele uma máquina cega, presa da estupidez ou, pior, dos interesses e dos condicionamentos de poder mais ou menos ocultos e, em todo caso, favorecer sua irresponsabilidade política e moral (FERRAJOLI, 2002, p. 140) Por sua vez, as tentativas de superação das objeções colocadas à inteligência artificial dizem respeito ao estabelecimento de princípios para utilização (CEPEJ, 2018) ou requisitos para que se possa considerar um sistema de IA confiável (GPAN IA, 2019). Nesse contexto, a introdução de inteligência artificial no direito justamente com a finalidade de atribuir maior confiança e segurança enseja discussões sobre o uso ético dos próprios sistemas de IA44 . Assim, a Carta Ética Europeia sobre o uso da Inteligência Artificial em sistemas judiciais cuidou de estabelecer princípios para a utilização desses sistemas, quais sejam, o respeito aos direitos fundamentais, a não discriminação, a qualidade e segurança, a transparência, imparcialidade e fairness e a utilização sob controle do usuário.

Diante do exposto, é certo que a introdução de novas técnicas às Ciências Jurídico-Criminais encontra objeções e riscos delas decorrentes, especialmente no que diz respeito à afetação de direitos fundamentais. Alguns autores ponderam, portanto, que o fenômeno ora retratado, expresso por um esforço para racionalizar a determinação da medida da pena em busca de maior coerência, não é atividade recente (RODRIGUES, 2020a, p. 281).

44 Fato que coloca em pauta o paradoxo trazido acima no texto, segundo o qual “o progresso tecnológico-científico traz novos riscos, os quais demandam mais progresso tecnológico-científico para serem controlados”.

Entretanto, o que se observa na prática é o aumento das demandas no âmbito da justiça criminal, bem como o incremento da população prisional, inexistindo reflexos positivos apurados dessa busca por maior racionalidade e eficiência. Por fim, é necessário destacar que os riscos retratados não constituem tão somente problemas de tecnologia, mas de Política Criminal, no sentido material dos usos que são feitos do poder punitivo.

É a política, não é a tecnologia – no caso, a orientação política criminal em que esta se inscreve – que é responsável por criar um sistema de justiça penal fortemente punitivo ou seletivo. Transformar este sistema é uma tarefa política, não tecnológica (RODRIGUES, 2020a, p. 282)

Assim, a expectativa sem precedentes de que a tecnologia, especificamente sistemas de inteligência artificial, seria capaz de atender às necessidades de segurança da sociedade contemporânea deve ser alvo de grandes ressalvas. Nessa perspectiva, a incorporação de novas técnicas ao Direito Penal deve obrigatoriamente ser pensada frente aos referentes axiológicos dos quais decorrem a demanda em contraposição à Política Criminal constitucionalmente estabelecida, sob o risco dessa introdução ofender direitos e garantias fundamentais, contrariamente ao incremento de confiança e eficácia. 5. CONSIDERAÇÕES FINAIS

O desenvolvimento tecnológico é elemento fundamental de organização da sociedade contemporânea. Nesse sentido, há uma série de novas tecnologias a serem utilizadas no âmbito jurídico-penal pelas agências de controle, que buscam otimizar os resultados da investigação ou da persecução penal. Os mecanismos de inteligência artificial estão inseridos neste contexto e fazem eco aos valores da sociedade contemporânea, quais sejam, de otimização, redução de custos, previsibilidade, segurança, controle e confiança. No processo de evolução epistemológica das ciências criminais, a permissividade axiológica das normas é acentuada pela intervenção do método neokantiano liberal, da primeira metade do Séc. XX, fundado na ideia da realidade referida a valores. Assim, abre-se espaço para uma interpretação normativa e conformação do sistema jurídico-penal, a partir dos referenciais teleológicos predominantes na sociedade, sem, todavia, proceder-se a uma delimitação específica de tal conteúdo. É neste âmbito que se ressalta a necessidade de cautela em admitir valorações conforme necessidades e demandas sociais, podendo-se incorrer no mesmo relativismo axiológico neokantiano. A estrutura jurídica contemporânea dá primazia às normas constitucionais e

aos valores ali consagrados, os quais conformam o respectivo modelo de Estado e, consequentemente, o caráter teleológico que se deve ter por fundamento de toda organização social. A política criminal encontra-se inserida neste contexto e, portanto, verifica-se a necessidade de discutir a atuação da inteligência artificial apenas na medida em que corrobore com a conformação de um sistema jurídico-penal em observância ao pressuposto democrático da dignidade da pessoa humana.

Todavia, nota-se um fundamento utilitarista quando se discute a introdução de mecanismos de auxílio à tomada de decisão judicial, em detrimento de efetividade a valores constitucionais. Isto denota como algumas características da sociedade contemporânea, dentre as quais se destaca eficiência e segurança, produzem implicações normativas e institucionais, repercutindo diretamente na flexibilização de direitos e garantias fundamentais. Especialmente, destaca-se os tensionamentos produzidos no âmbito da presunção de inocência, do devido processo legal, do contraditório e ampla defesa, bem como da individualização e dosimetria da pena.

Diante de tais contradições, surgem diversas objeções aos instrumentos tecnológicos de apoio à decisão judicial, tendo em vista os limites indisponíveis das garantias constitucionais. Por outro lado, há louváveis iniciativas que tentam superar tais críticas no sentido de estabelecer diretrizes de harmonização entre o funcionamento da inteligência artificial e procedimentos éticos no sistema de justiça criminal, sobretudo visando garantir a não-discriminação, a igualdade, a transparência e a imparcialidade.

Por fim, cumpre ressaltar que não há como pensar o futuro das ciências criminais sem fazer referência às inovações tecnológicas, da mesma forma, não há como pensar o futuro da humanidade sem o respeito a direitos e garantias fundamentais. O progresso em caráter excessivo e desenfreado não está distante das perspectivas distópicas, razão pela qual a inteligência artificial somente pode ser concebida dentro de limites para assegurar a dignidade da pessoa humana.

REFERÊNCIAS BIBLIOGRÁFICAS

BAUMAN, Zygmunt. Globalização: as consequências humanas. Tradução: Marcus Penchel. Rio de Janeiro: Zahar, 1999.

BAUMAN, Zygmunt; LYON, David. Vigilância líquida. Tradução: Carlos Alberto Medeiros. Rio de Janeiro: Zahar, 2013.

BECK, Ulrich. Sociedade de risco: rumo a uma outra modernidade. Tradução de Sebastião Nascimento. 2 ed. São Paulo: Editora 34, 2011.

BRAGA, Carolina. Discriminação nas decisões por algoritmos: polícia preditiva. In FRAZÃO, Ana; MULHOLLAND, Caitlin (Coord.). Inteligência artificial e direito: ética, regulação e responsabilidade. São Paulo: Thomson Reuters (Revista dos Tribunais), 2 ed., 2020.

BRANDARIZ GARCIA, José Ángel. El New Public Management y las políticas penales. Revista Nuevo Foro Penal, vol. 12, nº 87, jul-dec, 2016.

CEPEJ. Comissão europeia para a eficiência da justiça. Carta Ética

Europeia sobre o uso da Inteligência Artificial em sistemas judiciais

e seu ambiente. Tradução: Teresa Germana Lopes de Azevedo. Estrasburgo: Comissão Europeia, 2018.

COUNCIL OF EUROPE. Convenção sobre o cibercrime. Budapeste, 23/XI/2001. Disponível em: https://www.coe.int/en/web/cybercrime/ the-budapest-convention. Acesso em: 19/06/2021.

DELMAS-MARTY, Mireille. Os grandes sistemas de política criminal. Tradução Denise Radanovic Vieira. Barueri, SP: Manole, 2004.

DIAS, Jorge de Figueiredo. Questões fundamentais do direito penal revisitadas. São Paulo: Editora Revista dos Tribunais, 1999.

FERNANDES, Fernando Andrade. O Processo Penal como Instrumento de Política Criminal. Coimbra: Livraria Almedina, 2001.

FERNANDES, Fernando Andrade. Sobre uma opção jurídico-política e jurídico-metodológica de compreensão das ciências jurídico-criminais. In: Liber Discipulorum para Jorge de Figueiredo Dias. Coimbra: Coimbra, 2003.

FERRAJOLI, Luigi. Direito e razão: teoria do garantismo penal. São Paulo: Revista dos Tribunais, 2002.

GIDDENS, Anthony. As consequências da modernidade. São Paulo: Unesp, 1991.

GPAN IA. Grupo de peritos de alto nível sobre a inteligência artificial. Orientações éticas para uma IA de confiança. Bruxelas: Comissão Europeia, 2019.

GRECO, Luís. A Impossibilidade Jurídica de Juízes Robôs (conferência). Instituto Eduardo Correia, 2020. Disponível em: https://www.institutoeduardocorreia. com.br/videos/. Acesso em: 20/06/2021.

HARVARD. State v. Loomis Wisconsin Supreme Court Requires Warning Before Use of Algorithmic Risk Assessments in Sentencing. Harvard Law Review, Recent Case nº 881, N. W. 2ª Ed. Wisconsin 2017. p. 1530-1538. Disponível em https://harvardlawreview.org/2017/03/state-v-loomis/. Acesso em: 16/05/2021.

HUXLEY, Aldous. Admirável Mundo Novo. Tradução: Lino Vallandro e Vidal Serrano. 22 ed. São Paulo: Globo, 2014.

JAKOBS, Günther. Sociedad, norma y persona en una teoría de un Derecho Penal funcional. Tradução: Manuel Cancio Meliá e Bernardo Feijóo Sanchez. Madrid: Civitas, 1996.

LARENZ, Karl. Metodologia da Ciência do Direito. Tradução José Lamego. 3 ed. Lisboa: Fundação Calouste Gulbenkian, 1997.

MAGRANI, Eduardo. A internet das coisas. Rio de Janeiro: FGV Editora, 2018.

MIR PUIG, Santiago. Introducción a las bases del derecho penal: concepto y método. 2 ed. Buenos Aires: Editorial BdeF, 2003.

NYBO, Erik Fontenele. O poder dos algoritmos. São Paulo: Enlaw, 2019.

ORWELL, George. 1984. Tradução: Alexandre Hubner e Heloisa Jahn. São Paulo: Companhia das Letras, 2009.

PEDRINA, Gustavo Mascarenhas Lacerda. Consequências e perspectivas da aplicação de inteligência artificial a casos penais. Revista Brasileira de Direito Processual Penal, Porto Alegre, vol. 5, n. 3, p. 1589-1606, set./dez. 2019. https://doi.org/10.22197/rbdpp.v5i3.265

RODRIGUES, Anabela Miranda. A questão da pena e a decisão do juiz - entre a dogmática e o algoritmo. In RODRIGUES, Anabela Miranda (coord.). A Inteligência Artificial no Direito Penal. Coimbra: Almedina, 2020a.

RODRIGUES, Anabela Miranda. Inteligência artificial no direito penal - a justiça preditiva entre a americanização e a europeização. In RODRIGUES, Anabela Miranda (coord.). A Inteligência Artificial no Direito Penal. Coimbra: Almedina, 2020b.

ROXIN, Claus. Política criminal e sistema jurídico-penal. Tradução: Luís Greco. Rio de Janeiro: Renovar, 2002.

RUSSEL, Stuart; NORVIG, Peter. Inteligência Artificial. Tradução de Regina Célia Simille. Rio de Janeiro: Elsevier, 2013.

SILVA SÁNCHEZ, Jesús-María. A expansão do direito penal – aspectos da política criminal nas sociedades pós-industriais. Trad. Luiz Otavio de Oliveira Rocha. São Paulo: Revista dos Tribunais, 2002.

SILVA SÁNCHEZ, Jesús-María. Aproximación al derecho penal contemporáneo. Barcelona: Jose Maria Bosch Editor, 1992.

THE NEW YORK TIMES. Sent to Prison by a Software Program ‘s Secret Algorithms. Publicado em: 01/05/2017. Disponível em: https://www. nytimes.com/2017/05/01/us/politics/sent-to-prison-by-a-softwareprograms-secret-algorithms.html. Acesso em: 19/06/2021.

ZAFFARONI, Eugenio Raúl. Doutrina penal nazista: a dogmática penal alemã entre 1933 a 1945. Tradução: Rodrigo Murad do Prado. Florianópolis: Tirant Lo Blanch, 2019.

ZAFFARONI, Eugenio Raúl. Política y dogmática jurídico penal. Revista Direito e Democracia. Canoas. vol.3, n. 1. jan-jul, 2002. p. 447-467.