Estratégias de governança do uso da inteligência artificial no Poder Judiciário brasileiro

Abstract

A utilização de sistemas de Inteligência Artificial (IA) no Poder Judiciário brasileiro é uma realidade em crescente expansão. Considerando a necessidade de observância de parâmetros para o desenvolvimento e uso ético de IA, o Conselho Nacional de Justiça editou a Resolução nº 332/2020. A presente pesquisa tem por objetivo avaliar as estratégias de governança previstas no referido ato normativo, bem como outros mecanismos capazes de assegurar o uso ético da tecnologia e mitigar os riscos envolvidos, buscando subsidiar futuras iniciativas institucionais. Para tanto, no primeiro capítulo, são analisados os papéis desempenhados pela regulação, ética e governança e sua interseção no controle de riscos relacionados à utilização da tecnologia. No segundo capítulo, são examinados os riscos do uso IA no Poder Judiciário e a regulamentação pertinente, incluindo a análise de documentos internacionais como a Carta Europeia de Ética sobre o Uso da Inteligência Artificial em Sistemas Judiciais. No terceiro capítulo, é avaliada a criação de comitês de ética de IA como mecanismo para lidar com a complexidade do ciclo de desenvolvimento dos projetos de IA e as questões éticas inerentes à sua implementação no contexto sensível do Poder Judiciário. Ao final, é apresentada uma proposta de criação de comitês de éticas de IA no âmbito do Poder Judiciário brasileiro e outros colegiados nacionais com detalhes sobre estrutura, composição, objetivos e atribuições.