Resolução deixa claro que ferramenta é auxiliar e complementar; IA não pode ser instrumento autônomo para tomar decisões. Texto vale para todas as instâncias da Justiça no país. O Conselho Nacional de Justiça aprovou, nesta terça-feira (18), uma proposta que estabelece como será o uso da inteligência artificial na Justiça brasileira.
O texto, que deverá ser aplicado por todo o Judiciário, traz as normas gerais para que as instâncias da Justiça adotem modelos de inteligência artificial.
O conjunto de orientações prevê, por exemplo, que a tecnologia tem que ser compatível com os direitos previstos na Constituição.
Também fixa mecanismos de monitoramento e fiscalização, assim como a necessidade de garantir a segurança jurídica e o respeito aos direitos de privacidade na Lei Geral de Proteção de Dados.
A resolução também deixa claro que o uso da ferramenta deve ser de forma auxiliar e complementar. Na prática, a IA não pode ser um instrumento autônomo de tomada de decisões – a última palavra é do juiz, que será integralmente responsável pelo que determinar.
A proposta é resultado de um Grupo de Trabalho que funcionou no âmbito do Conselho, liderado pelo conselheiro Luiz Fernando Bandeira de Mello Filho. O grupo teve discussões sobre o tema ao longo de um ano. Realizou, em setembro de 2024, uma audiência pública para debater a questão.
Voto do relator
O voto do relator, favorável ao texto, foi apresentado em sessão no último dia 11.
“Talvez o aspecto mais relevante seja uma preocupação muito clara de garantir ao cidadão que ninguém vai ser julgado por robô. A resolução deixa claro o tempo todo a necessidade de supervisão humana”, explicou o conselheiro na ocasião.
Bandeira de Mello deu exemplos de possíveis usos da inteligência artificial no trabalho da Justiça:
ajuda ao magistrado na formulação de perguntas em audiências de instrução e julgamento de processos;
auxílio para detectar possíveis contradições em depoimentos em tempo real;
classificação de processos sobre um mesmo tema;
organização de argumentos das diferentes partes do processo;
alerta para o juiz de que a decisão pode contrariar precedentes já firmados pela Justiça.
“A ideia é não paralisar os tribunais e não deixar de ter uma ferramenta que pode ser essencial para combater um dos maiores problemas de que o Judiciário é acusado, que é a morosidade”, explicou o relator.
A resolução segue as seguintes orientações:
as instâncias do Judiciário devem adotar modelos de inteligência artificial que sejam compatíveis com a proteção de direitos fundamentais previstos na Constituição;
a solução tecnológica escolhida deve prever mecanismos que permitam monitoramento e fiscalização do trabalho realizado;
deve ser garantida a segurança jurídica;
o uso de dados de processos devem respeitar as regras de privacidade da Lei Geral de Proteção de Dados;
os tribunais devem implantar medidas para prevenir que a tecnologia viabilize o surgimento de tendências discriminatórias.
Os modelos de IA adotados pelo Poder Judiciário não podem:
impedir a revisão humana dos dados usados e os resultados propostos;
fazer juízos de valor de traços da personalidade, características ou comportamentos de pessoas naturais. A ideia é proibir o uso destas informações para tentar avaliar ou prever que um cidadão vai cometer ou será reincidente em crimes. Mais ainda, evitar que isso seja usado para fundamentar decisões judiciais;
classificar ou ranquear pessoas naturais, com base no seu comportamento ou situação social ou ainda em atributos da sua personalidade, para a avaliação da validade de seus direitos, méritos judiciais ou testemunhos.
O texto cria também um Comitê Nacional de Inteligência Artificial do Judiciário, que terá 13 integrantes e vai funcionar no âmbito do próprio CNJ.
O comitê poderá, entre outras atribuições, impedir ou limitar o uso de soluções de IA, considerando os critérios de segurança e risco das aplicações.
O texto, que deverá ser aplicado por todo o Judiciário, traz as normas gerais para que as instâncias da Justiça adotem modelos de inteligência artificial.
O conjunto de orientações prevê, por exemplo, que a tecnologia tem que ser compatível com os direitos previstos na Constituição.
Também fixa mecanismos de monitoramento e fiscalização, assim como a necessidade de garantir a segurança jurídica e o respeito aos direitos de privacidade na Lei Geral de Proteção de Dados.
A resolução também deixa claro que o uso da ferramenta deve ser de forma auxiliar e complementar. Na prática, a IA não pode ser um instrumento autônomo de tomada de decisões – a última palavra é do juiz, que será integralmente responsável pelo que determinar.
A proposta é resultado de um Grupo de Trabalho que funcionou no âmbito do Conselho, liderado pelo conselheiro Luiz Fernando Bandeira de Mello Filho. O grupo teve discussões sobre o tema ao longo de um ano. Realizou, em setembro de 2024, uma audiência pública para debater a questão.
Voto do relator
O voto do relator, favorável ao texto, foi apresentado em sessão no último dia 11.
“Talvez o aspecto mais relevante seja uma preocupação muito clara de garantir ao cidadão que ninguém vai ser julgado por robô. A resolução deixa claro o tempo todo a necessidade de supervisão humana”, explicou o conselheiro na ocasião.
Bandeira de Mello deu exemplos de possíveis usos da inteligência artificial no trabalho da Justiça:
ajuda ao magistrado na formulação de perguntas em audiências de instrução e julgamento de processos;
auxílio para detectar possíveis contradições em depoimentos em tempo real;
classificação de processos sobre um mesmo tema;
organização de argumentos das diferentes partes do processo;
alerta para o juiz de que a decisão pode contrariar precedentes já firmados pela Justiça.
“A ideia é não paralisar os tribunais e não deixar de ter uma ferramenta que pode ser essencial para combater um dos maiores problemas de que o Judiciário é acusado, que é a morosidade”, explicou o relator.
A resolução segue as seguintes orientações:
as instâncias do Judiciário devem adotar modelos de inteligência artificial que sejam compatíveis com a proteção de direitos fundamentais previstos na Constituição;
a solução tecnológica escolhida deve prever mecanismos que permitam monitoramento e fiscalização do trabalho realizado;
deve ser garantida a segurança jurídica;
o uso de dados de processos devem respeitar as regras de privacidade da Lei Geral de Proteção de Dados;
os tribunais devem implantar medidas para prevenir que a tecnologia viabilize o surgimento de tendências discriminatórias.
Os modelos de IA adotados pelo Poder Judiciário não podem:
impedir a revisão humana dos dados usados e os resultados propostos;
fazer juízos de valor de traços da personalidade, características ou comportamentos de pessoas naturais. A ideia é proibir o uso destas informações para tentar avaliar ou prever que um cidadão vai cometer ou será reincidente em crimes. Mais ainda, evitar que isso seja usado para fundamentar decisões judiciais;
classificar ou ranquear pessoas naturais, com base no seu comportamento ou situação social ou ainda em atributos da sua personalidade, para a avaliação da validade de seus direitos, méritos judiciais ou testemunhos.
O texto cria também um Comitê Nacional de Inteligência Artificial do Judiciário, que terá 13 integrantes e vai funcionar no âmbito do próprio CNJ.
O comitê poderá, entre outras atribuições, impedir ou limitar o uso de soluções de IA, considerando os critérios de segurança e risco das aplicações.
