CNJ exige que tribunais informem sobre decisões auxiliadas por inteligência artificial

O Conselho Nacional de Justiça (CNJ) está prestes a dar um passo crucial na regulamentação da inteligência artificial (IA) no âmbito do Poder Judiciário. Uma nova minuta de resolução, que deverá ser votada em plenário até o final de fevereiro, promete substituir a versão anterior (Resolução 332/20) e estabelecer diretrizes mais rigorosas para o desenvolvimento e aplicação de tecnologias de IA, com destaque para a inclusão de regras relativas à IA generativa.

Marcos da Nova Regulamentação

• Governança, Auditoria e Transparência: A nova resolução do CNJ enfatiza a necessidade de normas claras para a governança da IA, auditorias contínuas para garantir a conformidade e a transparência no desenvolvimento e aplicação dessas tecnologias.
• Prevenção de Vieses e Proteção de Dados: A norma busca prevenir vieses discriminatórios e proteger os dados dos cidadãos, garantindo que a IA seja utilizada de forma ética e responsável, respeitando os direitos fundamentais e evitando a substituição da tomada de decisão humana.
• Supervisão Humana e Transparência: A supervisão humana é apontada como um elemento-chave em todas as aplicações de IA no Judiciário, com a exigência de que os usuários sejam informados sobre o uso da IA em decisões judiciais.
• Comitê Nacional de Inteligência Artificial do Judiciário: O CNJ criou um comitê responsável por acompanhar a evolução da IA, monitorar seu impacto no Judiciário e realizar reavaliações periódicas de riscos.
• Classificação de Risco e Proibições: A regulamentação classifica as aplicações de IA de acordo com o nível de risco. Soluções que possam comprometer direitos fundamentais ou gerar dependência da decisão automatizada são expressamente proibidas, enquanto ferramentas de apoio administrativo e extração de dados são consideradas de baixo risco e permitidas.
• Treinamento e Conformidade: Os tribunais deverão garantir treinamento contínuo para magistrados e servidores sobre o uso seguro e eficiente da IA. Todas as contratações de IA no Judiciário devem seguir normas de proteção de dados e segurança cibernética, em conformidade com legislações como a Lei Geral de Proteção de Dados (LGPD).

Impacto e Expectativas

A nova resolução do CNJ é vista como um marco na regulamentação da IA no Brasil e deve ter um impacto significativo no funcionamento do Poder Judiciário. A expectativa é que a norma traga mais transparência, segurança e eficiência para o sistema judicial, garantindo que a IA seja utilizada de forma ética e responsável, em benefício de toda a sociedade.

Com esta nova resolução, o CNJ demonstra estar atento à importância da IA no futuro do Judiciário e se prepara para garantir que sua utilização seja feita de forma ética, transparente e responsável.