CGI.br propõe endurecer regras do PL da IA com avaliação obrigatória de risco e limites ao uso de biometria

Nova nota técnica do Comitê Gestor da Internet no Brasil sugere mudanças no PL 2338/23 para reforçar a regulação baseada em risco, ampliar a proteção a direitos fundamentais e corrigir pontos considerados sensíveis no uso de sistemas de inteligência artificial, especialmente em áreas como segurança pública e políticas sociais.

Entre as principais recomendações está a obrigatoriedade da análise preliminar de risco por desenvolvedores e operadores de sistemas de IA. Para o CGI.br, a redação atual do artigo 12, ao prever que essa avaliação “poderá” ser realizada, enfraquece um dos fundamentos centrais da proposta regulatória.

Na visão do comitê, essa análise prévia é essencial para garantir a compreensão e o cumprimento da legislação. Por isso, a entidade defende que o projeto de lei estabeleça essa etapa como um dever, com exigências proporcionais ao porte da organização e ao potencial impacto da tecnologia empregada.

O CGI.br também sustenta que a regulação baseada em risco deve levar em conta tanto a atuação do regulador quanto a dos agentes regulados. Caberia ao poder público definir prioridades de fiscalização com base nos riscos associados a determinados setores e tecnologias, enquanto empresas e instituições que desenvolvem ou utilizam IA deveriam manter mecanismos próprios de avaliação e gestão de riscos.

Outro ponto levantado é a necessidade de permitir que novas categorias de sistemas de alto risco sejam definidas futuramente por regulamentação complementar. Segundo o comitê, isso é importante para que a lei consiga acompanhar a evolução tecnológica e o surgimento de novas aplicações da inteligência artificial.

A nota técnica ainda propõe a retirada integral do artigo 77 do projeto. O dispositivo determina que os efeitos da IA sobre conteúdos online sejam tratados em legislação específica. Para o CGI.br, esse modelo pode restringir o debate regulatório e deveria ser substituído por uma formulação mais aberta, capaz de permitir tratamento posterior em processos regulatórios próprios e mais flexíveis.

Na proteção de grupos vulneráveis, a entidade recomenda ampliar a norma referente a abuso e exploração sexual. Hoje voltada a crianças e adolescentes, a regra deveria também abranger as mulheres, apontadas pelo comitê como um dos grupos mais afetados por esse tipo de violência no ambiente digital.

O documento também manifesta preocupação com a forma como o projeto trata tecnologias de vigilância. De acordo com o CGI.br, a redação atual abre espaço para o uso amplo de sistemas de identificação biométrica à distância e em tempo real, o que pode representar riscos relevantes à privacidade e às liberdades civis, caso não haja salvaguardas mais claras.

Outro aspecto considerado problemático é o uso de inteligência artificial para previsão de crimes. Na avaliação do comitê, esse tipo de aplicação tende a reproduzir distorções presentes em bases históricas de dados e pode acabar incentivando práticas discriminatórias.

Por fim, a entidade sugere mudanças nas regras aplicáveis a sistemas de ranqueamento usados para definir elegibilidade ou prioridade em políticas públicas. Para o CGI.br, esses mecanismos precisam operar com critérios transparentes e possibilidade de revisão, já que podem interferir diretamente no acesso da população a benefícios e serviços do Estado.