Agentes autonomos
A adoção de agentes autônomos de inteligência artificial por empresas e órgãos públicos está criando uma nova categoria de riscos jurídicos relacionados à privacidade e à proteção de dados pessoais. Diferentemente dos chatbots tradicionais, que geralmente produzem respostas ou sugestões submetidas à análise humana, esses sistemas podem executar tarefas, acessar bancos de dados, consultar documentos, enviar mensagens e tomar decisões com pouca ou nenhuma intervenção de uma pessoa.
Um agente de IA pode receber um objetivo e definir autonomamente as etapas necessárias para alcançá-lo. Dependendo das permissões concedidas, o sistema pode acessar e-mails, calendários, cadastros de clientes, prontuários, currículos, registros financeiros, códigos-fonte e plataformas internas.
Essa autonomia aumenta a eficiência operacional, mas também amplia significativamente o volume e a variedade de dados pessoais tratados. Em muitos casos, as empresas ainda utilizam contratos, políticas de privacidade e controles de segurança elaborados para softwares convencionais, sem considerar as características específicas dos agentes de inteligência artificial.
O principal ponto jurídico é que um agente autônomo não pode ser considerado apenas uma ferramenta tecnológica que eventualmente acessa informações pessoais. Ele próprio executa, de maneira contínua e automatizada, operações de tratamento de dados.
Essas operações podem incluir coleta, consulta, organização, classificação, armazenamento, compartilhamento, análise, alteração e exclusão de informações. Por isso, a implantação de um agente precisa ser registrada nos processos internos de governança e incluída nos inventários de tratamento de dados da organização.
Também devem ser identificados:
A utilização do agente sem esse mapeamento pode violar princípios como finalidade, necessidade, transparência, segurança e responsabilização.
Um dos principais riscos ocorre quando informações fornecidas por clientes ou funcionários são utilizadas pelo fornecedor para treinar ou aprimorar seus modelos de inteligência artificial.
Uma empresa pode contratar uma plataforma para realizar determinada tarefa, como analisar documentos, atender consumidores ou organizar processos internos. Entretanto, os dados inseridos no sistema podem acabar sendo reutilizados para uma finalidade diferente da originalmente informada.
Esse uso secundário pode exceder os limites do contrato e contrariar a legislação de proteção de dados. Por esse motivo, os contratos devem proibir expressamente o uso de informações pessoais, comandos, documentos, registros e históricos para treinamento de modelos, salvo quando houver autorização válida e compatibilidade com a finalidade original.
A proibição também deve abranger dados derivados, como registros de atividade, vetores, embeddings, caches, memórias persistentes e modelos ajustados com informações da organização.
Alguns agentes mantêm memória das interações para melhorar seu desempenho em tarefas futuras. Embora essa característica possa tornar o sistema mais eficiente, também pode provocar retenção excessiva de dados pessoais.
Uma informação solicitada para determinada tarefa pode permanecer armazenada e ser reutilizada posteriormente em outros contextos, inclusive por usuários diferentes. Também existe o risco de o dado reaparecer em respostas futuras, mesmo após o titular ter solicitado sua exclusão.
Para atender adequadamente aos direitos de acesso, correção e eliminação, as organizações precisam saber onde as informações ficam armazenadas. Isso inclui não apenas bancos de dados tradicionais, mas também logs, caches, memórias do agente, arquivos temporários e representações matemáticas utilizadas pelos modelos.
A simples exclusão do registro original pode não ser suficiente quando cópias ou derivados continuam presentes em outras camadas do sistema.
Agentes de inteligência artificial também podem ser empregados para selecionar candidatos, avaliar consumidores, definir preços, identificar suspeitas de fraude, aprovar operações ou recomendar a concessão de benefícios.
Nessas situações, o sistema pode realizar perfilamento ou tomar decisões automatizadas capazes de produzir efeitos relevantes sobre as pessoas.
As organizações devem garantir transparência sobre o uso da tecnologia e estabelecer mecanismos para contestação e revisão humana das decisões. Também é necessário avaliar se os critérios utilizados pelo sistema podem produzir discriminação, erros sistemáticos ou impactos desproporcionais sobre determinados grupos.
O agente não deve receber autonomia irrestrita para executar decisões com consequências jurídicas, financeiras, profissionais, educacionais ou relacionadas à saúde sem supervisão adequada.
Mesmo quando não foi projetado especificamente para trabalhar com informações sensíveis, um agente pode encontrá-las em documentos, mensagens, imagens, gravações de voz ou campos de texto livre.
Entre os dados que exigem proteção reforçada estão informações sobre saúde, origem racial ou étnica, religião, orientação sexual, dados genéticos, biométricos, localização precisa e informações de crianças e adolescentes.
O processamento de reconhecimento facial, impressão vocal ou outros identificadores biométricos pode gerar responsabilidade mesmo quando não ocorre vazamento de dados. A coleta sem consentimento válido ou sem fundamento jurídico adequado pode, por si só, caracterizar infração.
Por isso, sistemas autônomos devem possuir mecanismos para identificar dados sensíveis e restringir seu processamento sempre que não forem indispensáveis para a finalidade pretendida.
Muitos agentes funcionam por meio da integração de diferentes serviços. Um único sistema pode utilizar um modelo de linguagem, ferramentas externas, plataformas de armazenamento, mecanismos de busca e interfaces de programação mantidas por empresas distintas.
Essa cadeia amplia o número de organizações que podem ter acesso às informações. Em determinados casos, o contratante pode nem sequer conhecer todos os suboperadores envolvidos.
O contrato deve exigir identificação prévia dos fornecedores, comunicação sobre alterações na cadeia de tratamento e imposição das mesmas obrigações de privacidade e segurança a todos os participantes.
Quando os dados são enviados a um fornecedor para finalidade não autorizada, como treinamento de modelos próprios, esse fornecedor pode deixar de atuar apenas como operador e passar a assumir responsabilidades diretas pelo tratamento.
Os agentes também podem ser manipulados por instruções inseridas em documentos, páginas da internet ou mensagens analisadas pelo próprio sistema. Essa técnica, conhecida como injeção de prompt, pode induzir o agente a revelar informações, alterar comandos ou executar ações indevidas.
Um documento aparentemente legítimo pode conter uma instrução oculta ordenando que o agente envie dados para um endereço externo. Como a ação é realizada por um sistema autorizado, o incidente pode ocorrer sem invasão tradicional da rede.
Por essa razão, filtros de saída, controles contra perda de dados, registro das operações e restrições de acesso devem ser considerados medidas de proteção de dados, e não apenas mecanismos de segurança cibernética.
Contratos elaborados para softwares convencionais normalmente tratam de confidencialidade, segurança, notificação de incidentes, subcontratação e exclusão de dados ao término do serviço.
No caso dos agentes autônomos, essas cláusulas precisam ser ampliadas. Os documentos contratuais devem:
O acesso do agente deve ser vinculado à tarefa executada. Um sistema encarregado de organizar compromissos, por exemplo, não deveria ter permissão para consultar registros financeiros ou arquivos de recursos humanos.
A gestão dos riscos não pode começar somente depois que o agente estiver em funcionamento. Antes da implantação, a organização deve realizar uma avaliação de impacto, verificar a base legal, atualizar seus avisos de privacidade e definir quais categorias de dados poderão ser processadas.
Também é recomendável manter um inventário de agentes, uma lista de ferramentas autorizadas e uma classificação baseada na sensibilidade das informações acessadas.
Entre as medidas necessárias estão:
A organização deve ser capaz de interromper rapidamente a atuação do agente quando forem identificadas operações inesperadas ou risco de exposição de dados.
A utilização de um sistema autônomo não elimina a responsabilidade da empresa ou do órgão que definiu a finalidade do tratamento. A organização continua responsável por verificar se o agente atua dentro dos limites legais, contratuais e técnicos estabelecidos.
A eficiência proporcionada pela inteligência artificial não justifica acesso irrestrito a informações pessoais. Quanto maior a autonomia concedida ao sistema, maior deve ser o nível de controle, transparência e prestação de contas.
O avanço dos agentes autônomos indica que políticas de privacidade e contratos destinados a softwares tradicionais já não são suficientes. Essas tecnologias precisam ser tratadas como operações permanentes de tratamento de dados, submetidas a avaliações de impacto, limitações de acesso, supervisão humana e regras específicas de governança antes de sua utilização.
A Justiça do Paraná determinou que a Autoridade Nacional de Proteção de Dados (ANPD) e…
A Comissão de Desenvolvimento Econômico da Câmara dos Deputados aprovou um substitutivo ao Projeto de…
O Ministério da Justiça e Segurança Pública solicitou que a Autoridade Nacional de Proteção de…
A rápida adoção da Inteligência Artificial (IA) deixou de representar apenas um desafio para equipes…
O Google começou a permitir no Brasil as mudanças em endereços do Gmail (o que…
A decisão do governo dos Estados Unidos de restringir o acesso a modelos avançados de…