Há um mês entrou em vigor, na cidade de Nova York, uma lei que exige “auditorias de viés” em empresas que usam Inteligência Artificial (IA) para selecionar currículos de candidatos e determinar promoções de funcionários.
De modo geral, a regulamentação determina a todas as empresas e agências de empregos que usam “instrumentos automatizados” para contratação que realizem auditorias de viés anualmente em seus algoritmos, além de torná-las públicas. As análises devem ser feitas por auditores independentes e as empresas precisam informar os candidatos sobre tal uso.
No Brasil, o projeto de lei 2.338/23, que tramita no Senado e propõe regular o uso da IA no país – embora bem mais abrangente que a legislação de Nova York – também prevê transparência e auditorias no contexto do uso de IA para contratações e decisões de emprego.
Para falar sobre auditorias de IA e o PL 2.338, a reportagem da Inovativos conversou com o advogado especialista em direito digital Fabrício da Mota Alves, representante do Senado Federal no Conselho Nacional de Proteção de Dados Pessoais e da Privacidade, órgão que compõe a Autoridade Nacional de Proteção de Dados (ANPD).
Confira a entrevista com Fabrício da Mota Alves:
Inovativos – Qual sua opinião sobre a recente lei de Nova York que exige auditorias de viés?
Fabrício – Vejo como uma tendência mais do que correta. Estamos em uma fase de ampla utilização da IA e as consequências ainda não são muito claras para as pessoas, já que não há transparência suficiente sobre o uso dessas ferramentas. A falta de transparência nos impede de compreender as decisões que são tomadas a nosso respeito, sobre as quais não temos controle algum, nem condições de contestação. Por outro lado, só a transparência também não vai resolver a questão. É preciso que a tecnologia a ser desenvolvida se utilize de informações e produza resultados que não sejam enviesados.
Inovativos – Quais as diferenças entre a legislação de Nova York e o PL 2.338/23, do senador Rodrigo Pacheco (PSD-MG)?
Fabrício – A legislação de Nova York é muito específica, mais voltada para o espectro da contratação, enquanto o PL do senador Pacheco traz um aspecto mais amplo. Inclusive uma das críticas que estamos recebendo no Senado é que o propósito do PL é criar uma espécie de lei geral da IA no país.
Inovativos – Como o PL 2.338 aborda a questão da auditoria?
Fabrício – O PL 2.338 aborda a auditoria, ou avaliação de impacto algorítmico, como uma necessidade para os modelos de IA que ofereçam um risco maior. Assim, quando a IA oferecer um risco elevado de afetar direitos fundamentais e direitos do indivíduo, passa a ser obrigatória a realização da auditoria antes da empresa ofertar ou até mesmo desenvolver a tecnologia.
Inovativos – As auditorias são iniciativas das próprias empresas, são pessoas que solicitam, enfim, como é esse processo?
Fabrício – No caso de uma legislação, a auditoria cria um mecanismo legal que estabelece direitos de um lado e obrigações de outro. Quando ainda não há uma legislação, como no caso do Brasil, seria um erro dizer que não há como contestar uma ferramenta de IA que faça processo seletivo hoje, já que existem princípios na própria Constituição e elementos na CLT que dão fundamentos para pleitear uma verificação em juízo perante empresas que selecionam candidatos. É importante ressaltar que metodologias e critérios de seleção sempre foram um problema. Não é só a IA que está sujeita a isso. O que nós temos agora é uma possibilidade de questionar a ferramenta. Isso pode partir do próprio interessado, de órgãos de controle, sindicatos, associações. Também há auditorias que podem partir de empresas que se relacionam com outras empresas, para verificar o nível de maturidade, de valor ético.
Inovativos – E quanto às autoridades regulatórias? Os auditores independentes possuem conhecimento técnico suficiente sobre a tecnologia?
Fabrício – O ideal é que se tenha pessoas realmente capacitadas e com expertise necessária. A auditoria só terá validade se efetivamente for realizada por quem seja capacitado, com experiência teórica e prática pra isso, senão o sistema não vai funcionar.
Inovativos – Quem faria essa auditoria de IA no Brasil? Seria a ANPD?
Fabrício – A ANPD já publicou uma nota técnica afirmando que vai trabalhar a regulação de dados pessoais no elemento da IA, no recorte de privacidade. Inclusive a IA está na agenda regulatória da ANPD. Mas a ANPD tem que ter o cuidado de entender que o assunto é novo e que é preciso estar preparado não somente para regular, como também verificar se não vai extrapolar os elementos de sua competência legal.
Inovativos – Com base em auditorias que vêm sendo realizadas, o que normalmente é analisado?
Fabrício – O mecanismo de avaliação varia bastante, já que cada tecnologia tem uma funcionalidade própria. De modo geral, no aspecto da transparência, por exemplo, um dos principais pontos é compreender qual a característica da base de dados, a maneira pela qual eles foram coletados e os critérios utilizados. Em relação ao algoritmo, de que maneira ele foi desenvolvido, quais os mecanismos para evitar os vieses que estão sendo adotados. Quanto ao viés, a auditoria pode verificar se há, por exemplo, um conjunto de dados que é incompatível com a metodologia adequada para se obter determinado resultado do processamento da informação.
Inovativos – Em que fase está atualmente o PL no Senado? Quais os próximos passos?
Fabrício – A partir deste mês ele deve avançar com a criação da Comissão Especial de IA. Essa comissão vai trabalhar todos os PLs que tratam de IA no Senado. Acredito que ela deve ser instalada ainda este mês.
