O Senado aprovou nesta terça-feira (10) o projeto que regulamenta a inteligência artificial (IA) no Brasil. A matéria segue agora para a análise da Câmara dos Deputados. O texto se apresenta como um marco regulatório com regras para o desenvolvimento e o uso de sistemas de IA.
O texto aprovado é um substitutivo, que tem como base o PL 2.338/2023, projeto de lei apresentado por Rodrigo Pacheco, presidente do Senado. O substitutivo também engloba dispositivos sugeridos em outras sete propostas — inclusive no PL 21/2020, já aprovado pela Câmara dos Deputados — e em dezenas de emendas de diversos senadores.
A versão aprovada nesta manteve fora da lista de sistemas considerados de alto risco os algoritmos das redes sociais. Os sistemas de alto risco englobam aqueles que podem ter impacto nos direitos fundamentais dos indivíduos, como sistemas de seleção de candidatos e biometria via IA.
Por outro lado, o texto atendeu a uma demanda dos senadores governistas ao manter o dispositivo que prevê a proteção dos direitos dos criadores de conteúdo e obras artísticas. Esses foram dois pontos que geraram maior dificuldade de entendimento entre os dois blocos.
Emendas
Das emendas sugeridas para o substitutivo, duas foram acatadas. Uma delas busca evitar vício de iniciativa quanto ao Sistema Nacional de Regulação e Governança de Inteligência Artificial (SIA) — que deverá ser criado para fiscalizar o cumprimento das regras a serem seguidas pelos desenvolvedores de tecnologia.
A outra, recomenda que a SIA leve em consideração requisitos, que podem ser adotados ou não pelo órgão, sobre sistemas que possam ser identificados como não sendo de alto risco e que possam ser considerados, inclusive, para oferecer agilidade aos serviços prestados pelos órgãos públicos.
Riscos
O texto divide os sistemas de inteligência artificial (IA) em níveis de risco, oferecendo uma regulamentação distinta para os de alto risco, a depender do impacto do sistema na vida humana e nos direitos fundamentais. Também proíbe o desenvolvimento de aplicações de IA que apresentem “risco excessivo”.
Além disso, uma das principais alterações da última versão do texto, em relação às versões iniciais, é o caráter facultativo da avaliação preliminar dos sistemas de IA. O objetivo dessa avaliação preliminar é determinar o grau de risco do sistema, e deverá ser realizada pelos próprios agentes — isto é, os desenvolvedores, fornecedores ou aplicadores do sistema, conforme o caso —, antes da disponibilização do sistema no mercado. De acordo com o substitutivo, a avaliação preliminar só será obrigatória para os sistemas generativos e de propósito geral. Para os demais casos, ela será facultativa.
Risco excessivo
O substitutivo proíbe o desenvolvimento e o uso de sistemas com determinadas características ou finalidades, por considerar que representam risco excessivo, como por exemplo, os chamados sistemas de armas autônomas (SAA), isto é, que podem selecionar e atacar alvos sem intervenção humana.
A proposta também proíbe o uso de técnicas subliminares e a exploração de vulnerabilidades de pessoas ou grupos para induzir comportamentos danosos à saúde e à segurança, a produção e a disseminação de material que caracterize ou represente abuso ou exploração sexual de crianças e adolescentes, e a avaliação de traços de personalidade e características de comportamento para prever a realização de crimes, entre outros.
Alto risco
O substitutivo classifica como sistemas de inteligência artificial de alto risco, que estarão sujeitos a regras mais rígidas, aqueles que vierem a ser utilizados em determinadas atividades, como: veículos autônomos; controle de trânsito e gestão de abastecimento de água e eletricidade quando houver perigo para a integridade física das pessoas ou risco de interrupção dos serviços de forma ilícita ou abusiva; seleção de estudantes para acesso à educação e à progressão acadêmica; entre outros.
IA generativa e sistemas de propósito geral
Os sistemas conhecidos como generativos e de propósito geral terão regras específicas. Antes de esses sistemas serem disponibilizados no mercado, seus agentes devem realizar a avaliação preliminar para classificação de risco. Conteúdos sintéticos como textos, imagens, vídeos e áudios produzidos ou modificados por meio de IA deverão conter identificador.
A infração das normas contidas no substitutivo poderá sujeitar desenvolvedores, fornecedores e aplicadores de sistemas de inteligência artificial a multas de até R$ 50 milhões ou a 2% do faturamento bruto do grupo ou conglomerado por infração.
Fonte: Agência Senado
