O Senado debate nesta terça-feira (11), o projeto que regulamenta o uso da inteligência artificial no Brasil PL 2338/2023. O requerimento para o debate é do senador Eduardo Gomes (PL-TO), relator da proposta na Comissão Temporária Interna sobre IA. No último dia 7, ele apresentou novo parecer sobre o projeto, que pode ser votado no Plenário da Casa na quarta-feira (12).
A proposta é abrangente, porém destaca pontos relacionados à defesa do consumidor, tais como direitos à supervisão, contestação e revisão, entre outros pontos.
Transparência e Informação
Uma das principais preocupações da regulação é garantir que os consumidores sejam informados de maneira clara e precisa sobre suas interações com sistemas de IA. Por exemplo, a proposta proíbe a publicação de mensagens publicitárias que utilizem IA para manipular imagens ou voz de pessoas, vivas ou falecidas, sem consentimento prévio e explícito do titular. Além disso, essas mensagens devem informar claramente ao consumidor que a imagem ou voz foi manipulada por IA.
O que seria na prática: Um consumidor vê um anúncio online de um produto utilizando a imagem de um famoso falecido. A empresa deve obter consentimento prévio para usar a imagem e informar claramente ao consumidor que a imagem foi manipulada por IA, evitando publicidade enganosa.
Direito à Informação e Supervisão Humana
A regulação reforça o direito dos consumidores à informação prévia sobre interações com sistemas de IA. As empresas devem fornecer detalhes sobre como os dados dos consumidores são usados e protegidos, em conformidade com a Lei Geral de Proteção de Dados Pessoais (LGPD). Além disso, os consumidores têm o direito de solicitar intervenção humana em decisões automatizadas, garantindo supervisão e responsabilidade.
O que seria na prática: Um consumidor utiliza um assistente virtual de um banco para gerenciar suas finanças. O banco deve informar ao consumidor que está interagindo com um sistema de IA e fornecer detalhes sobre como seus dados são usados e protegidos, assegurando a privacidade conforme a LGPD.
Direito de Contestação e Revisão
Os consumidores também têm o direito de contestar e solicitar a revisão de decisões automatizadas que produzam efeitos jurídicos relevantes. Por exemplo, se um sistema de IA negar um empréstimo a um consumidor, este tem o direito de obter uma explicação detalhada sobre a decisão e solicitar revisão humana.
O que seria na prática: Um consumidor é negado um empréstimo baseado em uma decisão automatizada de um sistema de IA. O consumidor tem o direito de obter uma explicação detalhada sobre a decisão e pode contestá-la, solicitando revisão humana, garantindo justiça e transparência no processo.
Supervisão e Responsabilidade Humana
A proposta de regulação garante que sistemas de IA de alto risco estejam sujeitos à supervisão humana. Isso é crucial em cenários onde decisões automatizadas podem ter impactos significativos na vida dos consumidores, como diagnósticos médicos ou decisões financeiras.
O que seria na prática: Um consumidor usa um aplicativo de diagnóstico médico que recomenda um tratamento baseado em IA. Há supervisão humana para garantir que as recomendações do sistema de IA sejam seguras e precisas. O consumidor pode solicitar que um médico revise e valide o diagnóstico e o tratamento sugerido.
