Inovação Digital e Tecnologia na Centralidade do Cliente

Descubra os principais impactos do projeto de lei da IA na defesa do consumidor

O Senado debate nesta terça-feira (11), o projeto que regulamenta o uso da inteligência artificial no Brasil PL 2338/2023. A proposta inclui pontos que defendem os consumidores

O Senado debate nesta terça-feira (11), o projeto que regulamenta o uso da inteligência artificial no Brasil PL 2338/2023. O requerimento para o debate é do senador Eduardo Gomes (PL-TO), relator da proposta na Comissão Temporária Interna sobre IA. No último dia 7, ele apresentou novo parecer sobre o projeto, que pode ser votado no Plenário da Casa na quarta-feira (12).

A proposta é abrangente, porém destaca pontos relacionados à defesa do consumidor, tais como direitos à supervisão, contestação e revisão, entre outros pontos.

Transparência e Informação

Uma das principais preocupações da regulação é garantir que os consumidores sejam informados de maneira clara e precisa sobre suas interações com sistemas de IA. Por exemplo, a proposta proíbe a publicação de mensagens publicitárias que utilizem IA para manipular imagens ou voz de pessoas, vivas ou falecidas, sem consentimento prévio e explícito do titular. Além disso, essas mensagens devem informar claramente ao consumidor que a imagem ou voz foi manipulada por IA.

Direito à Informação e Supervisão Humana

A regulação reforça o direito dos consumidores à informação prévia sobre interações com sistemas de IA. As empresas devem fornecer detalhes sobre como os dados dos consumidores são usados e protegidos, em conformidade com a Lei Geral de Proteção de Dados Pessoais (LGPD). Além disso, os consumidores têm o direito de solicitar intervenção humana em decisões automatizadas, garantindo supervisão e responsabilidade.

O que seria na prática: Um consumidor utiliza um assistente virtual de um banco para gerenciar suas finanças. O banco deve informar ao consumidor que está interagindo com um sistema de IA e fornecer detalhes sobre como seus dados são usados e protegidos, assegurando a privacidade conforme a LGPD.

Direito de Contestação e Revisão

O projeto de lei

Os consumidores também têm o direito de contestar e solicitar a revisão de decisões automatizadas que produzam efeitos jurídicos relevantes. Por exemplo, se um sistema de IA negar um empréstimo a um consumidor, este tem o direito de obter uma explicação detalhada sobre a decisão e solicitar revisão humana.

O que seria na prática: Um consumidor é negado um empréstimo baseado em uma decisão automatizada de um sistema de IA. O consumidor tem o direito de obter uma explicação detalhada sobre a decisão e pode contestá-la, solicitando revisão humana, garantindo justiça e transparência no processo.

Supervisão e Responsabilidade Humana

A proposta de regulação garante que sistemas de IA de alto risco estejam sujeitos à supervisão humana. Isso é crucial em cenários onde decisões automatizadas podem ter impactos significativos na vida dos consumidores, como diagnósticos médicos ou decisões financeiras.

O que seria na prática: Um consumidor usa um aplicativo de diagnóstico médico que recomenda um tratamento baseado em IA. Há supervisão humana para garantir que as recomendações do sistema de IA sejam seguras e precisas. O consumidor pode solicitar que um médico revise e valide o diagnóstico e o tratamento sugerido.

+ mais lidas

Capital Humano: as voltas (e reviravoltas) no mundo da Anna, do iFood

Como a exclusão de Bets afeta as empresas financeiras

ABES Summit 2024: transformação digital e inovação em foco no evento anual da ABES

Capital Humano: as voltas (e reviravoltas) no mundo da Anna, do iFood

Como a exclusão de Bets afeta as empresas financeiras

ABES Summit 2024: transformação digital e inovação em foco no evento anual da ABES