A China anunciou novas diretrizes que padronizam a rotulagem de conteúdo gerado por IA, ou seja, qualquer texto produzido por empresas ou ainda estudos acadêmicos – algo que tem ocorrido nos últimos anos nas universidades – produzidos por tecnologias como o ChatGPT.
Intitulado “Medidas de Rotulagem de Conteúdo Sintético Gerado por IA”, a norma ainda em discussão visa promover o desenvolvimento da IA no país, proteger os direitos dos cidadãos e garantir a preservação do interesse público, de acordo com a Lei de Segurança Cibernética da República Popular da China (RPC).
De acordo com a proposta, provedores de serviços de informação on-line que utilizam IA para gerar conteúdo, como texto, imagens, vídeos e áudios, deverão adotar práticas claras de rotulagem para sinalizar a origem do material sintético.
Essas regras, no entanto, não se aplicam a organizações industriais, instituições de ensino ou empresas que desenvolvem a tecnologia para um público externo, ou seja, fora da China. A regra é válida para o conteúdo que circule no território chinês.
Rotulagem explícita e implícita
As medidas exigem que o conteúdo gerado por IA seja identificado de forma clara, tanto para os usuários quanto para os provedores de serviços. E essa identificação vai ocorrer de duas formas: rotulagem implícita e a rotulagem explícita.
A rotulagem explícita inclui a adição de notificações visíveis como texto ou símbolos em vídeos, imagens ou áudios. Já a rotulagem implícita se refere à inclusão de metadados que indicam a origem e as características do conteúdo, algo que não é imediatamente perceptível para os usuários, mas que pode ser verificado tecnicamente.
Essas novas diretrizes também estabelecem que, ao disponibilizar conteúdo sintético para download ou exportação, os provedores devem garantir que os arquivos contenham esses rótulos de maneira clara.
Controle rígido ou necessário
Embora as medidas visam a transparência e proteção dos consumidores, elas também levantam questões polêmicas sobre o controle do Estado sobre o uso da IA.
Enquanto países ocidentais ainda debatem como regulamentar a IA, a China adota uma abordagem altamente centralizada, exigindo que todos os provedores de serviços on-line incluam rótulos obrigatórios em qualquer conteúdo gerado por IA para o público interno, mesmo quando este não seja facilmente perceptível.
Isso significa que empresas globais que atuam na China, e até startups, terão de se adaptar às regras locais. A imposição de rótulos explícitos e implícitos em todos os níveis pode não só encarecer o uso dessas tecnologias, mas também levantar preocupações sobre privacidade, uma vez que todos os metadados, inclusive os responsáveis pela geração do conteúdo, serão rastreados e, em tese, poderão ser monitorados pelo governo.
Proteção contra abusos e fraudes
As plataformas de transmissão de conteúdo online terão a responsabilidade de verificar se os arquivos contém os rótulos necessários e, quando identificarem conteúdo suspeito, deverá sinalizá-lo como sintético. Além disso, o uso de ferramentas para alterar ou remover maliciosamente os rótulos é estritamente proibido, a fim de evitar fraudes e garantir a transparência.
Garantia de conformidade
Os provedores de serviços que não cumprirem as normas estabelecidas podem enfrentar punições severas. As sanções variam desde a aplicação de multas até a suspensão de serviços, dependendo da gravidade das violações.
Não há uma previsão de quando a norma entrará em vigor.
