IA íntima ilegal: Brasil cria regras e punições severas

O governo federal, por meio de uma proposta elaborada pela Secretaria Nacional de Direitos Digitais (Sedigi), avança com um decreto inovador para combater a violência contra a mulher no ambiente digital. A minuta, que já recebeu a aprovação dos ministros da Justiça, Márcia Lopes das Mulheres, e Sidônio Palmeira da Secretaria de Comunicação Social da Presidência, busca proteger a dignidade e a privacidade feminina em um cenário de crescente criminalidade online, estabelecendo dez tipos de agressões virtuais e impondo novas obrigações às plataformas digitais, com foco em conteúdos gerados por Inteligência Artificial.

A medida, cujo rascunho foi obtido pelo Estadão, visa endurecer o combate à violência de gênero na internet, abordando desde a disseminação de discurso de ódio até a manipulação de imagens por IA. Este passo representa um marco crucial na defesa dos direitos das mulheres, buscando mitigar os efeitos devastadores da exposição indevida, assédio e crimes cibernéticos que afetam milhares diariamente.

Os dez tipos de violência digital

Liderado pela Sedigi, responsável pela regulamentação do ECA Digital, o texto em análise no governo estabelece dez categorias de violência contra a mulher no ambiente digital, alinhadas às leis já em vigor no País. Essa classificação detalhada busca abranger a complexidade das agressões virtuais e fornecer base para ações de combate mais eficazes.

• Violência doméstica e familiar: Inclui violência psicológica praticada por mensagens, publicações, perseguição digital, vigilância online, isolamento ou outras formas de controle tecnológico.
• Violência política contra mulher: Abarca assédio, constrangimento, humilhação, perseguição ou ameaça a candidatas ou detentoras de mandato eletivo no ambiente digital, com menosprezo à condição feminina.
• Ameaça qualificada: Qualquer ameaça direcionada à mulher por razão de gênero, intensificada pelo meio digital.
• Perseguição (stalking): Realizada por meios digitais, incluindo monitoramento de redes sociais, envio reiterado de mensagens e uso de tecnologias de rastreamento.
• Violência psicológica: Engloba situações praticadas mediante uso de inteligência artificial ou recurso tecnológico que altere imagem ou som da vítima, gerando sofrimento emocional.
• Divulgação de cenas íntimas: Distribuição de cenas de sexo, nudez ou ato libidinoso, sem consentimento, pela internet.
• Registro não autorizado de cenas íntimas: Criação de imagens de nudez, ato sexual ou libidinoso de caráter íntimo e privado sem permissão, mesmo que por montagem ou uso de inteligência artificial.
• Crimes contra a honra: Calúnia, difamação e injúria praticadas contra a mulher por meio de rede social ou aplicativo de mensagens.
• Importunação sexual: Atos de importunação praticados por meio digital.
• Crimes de misoginia: Difusão de ódio ou aversão às mulheres praticados pela rede mundial de computadores, sujeitos à investigação pela Polícia Federal.

Conteúdos íntimos e Inteligência Artificial

O decreto classifica como "íntimos" imagens, vídeos e áudios que representem uma pessoa em situação de nudez, seminudez, ato sexual ou em contexto sexualizante. A inovação reside na inclusão explícita de conteúdos produzidos ou manipulados, ainda que parcialmente, por inteligência artificial ou outras ferramentas tecnológicas, reconhecendo os novos desafios impostos por essas tecnologias.

Para a produção e manipulação desses materiais por IA, o texto exige rigorosas condições para proteger a imagem e a dignidade das vítimas:

• Consentimento prévio: Indispensável da pessoa retratada.
• Marca d’água digital: As plataformas deverão inserir um selo indicando que o conteúdo foi gerado ou modificado por IA.
• Metadados: Inclusão de informações sobre a proveniência do conteúdo artificial, permitindo identificar sua origem e autenticidade.
• Registros de pedidos: As plataformas deverão manter históricos detalhados dos pedidos de geração ou modificação de conteúdo íntimo, com dados que identifiquem o solicitante.
• Canal de denúncia: Obrigação de oferecer um meio gratuito, de fácil acesso e com acompanhamento para as vítimas denunciarem abusos.

Retirada de conteúdo do ar: prazo e fiscalização

Um dos pontos cruciais do decreto é o prazo para a remoção de conteúdos. O texto estabelece que materiais íntimos produzidos fora das regras devem ser retirados do ar em até 12 horas após a notificação das vítimas ou de seus responsáveis. Essa agilidade é fundamental para minimizar o sofrimento e a propagação do material ilícito. Além disso, as plataformas deverão remover conteúdos veiculados com o propósito de expor sexualmente mulheres identificáveis ou praticar violência psicológica.

Antes de bloquear o conteúdo, a plataforma tem a obrigação de guardar registros técnicos e metadados, cruciais para comprovar o ilícito e identificar os autores. Órgãos como o Ministério Público e as defensorias públicas também terão o poder de notificar extrajudicialmente as plataformas para a retirada desses conteúdos.

Próximos passos para a publicação

A minuta do decreto, embora já aprovada pelos três ministros mencionados, ainda está em fase de ajustes e necessita da aprovação final da Casa Civil. Devido à sensibilidade do tema e à sua abrangência, o governo está aprimorando os termos antes da assinatura do presidente Luiz Inácio Lula da Silva e sua consequente publicação. A reportagem questionou a Secretaria de Comunicação da Presidência (Secom) sobre o prazo para a assinatura, mas não obteve resposta até o fechamento desta matéria.

Para a fiscalização da aplicação do decreto, a responsabilidade caberá à Agência Nacional de Proteção de Dados (ANPD), órgão que também monitora o ECA Digital. A ANPD, que conta com cerca de 500 servidores e terá um incremento de 200 novos cargos, terá um papel central em garantir o cumprimento das novas regras e a proteção dos direitos das mulheres no ciberespaço.