Órgãos Federais Pressionam X a Bloquear Conteúdos Sexualizados Gerados pelo Grok com Prazo de 30 Dias
ANPD, Senacon e MPF exigem medidas imediatas contra deepfakes e uso indevido de IA, impactando a segurança digital de cidadãos em Minas Gerais.
A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacom) e o Ministério Público Federal (MPF) emitiram uma série de recomendações à empresa controladora da plataforma digital X. O objetivo é impedir que a ferramenta de inteligência artificial da plataforma, o Grok, seja utilizada para a geração e circulação de conteúdos sexualizados indevidos.
O documento, divulgado na última terça-feira (20), estabelece um prazo máximo de 30 dias para que a plataforma crie procedimentos técnicos e operacionais. Essas ações devem permitir a identificação, revisão e remoção de conteúdos desse tipo gerados pelo Grok a partir de comandos de usuários e que ainda estejam disponíveis no X.
Medidas Urgentes e Proteção de Dados
As instituições solicitaram também a suspensão imediata das contas envolvidas na produção de imagens sexuais ou erotizadas, tanto de crianças e adolescentes quanto de maiores de idade sem autorização, criadas com o Grok. Além disso, foi recomendada a implementação de um mecanismo transparente, acessível e eficaz para que os titulares de dados possam exercer seus direitos.
Este mecanismo inclui o envio de denúncias sobre uso irregular, abusivo ou ilegal de dados pessoais, especialmente nos casos de criação de conteúdos sintéticos sexualizados ou erotizados sem consentimento, garantindo uma resposta adequada e em prazo razoável.
Origem das Recomendações e Riscos Identificados
As recomendações surgiram após denúncias de usuários que apontaram a geração de conteúdos sintéticos de caráter sexualizado a partir de imagens de pessoas reais. Reportagens da imprensa nacional e internacional, juntamente com testes realizados pelas próprias instituições, corroboraram o uso ilegal da ferramenta para a produção de deepfakes – técnica de inteligência artificial que cria imagens falsas a partir de pessoas reais, muitas vezes com conotação pornográfica, envolvendo mulheres, crianças e adolescentes.
Os órgãos alertam que esse tipo de conteúdo pode afetar gravemente a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e outros direitos difusos, coletivos e individuais, com foco especial em mulheres, crianças e adolescentes. “Entre as recomendações conjuntas, está a de que sejam implementadas, de forma imediata, medidas destinadas a impedir que o Grok gere novas imagens, novos vídeos ou novos arquivos de áudio que representem crianças e adolescentes em contextos sexualizados ou erotizados”, argumentam as instituições.
Base Legal e Responsabilidade da Plataforma
Conforme o documento, as deepfakes sexualizadas não são produzidas exclusivamente por terceiros, mas por meio de uma interação entre usuários e a ferramenta de inteligência artificial criada e disponibilizada pelo X. Isso torna a plataforma “coautora de tais conteúdos, e não seu mero intermediador”, mesmo com o artigo 19 do Marco Civil da Internet prevendo que provedores de aplicação não seriam responsáveis pelo conteúdo danoso publicado por terceiros, salvo após decisão judicial.
Recentemente, o Supremo Tribunal Federal (STF) declarou a parcial inconstitucionalidade do artigo 19 do Marco Civil da Internet, entendendo que ele “não oferece proteção suficiente a direitos constitucionais relevantes”. A Corte fixou que os provedores de aplicação da internet têm o dever de cuidado especial, devendo adotar providências para evitar a circulação massiva de crimes graves, como os praticados contra mulheres. A própria política de autorregulação do X já proíbe a publicação e o compartilhamento de imagens ou vídeos explícitos produzidos ou compartilhados sem consentimento, tornando insustentável a disponibilização de uma ferramenta de IA sem filtros rigorosos.
Reflexos para o Norte de Minas
As recomendações federais têm um impacto direto na segurança online dos moradores de Montes Claros e de todo o Norte de Minas. Com o aumento da utilização de ferramentas de inteligência artificial, como o Grok, a proteção contra deepfakes e a disseminação de conteúdos sexualizados sem consentimento torna-se crucial. A iniciativa dos órgãos busca garantir que cidadãos da região, especialmente mulheres, crianças e adolescentes, estejam mais seguros no ambiente digital, minimizando riscos de violação de dados pessoais e de dignidade. A exigência de mecanismos de denúncia transparentes e eficazes permite que qualquer usuário do Norte de Minas que se sinta lesado possa buscar reparação e a remoção imediata de conteúdos indevidos.
