A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) e o Ministério Público (MPF) emitiram nessa terça-feira (20) recomendações à empresa responsável pela plataforma X para que a ferramente de inteligência Grok não seja utilizada na produção e disseminação de contéudos sexualizados indevidos. A medida foi anunciada após denúncias de usuários e testes realizados pelas próprias instituições.
Entre as recomendações, está a criação, de procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos desse tipo que ainda estejam disponíveis na plataforma, quando gerados pelo Grok a partir do comando dos usuários.
As instituições também pedem a suspensão imediata das contas envolvidas na produção de imagens sexuais ou erotizadas, tanto de crianças e adolescentes quanto adultos, sem autorização, feitas por meio da ferramenta.
Outra medida sugerida é a implementação de um mecanismo “transparente, acessível e eficaz” para que os titulares de dados possam exercer seus direitos, incluindo a possibilidade de denúncia de uso irregular, abusivo ou ilegal de dados pessoais, especialmente nos casos de criação de conteúdos sintéticos sexualizados sem consentimento.
As autoridades apontam que o funcionamento da ferramenta viola princípios fundamentais da Lei Geral de Proteção de Dados (LGPD), como os da boa-fé, da finalidade e do melhor interesse da criança e do adolescente.
Notícias Relacionadas
Além disso, a ANPD, o MPF e a Senacon avaliam que a conduta da plataforma é contraditória, já que o sistema permite práticas que as próprias políticas internas do X proíbem, como a produção de nudez não consensual e conteúdos de exploração sexual infantil.
No documento, as instituições recomendam que a X Brasil Internet Ltda. adote uma série de medidas, entre elas:
- Implementar barreiras técnicas para impedir que o Grok gere imagens, vídeos ou áudios sexualizados de menores de idade ou de adultos sem autorização;
- Identificar e excluir, no prazo de até 30 dias, conteúdos dessa natureza que ainda estejam disponíveis na plataforma;
- Suspender de forma imediata e permanente contas que utilizem a ferramenta para criar ou compartilhar exclusivamente deepfakes não consensuais;
- Elaborar um Relatório de Impacto à Proteção de Dados Pessoais (RIPD) específico sobre o uso da inteligência artificial, além de criar mecanismos acessíveis para denúncias de pessoas afetadas.
A nota técnica levou em consideração denúncias feitas pela deputada federal Erika Hilton (PSOL-SP), pelo Instituto Brasileiro de Defesa do Consumidor (Idec) e pela Secretaria de Políticas Digitais da Secretaria de Comunicação Social da Presidência da República.
