O Ministério Público Federal (MPF), a Autoridade Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) consideraram insuficientes as respostas apresentadas pela plataforma X sobre o uso indevido de sua ferramenta de inteligência artificial Grok para gerar e disseminar imagens sexualizadas sem autorização.
No mês passado, as três instituições emitiram recomendações cobrando a adoção de procedimentos técnicos e operacionais capazes de identificar, revisar e remover conteúdos desse tipo produzidos por comandos de usuários à ferramenta.
Em resposta, a X informou ter removido milhares de publicações e suspenso centenas de contas, além de alegar ter adotado medidas de segurança. Contudo, MPF, ANPD e Senacon apontaram ausência de evidências concretas, relatórios técnicos ou mecanismos de monitoramento que comprovem a eficácia dessas ações. Testes preliminares das equipes técnicas das instituições indicaram a continuidade da geração e circulação de conteúdos incompatíveis com as recomendações.
Em nova manifestação divulgada nesta quarta-feira (11), os órgãos determinaram que a X implemente de imediato medidas efetivas para impedir que o Grok produza conteúdo sexualizado ou erotizado de crianças e adolescentes e de adultos sem consentimento.
As autoridades também exigiram informações detalhadas sobre as providências já adotadas pela empresa. O MPF exigiu, ainda, o envio de relatórios mensais, a partir de fevereiro, contendo dados sobre as ações da plataforma para impedir e reprimir deepfakes envolvendo menores e adultos sem autorização, com a indicação do número de postagens removidas e de contas suspensas em cada período.
ANPD, MPF e Senacon atuam de forma coordenada na investigação, enquanto mantêm procedimentos administrativos próprios contra a plataforma, conforme suas competências.
A ANPD determinou que as salvaguardas contra o uso indevido da ferramenta abrangem todas as versões, planos e modalidades do Grok.
O MPF advertiu que o não cumprimento das determinações pode acarretar multa diária, possibilidade de responsabilização por crime de desobediência, medidas investigatórias mais severas e ações judiciais.
Em medida cautelar administrativa, a Senacon cobrou comprovação das providências adotadas e exigiu o envio de um relatório métrico detalhado. O documento deve conter dados quantitativos verificáveis sobre identificação, moderação, remoção e indisponibilização de conteúdos sexualizados relacionados ao funcionamento do Grok, incluindo número de conteúdos identificados e removidos, prazos médios de resposta, critérios técnicos utilizados e eventual adoção de medidas corretivas, como suspensão de contas ou restrição de funcionalidades.
A reportagem tenta contato com a assessoria da X no Brasil para obter posicionamento sobre a nova manifestação conjunta do MPF, da ANPD e da Senacon.
