X não teria comprovado que agiu contra erotização do Grok

Siga o Olhar Do dedo no Google Discover

O governo federalista e o Ministério Público Federalista (MPF) concluíram que o X não comprovou ter adotado medidas eficazes para sustar a geração e a disseminação de imagens eróticas geradas pelo Grok, instrumento que adultera fotos sem consentimento, conforme informações do g1.

Segundo as autoridades, as informações apresentadas pela empresa “não foram acompanhadas de evidências concretas” e testes indicam que ainda é verosímil gerar e compartilhar imagens sexualizadas sem autorização.

O caso está sob estudo da Escritório Vernáculo de Proteção de Dados (ANPD), do MPF e da Secretaria Vernáculo do Consumidor (Senacon).

Desde o término do ano pretérito, milhares de denúncias surgiram em diversos países relatando que a instrumento atende a pedidos de usuários para modificar imagens publicadas por mulheres nas redes sociais, fazendo com que elas apareçam nuas ou de biquíni, por exemplo. Ao menos duas brasileiras afirmam ter sido vítimas desses deepfakes.

X não cumpre o que lhe foi ordenado

• Em 20 de janeiro, ANPD, MPF e Senacon recomendaram que o X impedisse esse tipo de adulteração feita pelo Grok;
• A plataforma, que pertence ao bilionário Elon Musk, informou ter removido milhares de publicações com essas imagens e suspendido centenas de contas por violação de suas políticas;
• No entanto, a avaliação das autoridades brasileiras foi de que as informações fornecidas pela empresa “não foram acompanhadas de evidências concretas, relatórios técnicos ou mecanismos de monitoramento que permitam medir sua efetividade”;
• De negócio com os órgãos, testes realizados por suas equipes técnicas indicaram que a rede social ainda permite a geração e o compartilhamento, sem consentimento, de imagens sexualizadas ou erotizadas envolvendo crianças, adolescentes e adultos.

O MPF afirmou que a empresa não foi transparente e determinou que o X apresente relatórios mensais detalhando sua atuação para evitar a produção desse tipo de teor. A ANPD também exigiu que a plataforma enumere as providências adotadas para solucionar o problema e apresente evidências passíveis de verificação pelas autoridades.

Leia mais:

Novo prazo para o X

A ANPD e a Senacon estabeleceram um novo prazo de cinco dias úteis para que o X aprimore e implemente medidas capazes de impedir que o Grok crie esse tipo de teor. As ações adotadas deverão ser explicadas dentro desse período. O ofício não informa quando a relato do prazo teve início.

Caso a preceito não seja cumprida, a empresa poderá tolerar sanções mais severas, incluindo multas. Os envolvidos também podem responder pelo violação de insubmissão. O MPF ainda poderá aprofundar as investigações, o que pode resultar em ação judicial para reparação de eventuais danos causados pela geração das imagens.

Investigações na Europa

A atuação do X também é cândido de apurações na Europa. No dia 3 deste mês, foram realizadas buscas nos escritórios da empresa na França a mando do Ministério Público de Paris e pela polícia francesa, no contexto de uma investigação prévio que apura supostos crimes, entre eles a disseminação de pornografia infantil e de deepfakes.

A adulteração de imagens pelo Grok também está sendo investigada no Reino Unificado e na União Europeia.

O Grok é desenvolvido pela xAI também de Musk. No início do mês, o empresário anunciou a fusão da xAI com a SpaceX, companhia do setor aeroespacial que também lhe pertence. A operação deverá gerar um negócio trilionário. A SpaceX deve estrear na bolsa de valores de Novidade York ainda neste ano.