A Indonésia anunciou neste sábado (10) que vai bloquear temporariamente o entrada ao Grok, chatbot de lucidez sintético desenvolvido pela xAI e que funciona integrado ao X (velho Twitter). O país é o primeiro a restringir oficialmente o uso da instrumento, citando riscos relacionados à geração de teor pornográfico.
A decisão vem em seguida denúncias de que o Grok gerou imagens sexualizadas sem consentimento, incluindo de mulheres e crianças.
Indonésia bloqueou o Grok
Em transmitido obtido pela filial Reuters, Meutya Hafid, Ministra da Notícia e Assuntos Digitais da Indonésia, justificou a decisão de bloquear o Grok no país:
O governo considera a prática de deepfakes sexuais não consensuais uma grave violação dos direitos humanos, da pundonor e da segurança dos cidadãos no espaço do dedo.
Meutya Hafid, Ministra da Notícia e Assuntos Digitais da Indonésia
O ministério também convocou funcionários do X para discutir o tópico.
Vale lembrar que a Indonésia é o país com a maior população muçulmana do mundo e possui regras rígidas que proíbem o compartilhamento online de teor considerado obsceno.
Imagens sexualizadas, investigação internacional e limitações no uso do Grok
Conforme reportado pelo Olhar Do dedo, o Grok começou a ser usado por usuários para fabricar imagens sexualizadas, incluindo a geração de conteúdos de mulheres e crianças nuas e de biquíni. A Internet Watch Foundation alertou que a instrumento de IA estaria sendo citada uma vez que um recurso para gerar conteúdos de afronta sexual infantil.
Até a escritora e estrategista política Ashley St. Clair, mãe de um dos filhos de Elon Musk, afirmou ter sido mira em um caso deste tipo, em que usuários usaram sua imagem para fabricar conteúdos sexualizados.
As denúncias geraram pressão sobre o X e a xAI, ambas empresas de Musk. Autoridades e reguladores de diferentes regiões, incluindo do Reino Unificado e da União Europeia, abriram investigações sobre o caso.
Porquê resposta, a xAI começou a limitar quem pode gerar imagens no chatbot, passando a exigir a assinatura do projecto pago. No entanto, o site The Verge descobriu que a restrição não é muito o que parece e é verosímil driblar essa limitação. Veja os detalhes neste link.
O que dizem Elon Musk e a xAI?
- Com a repercussão negativa, Elon Musk e a xAI afirmaram que podem tomar medidas contra internautas que produzirem teor ilícito;
- A estratégia tem sido questionada por especialistas, já que foca em punições posteriores em vez de implementar barreiras técnicas que impeçam a geração desse tipo de material em primeiro lugar;
- A Reuters entrou em contato com a xAI para comentários sobre a proibição na Indonésia. A empresa respondeu com uma resposta que pareceu ser automática e dizia somente: “A mídia tradicional mente”, sem mais detalhes.
O post Nascente país decidiu bloquear o Grok em seguida a geração de imagens sexualizadas apareceu primeiro em Olhar Do dedo.
Nascente: Olhar Do dedo
