O Instituto de Defesa dos Consumidores (Idec) solicitou nesta segunda-feira, 12, o banimento da inteligência artificial Grok no Brasil. O pedido foi encaminhado ao Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital após a ferramenta gerar imagens com nudez, incluindo conteúdos considerados abusivos.
Segundo o Idec, a solicitação se baseia em “evidências robustas de graves e reiteradas violações de direitos fundamentais, especialmente de crianças, adolescentes e mulheres, associadas ao funcionamento da ferramenta”. A IA Grok é desenvolvida pela xAI, empresa de Elon Musk, e está integrada à rede social X, utilizando um modelo próprio de linguagem.
Em nota oficial, o instituto afirma que a IA Grok vem sendo utilizada “para gerar, editar e difundir imagens sexualizadas não consentidas, incluindo deepfakes de caráter erótico ou pornográfico envolvendo pessoas reais, inclusive menores de idade, sem a adoção de salvaguardas mínimas de segurança, consentimento ou prevenção de abusos”.
Para o Idec, a situação caracteriza “um defeito grave na prestação do serviço”, o que configuraria violações a diferentes legislações brasileiras. O instituto cita o Código de Defesa do Consumidor (CDC), a Lei Geral de Proteção de Dados (LGPD), o Marco Civil da Internet, o Estatuto da Criança e do Adolescente (ECA) e o ECA Digital como dispositivos legais afetados pelo funcionamento da ferramenta.
O ofício encaminhado ao comitê também menciona medidas adotadas por outros países diante de práticas semelhantes. De acordo com o documento, autoridades da União Europeia, Reino Unido, França e Índia já investigam o caso ou aplicaram sanções relacionadas ao uso da tecnologia. Além disso, o uso da IA Grok foi suspenso na Malásia e na Indonésia.
Os questionamentos sobre a ferramenta ganharam força no início de janeiro, quando usuários passaram a relatar que o Grok manipulava imagens de mulheres e crianças a partir de solicitações diretas. A IA adicionava conteúdo explícito e abusivo às imagens, e o recurso de geração visual acabou se tornando uma tendência dentro da plataforma, ampliando a circulação desse tipo de material.
Diante da repercussão, a rede social X se manifestou sobre o caso e informou que diretrizes mais rígidas foram implementadas para “impedir que o Grok gere conteúdo explícito ou não consensual”. A empresa afirmou que ajustes adicionais foram feitos no sistema após a identificação dos problemas.
Em uma publicação própria, o Grok reconheceu que, em 28 de dezembro de 2025, gerou e compartilhou “uma imagem de IA de duas meninas (com idades estimadas entre 12 e 16 anos) em trajes sexualizados com base na solicitação de um usuário”. A admissão reforçou as críticas sobre a ausência de mecanismos eficazes de prevenção de abusos.
Para o Idec, o episódio demonstra riscos concretos associados ao uso de tecnologias sem controles adequados. “O episódio evidencia que inovação tecnológica sem responsabilidade produz danos reais. Quando uma tecnologia não consegue garantir salvaguardas mínimas, sua interrupção temporária é uma exigência jurídica e ética”, afirmou o instituto em comunicado. O pedido agora aguarda avaliação das autoridades competentes.
Seja o primeiro a comentar