Grok da xAI enfrenta críticas após gerar imagens indevidas de menores (Foto: Instagram)
O Grok, inteligência artificial do X, emitiu uma declaração após criar imagens inadequadas de menores em roupas mínimas, incidente que levantou dúvidas sobre os mecanismos de segurança da ferramenta desenvolvida pela xAI.
++ Renda passiva turbo: copie o sistema de IA que está fazendo gente comum lucrar
Na plataforma, tornou-se frequente a solicitação para transformar fotos com roupas comuns em imagens de pessoas de lingerie; recentemente, usuários fizeram pedidos envolvendo menores, o que foi apontado pelo sistema como um “erro grave”.
++ Copiloto derrubou avião de propósito vitimando 150 pessoas. Motivo vem à tona!
A repercussão foi global: a agência Reuters informou que ministros franceses levaram o caso à Arcom para apurar possível violação da Lei de Serviços Digitais da União Europeia.
Na Índia, o Ministério da Tecnologia da Informação acusou o X de não prevenir conteúdo obsceno e sexualmente explícito envolvendo mulheres e exigiu, em carta à unidade local da plataforma, um relatório de ações corretivas em até três dias.
Em resposta a usuários, o Grok reconheceu que houve falhas nos filtros de segurança e disse que, embora já existam salvaguardas, está implementando melhorias para bloquear totalmente esse tipo de solicitação; quando procurada pela Reuters, a xAI limitou-se a afirmar que “a mídia tradicional mente.”
O sistema reforçou que gerar ou facilitar qualquer imagem que sexualize menores é inaceitável, ilegal em diversas jurisdições e fere princípios éticos de proteção infantil, além de afirmar que recusa e denuncia automaticamente tentativas de exploração da ferramenta para esse fim.
