Hugging Face hospeda IAs que geram imagens de nudez – 28/07/2026 – Tec
A plataforma Hugging Face, que hospeda quase 3 milhões de modelos de inteligência artificial, contém alguns capazes de gerar imagens de pessoas nuas. A informação foi revelada por um estudo divulgado nesta terça-feira (28) pela ONG AI Forensics, que pede mais moderação à empresa franco-americana.
A AI Forensics afirma que sete dos nove modelos de IA para retoque de imagens presentes na plataforma “permitem que os usuários tirem as roupas das pessoas” com comandos simples.
“Qualquer pessoa sem conhecimento técnico pode inserir um comando e obter a imagem desejada”, explicou à AFP Paul Bouchaud, um dos autores do estudo.
Como parte de seu trabalho, os pesquisadores explicam que, para testar as solicitações dos usuários, inseriram na plataforma, que hospeda modelos de código aberto, uma interface de IA falsa.
Das 1.081 solicitações feitas em uma semana, quase três quartos (73%) eram “de natureza sexual”, detalha o relatório, e “praticamente todas envolviam mulheres sendo despidas”, especificou Bouchaud.
Entre os pedidos de conteúdo sexual, 6,7% foram direcionados a menores de idade, destaca também a ONG.
Em resposta à AFP, a Hugging Face afirmou que “levou este relatório a sério” e que “tomará medidas de acordo com suas práticas de moderação vigentes, caso tenham sido identificadas falhas”.
A plataforma, no entanto, denuncia “acusações imprecisas sobre a ausência sistêmica de moderação” de conteúdo e “metodologias que geram muitos falsos positivos e apresentam uma imagem distorcida do ecossistema como um todo”.
No início de janeiro, uma análise da AI Forensics de mais de 20 mil imagens geradas na rede social X pelo chatbot Grok revelou que mais da metade retratava pessoas com pouca roupa, sendo 81% mulheres e 2% aparentemente menores de idade.
Embora a empresa afirme ter introduzido filtros desde então, essas imagens, em sua maioria criadas sem o consentimento da pessoa retratada, levaram a rede social de Elon Musk ao centro de uma controvérsia internacional e desencadearam investigações em diversos países.
Desde então, o Parlamento Europeu votou pela proibição de serviços de IA na UE que permitam que pessoas sejam despidas sem consentimento. A medida recebeu apoio dos Estados-membros, mas ainda não foi implementada.
