No Instagram, um anúncio de joias atrai solicitações de sexo com uma criança de 5 anos

Quando uma fabricante de joias infantis começou a anunciar no Instagram, ela promoveu fotos de uma menina de 5 anos usando um amuleto brilhante para usuários interessados ​​em paternidade, filhos, balé e outros tópicos identificados pela Meta como atraentes principalmente para mulheres.

Mas quando o comerciante obteve os resultados automatizados de sua campanha publicitária no Instagram, aconteceu o oposto: os anúncios foram quase inteiramente direcionados a homens adultos.

Perplexo e preocupado, o comerciante contactou o The New York Times, que nos últimos anos publicou vários artigos sobre o abuso de crianças nas plataformas de redes sociais. Em fevereiro, o The Times investigou contas do Instagram administradas por pais para suas filhas pequenas e o submundo sombrio de homens que têm interações sexualizadas com essas contas.

Com as fotos dos anúncios de joias em mãos, o The Times se propôs a entender por que eles atraíam um público indesejado. Anúncios de teste publicados pelo The Times usando as mesmas fotos sem texto não apenas replicaram a experiência do comerciante – eles chamaram a atenção de criminosos sexuais condenados e de outros homens cujos relatos indicavam interesse sexual por crianças ou que escreveram mensagens sexuais.

O Times abriu duas contas no Instagram e promoveu postagens mostrando a menina de 5 anos, com o rosto afastado da câmera, vestindo uma regata e o charme. Postagens separadas mostravam as roupas e joias sem a modelo infantil, ou com uma caixa preta escondendo-a. Todos os anúncios pagos foram promovidos para pessoas interessadas em temas como infância, dança e líderes de torcida, que as ferramentas de público do Meta estimaram como predominantemente mulheres.

Além de atingir uma proporção surpreendentemente grande de homens, os anúncios obtiveram respostas diretas de dezenas de usuários do Instagram, incluindo telefonemas de dois acusados ​​de crimes sexuais, ofertas para pagar a criança por atos sexuais e profissões de amor.

Os resultados sugerem que os algoritmos da plataforma desempenham um papel importante no direcionamento dos homens às fotos de crianças. E ecoam preocupações sobre a prevalência de homens que usam o Instagram para seguir e contactar menores, incluindo aqueles que foram presos por usarem as redes sociais para solicitar sexo a crianças.

Na quarta-feira, o procurador-geral do Novo México, Raúl Torrez, anunciou a prisão de três homens que foram pegos em uma operação policial tentando arranjar sexo com meninas menores de idade no Facebook. Chamando-a de “Operação MetaPhile”, Torrez disse que os algoritmos do Meta desempenharam um papel fundamental no direcionamento desses homens para os perfis “iscas” criados pelas autoridades.

“Poderíamos criar uma conta secreta totalmente nova, apresentada como uma criança menor de idade naquela plataforma, e provavelmente em questão de minutos, se não dias, essa criança seria inundada com material sexualmente explícito”, disse ele, enfatizando o real -danos mundiais que podem ser causados ​​pelas plataformas online.

A investigação do The Times em fevereiro descobriu que milhares de contas do Instagram administradas por pais atraíram comentários e mensagens sexualizadas de homens adultos. Enquanto alguns pais descreveram a atenção como uma forma de aumentar o número de seguidores das filhas, outros reclamaram de passar horas bloqueando usuários e disseram não entender como os homens encontraram as contas.

Uma análise dos usuários que interagiram com os anúncios publicados pelo The Times descobriu uma sobreposição entre esses dois mundos. Cerca de três dúzias de homens seguiram contas de influenciadores infantis administradas por pais e previamente estudadas pelo The Times; um seguiu 140. Além disso, quase 100 dos homens seguiram contas que apresentavam ou anunciavam pornografia adulta, o que é proibido pelas regras do Instagram.

Dani Lever, porta-voz da Meta, descartou os testes de anúncios do The Times como uma “experiência fabricada” que não levou em conta “os muitos fatores que contribuem para quem finalmente vê um anúncio”, e sugeriu que era “falho e doentio” desenhar conclusões a partir de dados limitados.

Quando questionado sobre as detenções no Novo México, Meta disse num comunicado que “a exploração infantil é um crime horrível e passámos anos a desenvolver tecnologia para combatê-la”. A empresa descreveu seus esforços como “uma luta contínua” contra “criminosos determinados”.

'Os homens se envolvem'

Pesquisadores e ex-funcionários que trabalharam com algoritmos na Meta, dona do Instagram e do Facebook, disseram que as ferramentas de classificação de imagens provavelmente mereciam alguma culpa.

As ferramentas comparam novas imagens com as existentes na plataforma e identificam usuários que anteriormente demonstraram interesse nelas, disse Dean Eckles, ex-cientista de dados do Facebook que estudou seus algoritmos e agora é professor do Instituto de Tecnologia de Massachusetts.

Contas de teste configuradas no ano passado por Jornal de Wall Street descobriram que o algoritmo de recomendação do Instagram veiculou fotos sexualizadas de crianças e adultos para contas que seguiam apenas jovens ginastas, líderes de torcida e outras crianças.

Embora o sistema de anúncios da Meta não seja exatamente igual ao sistema de recomendação, existem “enormes semelhanças entre os modelos”, disse o Dr. Eckles.

Ex-funcionários da Meta familiarizados com seus sistemas de recomendação e entrega de anúncios disseram que as equipes de segurança tentaram detectar anúncios prejudiciais, como aqueles que promoviam fraudes ou drogas ilegais, mas era mais difícil identificar anúncios benignos que eram entregues a públicos inadequados – e potencialmente prejudiciais.

O Meta permite que os anunciantes atinjam determinados públicos por tópico e, embora o The Times tenha escolhido tópicos que a empresa estimou serem dominados por mulheres, os anúncios foram exibidos, em média, para homens cerca de 80% das vezes, de acordo com uma análise do Times sobre a audiência do Instagram. dados. Num grupo de testes, as fotos que mostravam a criança foram para os homens 95% das vezes, em média, enquanto as fotos apenas dos itens foram para os homens 64% das vezes.

Piotr Sapiezynski, cientista pesquisador da Northeastern University especializado em testar algoritmos online, disse que os anunciantes competiam entre si para alcançar as mulheres porque dominar os gastos do consumidor nos EUA. Como resultado, disse Sapiezynski, o algoritmo provavelmente se concentrou em homens altamente interessados ​​e mais fáceis de alcançar que haviam interagido com conteúdo semelhante.

“Os homens se envolvem”, disse ele. “A máquina está fazendo exatamente o que você deseja.”

A Meta, num comunicado, reconheceu o ambiente publicitário competitivo para as telespetadoras do sexo feminino e disse que a “baixa qualidade” dos anúncios do Times – de novas contas, com imagens, mas sem texto ou explicação – contribuiu para que fossem entregues a mais homens. Além disso, disse Meta, seus dados do Audience Insights apenas “mostra uma estimativa de quem é potencialmente elegível para ver um anúncio”, e não um público garantido.

O Dr. Sapiezynski disse que mesmo que o sistema tenha designado os anúncios de teste como de “baixa qualidade”, isso não explica por que aqueles que apresentavam crianças eram direcionados a mais homens do que aqueles que não tinham filhos.

'Ei, amor'

Poucas horas depois da publicação do primeiro anúncio, uma das contas de teste do The Times recebeu uma mensagem e um telefonema de um homem preso em 2015 em Oklahoma, após supostamente usar o Facebook para tentar organizar sexo grupal com meninas de 12 e 14 anos.

“Ei, querido”, escreveu outro homem. Ele foi preso em 2020 depois de entrar em contato com uma garota de 14 anos no interior do estado de Nova York pelo Snapchat e se oferecer para buscá-la para sexo. As acusações contra ele foram rejeitadas depois que um tribunal o considerou mentalmente incompetente.

Um terceiro homem, no Tennessee, que “gostou” de uma das fotos teve quatro condenações por crimes sexuais infantis – incluindo “sexo com uma criança” em 1999, compartilhando uma foto no Facebook em 2018 de uma criança de 3 a 5 anos de idade. “sendo penetrado anal ou vaginalmente” e usando o Instagram em 2020 para solicitar fotos nuas de uma menina de 12 anos que ele chamava de “escrava sexual”. (As regras do Instagram proíbem crianças de 12 anos.)

Um quarto homem, que o Times não conseguiu identificar, ofereceu-se para pagar por atos sexuais com a garota da fotografia.

O Times entrou em contato via chat do Instagram com qualquer pessoa que tenha se envolvido com os anúncios e explicou que se tratava de testes do algoritmo da plataforma executado por jornalistas. O homem em Nova York continuou a enviar mensagens perguntando sobre a garota, perguntando se ela estava em seu quarto e se queria fazer sexo. Ele também tentou ligar para ela várias vezes pelo aplicativo.

No total, o Times identificou quatro criminosos sexuais condenados que enviaram mensagens às contas, curtiram as fotos ou deixaram comentários sobre elas. Suas contas do Instagram usavam nomes e fotos reais ou estavam vinculadas a contas do Facebook que usavam. As condenações foram encontradas comparando essas informações com bancos de dados de agressores sexuais e outros registros públicos.

Cinco outros homens, incluindo um que publicou um vídeo no Instagram de uma menina conhecida por ser vítima de abuso sexual infantil, segundo o Centro Canadense de Proteção à Criança, têm antecedentes de prisão envolvendo crimes contra crianças. Os homens cujos registos judiciais o Times conseguiu rever confessaram-se culpados de uma acusação menor ou foram considerados mentalmente incapazes para serem julgados.

As regras do Instagram proíbem criminosos sexuais condenados de manter contas, e o The Times usou Ferramenta da Meta para denunciar os homens. As contas permaneceram online por cerca de uma semana até que o Times as sinalizou para um porta-voz da empresa.

Questionada sobre as contas, a Sra. Lever disse: “Proibimos que criminosos sexuais condenados tenham presença em nossas plataformas e removemos as contas que nos foram denunciadas”.

Um dos homens, que foi condenado em Nova York por agredir sexualmente uma menina de 4 anos, está sujeito a uma lei estadual – conhecida como Parada de emergência – que exige que os criminosos sexuais registrem seu endereço de e-mail. Semanalmente, o estado compartilha os endereços com empresas de tecnologia, entre elas a Meta.

Lever não abordou como a empresa usa essas informações ou como o homem conseguiu criar uma conta no Instagram.

Alguns dos homens disseram que responderam ao anúncio preocupados.

Um homem, que está em liberdade condicional depois de passar 46 anos na prisão na Califórnia pelo assassinato de sua esposa, disse que ficou surpreso ao encontrar uma menina de 5 anos em seu feed, que mostra predominantemente fotos de adultos seminus ou nus.

“Não tive problemas em olhar para mulheres nuas, especialmente depois de 46 anos de prisão”, escreveu ele. Mas, continuou ele, “minha atitude em relação às pessoas que praticam pornografia infantil ou que tocam em crianças é muito simples: não faça isso”.

O envolvimento dos homens com os anúncios não surpreendeu alguns pequenos empresários entrevistados pelo The Times. Morgan Koontz, fundador da Bella & Omi, uma empresa de roupas infantis na Virgínia Ocidental que se promove nas redes sociais, disse que a empresa recebeu “comentários pervertidos, quase pedófilos e inapropriados” de homens quando eles começaram a anunciar no Facebook em 2021.

“Isso deixou nossos modelos desconfortáveis ​​e nos deixou desconfortáveis”, disse ela.

Quando a empresa expandiu para o Instagram, ela e sua também proprietária, Erica Barrios, decidiram evitar o problema visando apenas mulheres, embora pais e avôs estejam entre seus clientes regulares.

Lindsey Rowse, proprietária do Tightspot Dancewear Center na Pensilvânia, também restringe seus anúncios a mulheres. Quando ela não excluiu os homens, disse ela, eles representavam até 75% do seu público e poucos compraram seus produtos. Separadamente, ela limita a frequência com que compartilha fotos de modelos infantis em suas postagens não publicitárias porque muitas vezes atraem homens, disse ela.

“Não sei como as pessoas descobrem isso”, disse ela. “Eu adoraria bloquear todos os caras.”

Outros proprietários de empresas expressaram confusão semelhante sobre como seus anúncios eram distribuídos. Desde Janeiro, a empresa de vestuário infantil Young Days, sediada no Utah, viu mais do que duplicar a percentagem de homens que os seus anúncios alcançam, sem grandes alterações nos seus critérios de segmentação, de acordo com Brian Bergman, que supervisiona o comércio electrónico. A mudança para os homens prejudicou as vendas, disse ele, e desde então a empresa tem se concentrado em alcançar as mulheres.

“Não é um negócio lucrativo para nós, mas o algoritmo continua a empurrar-nos para os homens”, disse ele.

Carson Kessler relatórios contribuídos, e Julie Tate contribuiu com pesquisas.