Algoritmos procuram nudez, mas ignoram ameaças: como uma simples fotografia pode transformar-se numa sentença de morte para mulheres paquistanesas

Num contexto em que a honra familiar e o controlo da vida das mulheres continuam a ter um peso profundo, uma simples fotografia pode desencadear ameaças, violência e até homicídios. No Paquistão, organizações pedem às plataformas digitais que reconheçam os riscos para lá da nudez.
Algoritmos procuram nudez, mas ignoram ameaças: como uma simples fotografia pode transformar-se numa sentença de morte para mulheres paquistanesas

Uma selfie aparentemente inofensiva pode ter consequências devastadoras quando é divulgada sem autorização num contexto em que a reputação e a honra familiar são associadas à sexualidade das mulheres. Trata-se de um caso no Paquistão, onde adolescentes e jovens estão a ser alvo de ameaças, chantagem e violência através de fotografias em que surgem completamente vestidas. Organizações de defesa dos direitos das mulheres alertam que os sistemas de moderação das redes sociais não estão preparados para reconhecer este tipo de perigo.

Maniza, nome fictício dado pelo jornal The Guardian, é uma adolescente que vive numa cidade conservadora paquistanesa. Habituada a usar hijab e a viver sob regras familiares rígidas, enviou uma fotografia a um rapaz que lhe tinha pedido uma imagem para confirmar que tinha o cabelo comprido. Ele prometeu apagá-la, mas acabou por usar a selfie para a pressionar a encontrar-se com ele.

A situação tornou-se ainda mais grave quando o jovem ameaçou divulgar a fotografia à família da adolescente e criou uma conta falsa numa rede social, utilizando a imagem dela e a expressão "amor da minha vida". Maniza tentou denunciar o perfil, mas a plataforma considerou que a publicação não violava as regras.

"Eles não perceberam que a minha família me mataria se visse aquilo", contou ao The Guardian.

O receio não era infundado

A jovem explicou que o pai sempre se opôs à sua continuidade na escola e já a tinha ameaçado de morte caso se envolvesse em algum problema. Quando a mãe descobriu o que tinha acontecido, retirou-a do estabelecimento de ensino, temendo que o marido matasse as duas. Maniza vive agora com medo e sob pressão para casar assim que surgir uma proposta considerada adequada. A fotografia continua disponível na Internet.

O caso expõe uma dimensão do abuso de imagem que, segundo organizações especializadas, continua a escapar às regras das grandes plataformas digitais: nem todas as fotografias usadas para intimidar ou chantagear mulheres mostram nudez ou conteúdo sexual explícito. Em determinadas comunidades, uma imagem banal pode ser suficiente para desencadear violência, ameaças ou exclusão social.

É precisamente esta diferença entre o que as redes sociais identificam como conteúdo prejudicial e aquilo que as vítimas vivem como uma ameaça que a organização Chayn pretende colocar no centro do debate. A instituição, que trabalha no combate à violência de género, publicou o relatório Non-Explicit Image-Based Harms — dedicado aos danos provocados por imagens não explícitas — e defende que as plataformas devem avaliar sobretudo a falta de consentimento e o impacto da divulgação, em vez de se limitarem a procurar nudez.

"Há uma lacuna entre o que as plataformas definem como prejudicial e o que as mulheres vivenciam como prejudicial", afirmou Hera Hussain, diretora-executiva da Chayn. A responsável considera que os sistemas automáticos de moderação estão demasiado orientados para detetar imagens de nudez, deixando de reconhecer situações em que uma fotografia sem qualquer conteúdo explícito pode colocar alguém em perigo.

Maniza não é um caso isolado

Zarghuna, uma adolescente de 15 anos da região do Baluchistão, contou que um colega a fotografou enquanto entrava na água durante um passeio escolar. Mais tarde, a imagem foi projetada num ecrã de grandes dimensões durante um evento na escola, deixando-a profundamente humilhada.

A jovem explicou que, mesmo quando as mulheres estão vestidas, a forma como a roupa se ajusta ao corpo pode ser usada para as expor à crítica e à vergonha. Descreveu ainda situações em que fotografias de colegas tiradas dentro da sala de aula são usadas para exigir favores sexuais, acompanhadas de ameaças de divulgação.

O objetivo de quem guarda ou partilha estas imagens pode passar por obter dinheiro, relações indesejadas ou favores sexuais, aproveitando o medo de que a fotografia chegue à família ou à comunidade. As consequências podem estender-se à vida escolar e profissional, levar a casamentos forçados, agressões físicas e verbais e, nos casos mais extremos, a suicídio ou homicídio.

O contexto paquistanês torna estas ameaças particularmente graves. O controlo social sobre a presença das mulheres na Internet e sobre a sua vida privada pode transformar uma fotografia aparentemente banal numa fonte de estigma e perigo. O país tem também registado casos de violência mortal associados à atividade feminina nas redes sociais.

Entre eles está o de Hira Anwar, de 14 anos, que foi atraída dos Estados Unidos para o Paquistão e morta pelo pai devido aos vídeos que publicava no TikTok. Também Sana Yousaf, uma adolescente e criadora de conteúdos naquela plataforma, foi assassinada por um homem que se tinha tornado obcecado com a sua presença online.

A dimensão do problema é acompanhada pela Digital Rights Foundation (DRF), organização paquistanesa que mantém uma linha de apoio para vítimas de violência digital. O serviço recebe cerca de 250 queixas por mês. Num dos casos mais recentes referidos pela organização, foi possível conseguir a remoção, do Instagram, de vídeos gerados por inteligência artificial que mostravam um professor a beijar um homem.

A Chayn pede, por isso, que as empresas tecnológicas criem mecanismos de denúncia que tenham em conta o consentimento e a situação concreta de cada vítima, em vez de dependerem exclusivamente de sistemas automáticos treinados para identificar determinados tipos de imagem.

A Meta, proprietária do Facebook e do Instagram, não respondeu ao pedido de comentário feito pelo The Guardian.