A plataforma X (antigo Twitter) e o sistema de inteligência artificial Grok, desenvolvido pela empresa xAI de Elon Musk, estão a ser alvo de uma ação judicial urgente nos Países Baixos, e acusados de permitir a criação e disseminação de conteúdos sexuais ilegais através de ferramentas de inteligência artificial.
A queixa foi feita por duas organizações neerlandesas de defesa dos direitos digitais e da proteção de menores, que alegam que a tecnologia permite gerar imagens sexualizadas sem consentimento, incluindo material que poderá configurar abuso sexual infantil.
A versão 4.2 do Grok, lançada na semana passada, permite que os utilizadores criem vídeos completos a partir de uma única fotografia usando IA. De acordo com as entidades, este tipo de conteúdo viola as leis holandesas e europeias e pode ser passível de punição legal.
O processo exige que o Grok e o X cessem imediatamente as funcionalidades que permitem aos utilizadores "despir" digitalmente pessoas sem o seu consentimento. As organizações exigem que, em caso de incumprimento, seja imposta uma multa coercitiva de 100.000 euros por cada dia em que essas funções permanecerem ativas.
Segundo dados citados pelas organizações, um em cada dois jovens nos Países Baixos sofreu alguma forma de intimidação ou abuso sexual na Internet, e dezenas de milhares podem ter sido vítimas de imagens sexualmente explícitas geradas por IA.
