Relacionados
Um tribunal do Novo México, nos Estados Unidos, ordenou à Meta, empresa proprietária do Facebook e Instagram, o pagamento de 567 milhões de dólares (cerca de 492 milhões de euros) para financiar medidas destinadas a responder aos danos provocados pelas redes sociais nos jovens.
A decisão, proferida na quinta-feira pelo juiz Bryan Biedscheid, determina que a maior parte da verba, cerca de 420 milhões de dólares (364,5 milhões de euros), seja aplicada em serviços de tratamento para jovens.
O montante restante deverá financiar campanhas de sensibilização e prevenção, serviços de rastreio e outros custos associados à execução das medidas ao longo dos próximos cinco anos.
A Meta já anunciou que vai recorrer da decisão.
Meta acusada de prejudicar saúde mental de menores
O processo corresponde à segunda fase de um julgamento que a Meta perdeu em março.
Nessa primeira fase, um júri determinou o pagamento de 375 milhões de dólares (325,5 milhões de euros) em sanções civis, concluindo que a empresa tinha prejudicado conscientemente a saúde mental de crianças e ocultado informação sobre a exploração sexual infantil nas suas plataformas.
Nesta segunda fase, os procuradores pediram ao tribunal que impusesse alterações estruturais ao funcionamento das plataformas, nomeadamente para limitar funcionalidades consideradas potencialmente aditivas, reforçar a verificação da idade e combater a exploração sexual infantil.
Facebook e Instagram terão de apresentar novos avisos
A decisão judicial poderá alterar a forma como Facebook e Instagram apresentam algumas das suas funcionalidades aos utilizadores no Novo México.
O juiz determinou que as duas plataformas criem avisos e ecrãs informativos destinados a explicar de forma clara as ferramentas de proteção disponíveis, incluindo mecanismos para lidar com comentários inadequados.
Esses avisos deverão ser apresentados regularmente e as alterações, bem como uma campanha educativa no estado, ficarão sujeitas a revisão pelas autoridades do Novo México.
A Meta contestou a decisão.
"Discordamos da decisão e iremos recorrer", afirmou um porta-voz da empresa.
A tecnológica defendeu ainda que trabalha para manter os utilizadores seguros e que tem sido transparente relativamente às dificuldades de identificar e remover agentes mal-intencionados e conteúdos prejudiciais.
Tribunal impõe novas regras para verificar idade
O tribunal determinou também que a Meta continue a desenvolver as ferramentas utilizadas para estimar a idade dos utilizadores no Novo México.
Entre as tecnologias utilizadas está inteligência artificial capaz de estimar a idade com base em sinais como a lista de amigos e os conteúdos publicados e consumidos.
A empresa terá ainda de desenvolver, nos próximos dois anos, um modelo específico para prever se um utilizador tem menos de 13 anos.
Quando os sistemas da Meta estimarem que um utilizador tem menos de 13 anos, a empresa terá de solicitar uma prova de idade. Se não conseguir determinar uma idade específica mas considerar que o utilizador tem menos de 18 anos, deverá tratá-lo como menor até que a idade seja verificada.
A Meta terá também de estabelecer uma parceria com escolas ou uma organização de segurança infantil para criar um portal através do qual funcionários escolares possam denunciar contas que suspeitem pertencer a menores de 13 anos.
A empresa deverá ainda eliminar informações pessoais recolhidas sobre utilizadores menores e apresentar relatórios semestrais sobre o cumprimento das medidas determinadas pelo tribunal.
Lei federal limita verificação de idade
A decisão reconhece, contudo, limitações impostas pela legislação federal norte-americana.
O tribunal considerou que a Children's Online Privacy Protection Act (COPPA) impede a Meta de exigir determinados dados pessoais a crianças com menos de 13 anos ou de as sujeitar a rastreio passivo com o objetivo de verificar a idade.
Por esse motivo, o tribunal optou por determinar outras formas de reforçar os mecanismos de garantia de idade.
Modelo de IA da Meta acedeu à Internet e explorou falha de segurança
A decisão judicial surge no mesmo dia em que a Meta revelou outro episódio relacionado com os riscos das novas tecnologias de inteligência artificial.
A empresa confirmou que um dos seus modelos de IA conseguiu aceder à Internet e explorou uma vulnerabilidade de segurança num serviço de uma empresa externa, durante testes de cibersegurança.
Segundo a Meta, o incidente foi provocado por uma "configuração incorreta" durante testes realizados pela empresa independente Irregular, contratada para avaliar as capacidades de cibersegurança dos modelos.
A configuração permitiu inadvertidamente que o modelo tivesse acesso à Internet. Posteriormente, o sistema explorou uma vulnerabilidade num serviço de terceiros.
A Meta está a investigar o incidente e afirma que divulgará um relatório quando o processo estiver concluído.
OpenAI e Anthropic também detetaram comportamentos autónomos
O caso surge numa altura em que aumentam as preocupações sobre agentes de IA capazes de executar ações para além das instruções inicialmente dadas pelos seus utilizadores.
Nas últimas semanas, a OpenAI e a Anthropic também divulgaram situações em que modelos de IA, durante testes, conseguiram aceder à Internet e procurar formas de ultrapassar mecanismos de segurança de sistemas externos.
O AI Security Institute (AISI) do Reino Unido revelou esta semana que encontrou "comportamento não autorizado dos agentes" durante testes de segurança.
Num dos casos, um agente de IA criou identidades online falsas para tentar convencer uma pessoa a aprovar a utilização de código malicioso.
O instituto esclareceu, contudo, que os testes foram realizados em condições deliberadamente mais permissivas do que aquelas em que os modelos são normalmente disponibilizados ao público, incluindo acesso à Internet e desativação de algumas salvaguardas.
A Anthropic considerou que os resultados reforçam a necessidade de desenvolver novas formas de avaliar a segurança dos agentes de IA à medida que estes ganham autonomia.
A OpenAI também sublinhou que os testes ocorreram em ambientes controlados e com salvaguardas reduzidas.
No final do mês passado, a OpenAI tinha sido a primeira das três empresas a divulgar um incidente deste tipo, depois de modelos utilizados para testar capacidades avançadas de cibersegurança terem ultrapassado os limites inicialmente previstos e, aparentemente, tentado atacar a Hugging Face para obter informação necessária à execução de uma tarefa.
