Ativistas criticam uso de IA pela Meta para monitorar segurança online

Organizações que atuam na proteção de crianças e na regulação digital estão em alerta com os planos da Meta de utilizar inteligência artificial (IA) para automatizar avaliações de risco em suas plataformas, como Facebook, Instagram e Threads. A medida foi duramente criticada em uma carta enviada à Ofcom, órgão regulador de comunicações do Reino Unido.

No documento, assinado por entidades como Molly Rose Foundation, NSPCC e Internet Watch Foundation, os ativistas pedem que a Ofcom limite o uso de IA em processos considerados críticos para a segurança online de usuários, especialmente menores de idade.

A carta aponta que a automatização das análises representa um “o retrógrado e altamente alarmante”. A Ofcom afirmou que está “considerando as preocupações” levantadas pelas organizações, segundo informou o jornal The Guardian.

Por que o uso de IA na segurança digital preocupa especialistas?

Desde a aprovação da Lei de Segurança Online do Reino Unido, plataformas de redes sociais são legalmente obrigadas a conduzir avaliações de risco sobre como seus serviços podem causar danos aos usuários – e como planejam mitigar esses riscos. A lei dá especial atenção à proteção de crianças e adolescentes e à remoção de conteúdo ilegal.

A carta enviada à Ofcom solicita que a regulação seja firme contra qualquer tentativa das big techs de “diluir seus processos de avaliação de risco”. Os signatários temem que a substituição de especialistas humanos por sistemas automatizados de IA comprometa a qualidade e a profundidade das análises exigidas pela legislação.

IA da Meta poderia aprovar atualizações sem revisão humana

A Molly Rose Foundation liderou a articulação da carta após uma investigação da NPR revelar que a Meta estaria implementando mudanças significativas em seus processos internos. Segundo a reportagem, atualizações de algoritmos e recursos de segurança ariam a ser aprovadas automaticamente por sistemas de IA, sem revisão humana.

Essa mudança permitiria à Meta acelerar o lançamento de novos recursos no Facebook, Instagram e WhatsApp. No entanto, ex-executivos ouvidos sob anonimato alertaram que a estratégia poderia “aumentar os riscos para os usuários”, ao reduzir a capacidade de prevenir falhas ou abusos antes que as mudanças sejam implementadas.

Além disso, a NPR apontou que a empresa estaria estudando automatizar revisões em áreas sensíveis, como risco juvenil e desinformação.

Ofcom e Meta respondem às críticas

Em resposta pública, um porta-voz da Ofcom declarou:

“Deixamos claro que os serviços devem nos informar quem completou, revisou e aprovou sua avaliação de risco. Estamos considerando as preocupações levantadas nesta carta e responderemos oportunamente.”

Já a Meta negou que esteja delegando decisões críticas de segurança exclusivamente à inteligência artificial.

“Não estamos usando IA para tomar decisões sobre risco”, afirmou a empresa. “Nossos especialistas construíram uma ferramenta que ajuda equipes a identificar quando requisitos legais e de política se aplicam a produtos específicos. Usamos tecnologia, supervisionada por humanos, para melhorar nossa capacidade de gerenciar conteúdo prejudicial.”

Meta também é acusada por usuários de Android

A Meta foi acusada de rastrear o histórico de navegação na internet de usuários de celulares Android. A gigante da tecnologia teria começado a realizar estas ações em setembro de 2024.

De acordo com um grupo de cientistas da computação afiliados à IMDEA Networks (Espanha), Radboud University (Holanda) e KU Leuven (Bélgica), a mesma prática era utilizada pelo Yandex desde 2017. Esta empresa é uma concorrente russa do Google.

O relatório divulgado pelos pesquisadores aponta que a tática cruzava os dados de um mecanismo que monitora a interação do usuário com as propagandas de um site, o Meta Pixel, com os aplicativos do Facebook e Instagram. Isso permitia que a Meta ligasse a atividade da pessoa ao endereço IP registrado nos aplicativos de redes sociais.