Meta terá de remover vídeo falso de Ronaldo e reforçar checagem de deepfake

CONTEÚDO RELACIONADO:

Na decisão, o conselho orientou que a Meta reforce a sua política de moderação de deepfakes -reprodução da aparência ou da fala de alguém por meio de inteligência artificial- aumentando a participação humana e treinando os colaboradores. Segundo os julgadores, o protocolo atual coloca os usuários em risco de levar golpes financeiros.

O vídeo, que misturava a imagem de Ronaldo com um deepfake da voz do jogador dessincronizado, seguiu no ar mesmo após receber mais de 50 denúncias. A publicação é de setembro de 2024, ficou no ar até o conselho assumir o caso já neste ano e recebeu mais de 600 mil visualizações.

Em pronunciamento, a big tech disse que "muitas das alegações do conselho são simplesmente imprecisas". "Responderemos à recomendação completa em 60 dias, de acordo com os estatutos", acrescentou.

Quer mais notícias de Brasil? o nosso canal no WhatsApp

O conteúdo enganoso, após ser alvo de denúncias de fraude por um usuário, recebeu apenas revisão do sistema autônomo da Meta que não encontrou violação. O usuário teve de recorrer duas vezes das decisões do conglomerado de redes sociais para reverter a decisão.

A companhia apenas submeteu o material à supervisão humana quando o caso chegou à Suprema Corte do Facebook, alegando que o vídeo parecia ser patrocinado -quando alguém paga para aumentar o alcance da publicação.

O impulsionamento do anúncio foi desativado por aplicar "práticas comerciais consideradas inaceitáveis" pela empresa, embora a publicação original tenha permanecido na plataforma. Depois, a Meta removeu o vídeo por violar a política de "fraudes, golpes e práticas enganosas". Posteriormente, a empresa também constatou violação à política de spam.

Os cinco conselheiros responsáveis pelo julgamento avaliaram que o protocolo de moderação automatizada da big tech é insuficiente para remover publicações que fingem ser uma pessoa famosa em uma tentativa de golpe ou fraude mesmo quando houver violações flagrantes.

"A Meta provavelmente está permitindo a circulação de quantidades relevantes de conteúdo fraudulento em suas plataformas para evitar a possível aplicação excessiva de regras em um pequeno subconjunto de pronunciamentos genuínos de celebridades", avaliou a entidade nos autos.

De acordo com o veredito, a postura da Meta é "particularmente preocupante" porque as publicações de celebridades já têm proteções adicionais e am por verificação cruzada antes de serem removidas.

"A abordagem da Meta de apenas aplicar essa política [de revisão humana] após buscar contexto adicional por meio de escalonamento favorece a aplicação insuficiente contra conteúdos que violam as regras", disse o Conselho de Supervisão nos autos.

No comunicado, a Meta diz que "as fraudes cresceram em escala e complexidade nos últimos anos, impulsionadas por redes criminosas transfronteiriças implacáveis".

"Estamos testando o uso de tecnologia de reconhecimento facial, aplicando medidas agressivas contra fraudes e capacitando as pessoas a se protegerem por meio de diversas ferramentas e avisos de segurança em nossa plataforma", completou.

O Conselho de Supervisão da Meta, conhecido informalmente como Suprema Corte do Facebook, decidiu reverter uma decisão da empresa na última quinta-feira (5). A big tech manteve no ar, por meses, um anúncio que clonava a voz e a imagem do jogador Ronaldo para divulgar um cassino online chamado Plinko.