Emojis estão sendo usados para ocultar desinformação sobre vacinas das ferramentas de moderação do Facebook. Ilustração de vacina misturada com cenoura
BBC
Grupos do Facebook estão usando o emoji de cenoura para ocultar conteúdo antivacina das ferramentas de moderação automatizadas.
A BBC viu vários grupos, um deles com centenas de milhares de membros, nos quais o emoji aparece no lugar da palavra “vacina”.
Os algoritmos do Facebook tendem a se concentrar em palavras, em vez de imagens.
Os grupos estão sendo usados para compartilhar relatos não confirmados de pessoas que teriam ficado com sequelas ou sido até mortas por vacinas.
LEIA TAMBÉM:
Emoji de carinha derretendo é eleito o mais representativo
Sabe tudo sobre o significado dos emojis? Faça o teste
Após a BBC entrar em contato com a Meta, empresa dona do Facebook, os grupos foram removidos.
“Removemos este grupo por violar nossas políticas relacionadas à desinformação prejudicial e avaliaremos qualquer outro conteúdo semelhante de acordo com esta política. Continuamos trabalhando em estreita colaboração com especialistas em saúde pública e o governo do Reino Unido para combater ainda mais a desinformação sobre a vacina contra Covid”, declarou a empresa em um comunicado.
Mas os grupos reapareceram desde então em nossas buscas.
Um grupo que vimos existe há três anos, mas mudou de nome em agosto de 2022 para se concentrar em histórias sobre vacinas — antes era um grupo para compartilhar “brincadeiras, apostas e vídeos engraçados”.
As regras do grupo maior afirmam: “Use palavras de código para tudo”. E acrescenta: “Nunca use a palavra com ‘c’, a palavra com ‘v’ ou a palavra com ‘r’ (Covid, vacina, reforço, respectivamente)”. Foi criado há mais de um ano e tem mais de 250 mil membros.
Marc Owen-Jones, pesquisador de desinformação e professor associado da Universidade Hamad Bin Khalifa, no Catar, foi convidado a participar da observação.
“Eram pessoas dando relatos de parentes que morreram logo após tomarem a vacina contra Covid-19”, diz ele.
“Mas em vez de usar as palavras ‘Covid-19’ ou ‘vacina’, eles estavam usando emojis de cenoura.”
“Inicialmente, eu fiquei um pouco confuso. Até que a ficha caiu — (os emojis) estavam sendo usados como uma forma de escapar, ou aparentemente de escapar, dos algoritmos de detecção de notícias falsas do Facebook.”
Initial plugin text
Risco moderado
Em 2021, dados do Escritório de Estatísticas Nacionais do Reino Unido sugeriram que havia um risco de um em cinco milhões de morrer em decorrência da vacina contra Covid-19, em comparação com um risco de 35 mil mortes por cinco milhões de morrer da doença em si, sem a vacina.
Um exemplo de um grupo do Facebook usando emoji de cenoura no lugar da palavra ou símbolo da vacina
Meta
As grandes empresas de tecnologia usam algoritmos para vasculhar suas plataformas em busca de conteúdo nocivo — mas eles são treinados principalmente com base em palavras e texto, escreveu Hannah Rose Kirk em um blog para o Oxford Internet Institute.
Rose Kirk fez parte de uma equipe de pesquisa que criou uma ferramenta chamada HatemojiCheck: um check-list para identificar áreas em que os sistemas de inteligência artificial não lidam muito bem com o abuso baseado em emojis.
“Apesar de ter uma compreensão impressionante de como a linguagem funciona, os modelos de linguagem de inteligência artificial viram muito pouco emoji”, diz ela.
“Eles são treinados com base em uma coletânea de livros, artigos e sites, até mesmo na totalidade da Wikipédia em inglês, mas esses textos raramente apresentam emoji”.
Emojis e racismo
As plataformas já foram criticadas por não bloquear ou remover emojis de macacos e bananas quando postados como gesto racista nas contas de jogadores de futebol negros.
Se o projeto de lei de segurança online entrar em vigor no Reino Unido, as grandes empresas de tecnologia vão enfrentar penalidades severas por não identificar e remover rapidamente conteúdo prejudicial em suas plataformas.
Mas há preocupações de que as ferramentas atualmente em uso não sejam boas o suficiente para lidar com o grande volume de conteúdo postado — e com as nuances e diferenças culturais que podem obscurecer o significado.
Escondendo-se à vista de todos
Os emojis podem ter vários significados, além do que for declarado oficialmente pelo Unicode, o consórcio que os gerencia.
A Agência de Combate às Drogas dos EUA divulgou um pôster demonstrando como os emojis podem ser usados para discutir drogas ilegais.
“É uma forma moderna de esteganografia: escrever e esconder uma mensagem à vista de todos, mas de tal forma que, a menos que você saiba para onde olhar, não a vê”, explica o professor Alan Woodward, especialista em segurança cibernética da Universidade de Surrey, no Reino Unido.
“O que tudo isso demonstra é a inutilidade de tentar automatizar a moderação de conteúdo para evitar o compartilhamento de material ‘prejudicial'”, diz ele.
“Na melhor das hipóteses, você estará ‘enxugando gelo’ enquanto as pessoas desenvolvem novos dialetos com os quais se comunicar.”
O Facebook disse no ano passado que havia removido mais de 20 milhões de conteúdos contendo desinformação sobre a Covid-19 ou a vacina desde o início da pandemia.
A empresa também diz que remove conteúdos que alegam que as vacinas em geral são mais perigosas do que a doença contra a qual protegem ou que são tóxicas.
O presidente dos EUA, Joe Biden, criticou as gigantes da tecnologia por não fazerem o suficiente para combater a disseminação de desinformação sobre as vacinas online.
Ele disse esperar que o Facebook faça mais para combater “a desinformação ultrajante” sobre as vacinas contra o coronavírus que estão sendo espalhadas em sua plataforma.
– Este texto foi publicado em https://www.bbc.com/portuguese/geral-62926020
Veja quais são os piores e melhores emojis para usar no trabalho:
Veja quais são os piores e melhores emojis para usar no trabalho
- Debate para Prefeitura de Camaçari tem perguntas sobre corrupção, geração de emprego e segurança pública
- Camaçari pode ter segundo turno pela primeira vez; veja quem são os candidatos à prefeitura
- Seis são investigados por suspeita de receber R$ 16,5 milhões em propina para conceder licenças ambientais do Inema na Bahia
- Sete unidades SAC passam a emitir a nova carteira de identidade em Salvador e na Região Metropolitana; confira
- Empresa produtora de resinas termoplásticas abre inscrições para programa de estágio 2025; há vagas para Salvador e Camaçari
- Fitch descarta elevar classificação de crédito do Brasil no curto prazo
- Moody’s eleva nota de crédito do Brasil e país se aproxima de grau de investimento
- Petrobras substitui presidente e diretores da PBio Após operação do Ministério Público
- Ciclo de alta da Selic irá aumentar pedidos de recuperação judicial, projeta consultoria
- Desemprego cai a 6,6% no trimestre até agosto, menor nível da série histórica para período, diz IBGE
- Governo retira urgência de votação da reforma tributária no Senado
- Ministro da Defesa defende mudança de aeronave presidencial
- “É inexplicável” a falta de autoridade da ONU para mediar conflito envolvendo Israel, diz Lula
- Regra do CNJ prevê possibilidade de indenização milionária por impacto de desmatamentos
- Toffoli anula condenações da Lava Jato contra Léo Pinheiro, delator de Lula