Ex-gerente Frances Haugen denuncia papel nefasto da rede social em conflitos violentos, citando Etiópia como exemplo recente. Negligência de Facebook com outros idiomas teria consequências fatais no mundo real.
O papel do Facebook em inflamar tensões étnicas e políticas mostra a necessidade de reformas urgentes dentro da empresa responsável, declarou a whistleblower Frances Haugen, em entrevista à DW. Ex-gerente de produtos da gigante das redes sociais, ela deverá depor nesta segunda-feira (08/11) diante de um painel no Parlamento Europeu a respeito de suas revelações sobre a firma, que recentemente se rebatizou como Meta Platforms Inc.
“Um dos pontos centrais para que estou tentando chamar a atenção é o subinvestimento nas línguas que não são o inglês”, explicou. Como a companhia está especialmente preocupada em evitar auditorias regulatórias nos Estados Unidos, o idioma é o que recebe maior atenção no processo de adaptação de seu software de inteligência artificial (IA).
No entanto, “infelizmente os lugares mais frágeis do mundo são os mais diversos na questão linguística”, objeta Haugen, acrescentando que a atual estratégia de segurança da Facebook é usar IA para detectar “conteúdos extremos”, garantindo que não subam na cotação entre os feeds dos usuários.
“O problema dessa estratégia é exigir que desenvolvamos esses sistemas de IA repetidamente, para cada língua, a fim de que a plataforma seja segura. E no momento a Facebook não está fazendo isso.”
Conflito da Etiópia como exemplo extremo
Confiar a segurança pública à IA e depois não atualizar os sistemas em outras línguas pode ter consequências graves no mundo real, alerta a denunciante. “Eu vi um padrão de comportamento que me fez crer que não há chance de a Facebook conseguir resolver esses problemas isoladamente”, e isso a fez decidir ir a público.
“Eu vi aquilo que temia que fosse acontecer continuando a se propagar”, prossegue, citando como exemplo mais recente a deterioração da situação na Etiópia. Grupos de defesa dos direitos humanos têm soado o alarme quanto ao aumento do discurso de ódio nas redes sociais no país africano, à medida que avançam as forças do Tigré.
A ONG Anistia Internacional advertiu que numerosas postagens “incitando à violência” e dirigindo insultos aos tigrenses étnicos haviam “passado sem verificação”. “Eu sabia que nunca poderia viver comigo mesma se ficasse vendo 10 milhões, 20 milhões morrerem nos próximos 20 anos por causa da violência propiciada pelas redes sociais”, afirmou Frances Haugen.
Na sexta-feira, o Twitter suspendeu sua seção de “trends” na Etiópia, alegando um incremento das ameaças de violência física. No início da semana, a Facebook já removera uma postagem do primeiro-ministro etíope, Abiy Ahmed, por violar as diretrizes da companhia contra incitação à violência.
Comente aqui