Três coisas são certas na vida: morte, impostos e Facebook se envolvendo em uma polêmica. Depois que uma série de documentos internos vazados lançaram luz sobre o lado negro do gigante da mídia social, um relatório recente relacionado ao vazamento afirmou que FacebookAs ferramentas de IA do Google não foram suficientes para lidar com o discurso de ódio na plataforma. Agora, a empresa liderada por Mark Zuckerberg apresentou-se para defender seu caso sobre moderação de conteúdo online por IA.
Indiscutivelmente, a maior história em tecnologia no momento é O Facebook arquivos investigação liderada pelo WSJ. A denúncia implica que a empresa de Zuckerberg prioriza os lucros em detrimento da segurança pública e coloca a empresa numa situação difícil. Anteriormente, a investigação descobriu a margem de manobra para contas VIP Facebooksua inação em Instagramefeito negativo conhecido, entre outras informações privilegiadas.
Em seu último relatório, WSJ revelou que Facebook depende principalmente de um algoritmo de IA incompetente para remover o discurso de ódio. Mencionou que os próprios funcionários da empresa não confiavam na IA para lidar suficientemente com postagens que violassem as lendárias Diretrizes da Comunidade. É importante ressaltar que as estatísticas terríveis partilhadas pela publicação justificaram esta falta de confiança. Como réplica, Facebook hoje saiu com seu próprio relatório em apoio à sua moderação automatizada de conteúdo.
Facebook Classifica a prevalência acima da remoção para restringir o discurso de ódio
De acordo com Guy Rosen, vice-presidente de integridade, a quantidade de discurso de ódio que as pessoas enfrentam caiu cerca de 50%. Segundo ele, a prevalência do discurso de ódio é uma métrica melhor para medir a eficácia da IA do que quantas postagens são removidas.
Claramente, esta observação é uma resposta à declaração do WSJ de que afirma que quando a IA não tem a certeza do que fazer, não remove conteúdo de ódio, apenas reduz a sua visibilidade. Isso faz com que as contas responsáveis não enfrentem quaisquer consequências por violarem Facebookregras.
Chegando aos fatos e números, Rosen citou os últimos Relatório de aplicação de padrões comunitários e destacou a diminuição da prevalência do discurso de ódio. De acordo com este relatório, 00,05% do conteúdo visualizado na plataforma continha discurso de ódio. Para enfatizar a melhoria, revelou que esta estatística caiu cerca de 50% em relação aos últimos três trimestres.
Os vazamentos mostraram que Facebook reduziu o tempo gasto pelos revisores na detecção de discurso de ódio, transferindo mais carga de trabalho para IA. O algoritmo supostamente tem mais de 97% de taxa de detecção proativa – a quantidade de discurso de ódio detectada antes que alguém o denuncie. No entanto, conforme informado por alguns usuários, essa estatística nunca se traduziu em sua experiência real no Facebook.
Implicando isso FacebookEmbora a IA da empresa tome medidas extras, Rosen argumentou que a taxa de detecção proativa não conta toda a história. Considera apenas o conteúdo removido e não o conteúdo cuja visibilidade a IA diminui devido à suspeita de veiculação de discurso de ódio. Ele mais uma vez enfatizou uma métrica supostamente mais precisa do que a remoção de conteúdo ao medir a resposta ao discurso de ódio – a prevalência.
