Com uma campanha eleitoral presidencial em andamento nos Estados Unidos, Facebook anunciou na segunda-feira que baniu vídeos e fotos manipulados, freqüentemente chamados de deepfakes, de suas plataformas.
A mudança de política foi anunciada através de uma postagem no blog na noite de segunda-feira, confirmando um relatório anterior de The Washington Post. Na postagem, Facebook disse que começaria a remover o conteúdo que foi editado “de maneira que não é aparente para uma pessoa comum e provavelmente enganaria alguém” e é criado por inteligência artificial ou algoritmos de aprendizado de máquina.
Mas a política inclui conteúdo que é paródia ou sátira, ou vídeo que foi editado para remover palavras ou alterar a ordem em que aparecem, disse a empresa.
Essa mudança de política ocorre antes da audiência da House Energy and Commerce em mídia manipulada, programada para quarta-feira. A autora do post de segunda-feira – Monika Bickert, FacebookVice-presidente de gerenciamento global de políticas – está definido para representar Facebook na frente dos legisladores na audiência desta semana.
A proibição dos deepfakes ocorre depois que um vídeo alterado da presidente da Câmara Nancy Pelosi (D-CA) se tornou viral nas plataformas de mídia social no verão passado. Este vídeo foi amplamente visto em Facebook, e quando procurado para comentar por The Verge na época, a empresa disse que não violava nenhuma das políticas da empresa. E a proibição de segunda-feira contra deepfakes também não parece cobrir vídeos como o clipe viral de Pelosi. Esse vídeo não foi criado pela IA, mas provavelmente foi editado usando um software prontamente disponível para prejudicar seu discurso.
Outras plataformas também foram capturadas no fogo cruzado após o vídeo de Pelosi, incluindo Twitter. Em novembro, Twitter começou a elaborar sua própria política de deepfakes e solicitou feedback dos usuários sobre as regras futuras da plataforma. A empresa ainda não emitiu nenhuma nova orientação sobre mídia manipulada.