Em julho, o Google lançou um vídeo confirmando que o novo Pixel 4 A série será equipada com um recurso de desbloqueio facial mais seguro. Cerca de uma semana antes da divulgação do vídeo, foi divulgado um projeto que a empresa havia embarcado relacionado a um sistema de reconhecimento facial. Para testar e melhorar esse desbloqueio facial mais avançado, o Google visitou as principais cidades com um Pixel fortemente disfarçado 4 aparelho portátil; em troca de $5 Amazon ou cartão presente da Starbucks, os empreiteiros coletavam selfies e vídeos de pessoas aleatórias. Mas esse programa aparentemente inócuo tinha um tom racial, de acordo com o New York Daily News.
Assuntos aleatórios esperando na fila para obter um $5 Cartão presente Starbucks
Aparentemente, a atual tecnologia de reconhecimento facial teve problemas ao identificar usuários com pele mais escura. Para garantir que isso não se torne um problema com o sistema de desbloqueio facial, que será lançado no Pixel 4 linha e futuras iterações do recurso, o banco de dados que o Google está criando para os sem-teto em Atlanta, os participantes do show BET Awards em LA e os campi de faculdades nos EUA. Essas informações são de fontes do Daily News que trabalharam no projeto.
Os temporários que coletavam os dados foram instruídos a se concentrarem nos sem-teto, estudantes universitários e pessoas com pele mais escura
O relatório observou que os temps que coletaram o banco de dados para o Google eram conhecidos como TVCs, um acrônimo indicando que essas pessoas eram temporárias, contratadas ou fornecedores. Os salários foram pagos através de uma empresa terceirizada chamada Randstand. E os representantes indicaram que o Google usou métodos enganosos para obter essas imagens. Um dos TVCs disse ao jornal que “Foi-nos dito para não contar (às pessoas) que era um vídeo, apesar de dizer na tela que um vídeo foi gravado. Se a pessoa olhar para essa tela após a tarefa foi concluída e dizemos: ‘Oh, estava gravando um vídeo?’ … fomos instruídos a dizer: ‘Ah, não é verdade’. ”
“Realizamos regularmente pesquisas voluntárias. Para estudos recentes envolvendo a coleta de amostras de rosto para treinamento em aprendizado de máquina, existem dois objetivos. Primeiro, queremos criar justiça no Pixel 4recurso de desbloqueio de rosto. É fundamental que tenhamos uma amostra diversificada, que é uma parte importante da construção de um produto inclusivo. “- Google
Os temporários foram ensinados a abordar seus assuntos através de perguntas da pesquisa e a se afastar se alguém suspeitasse demais. Eles também foram orientados a atacar os sem-teto porque eram menos propensos a abordar a mídia sobre o programa. Os temporários também foram orientados a atingir estudantes universitários porque eles vivem com um orçamento apertado e estariam interessados nos US $5 Cartão Starbucks. Como um dos TVCs disse, “Eles (Google) estavam muito conscientes de todas as maneiras pelas quais você poderia incentivar uma pessoa e realmente se aprofundar no contexto da pessoa para torná-la quase irresistível”. Outra pessoa disse: “Sinto que eles queriam que atacássemos os fracos”.
Um Pixel fortemente disfarçado 4 coleta informações para melhorar o desbloqueio facial
E aqui está o que o discurso deles soou para aqueles que emprestam seu rosto e informações pessoais ao projeto. Kelly Yam, de 18 anos, lembrou todo o campo usado nela. “Eles apenas disseram: ‘Você deseja participar de uma pesquisa? Nós lhe daremos um cartão-presente da Starbucks. Tivemos que seguir um ponto com o nariz. Fiz a ação de segurar o telefone na minha cara. Talvez da próxima vez. Estarei mais ciente. Fiquei mais tentado com o vale-presente. Eles disseram que era uma pesquisa e pensávamos que eram estudantes. Acho que nem percebi que havia um formulário de consentimento “.
Outra olhada em um dos dispositivos usados para coletar imagens
O formulário de acordo que os sujeitos deveriam assinar observou que o Google poderia manter a imagem de seu rosto e qualquer outra informação “pelo tempo necessário para cumprir os propósitos que se espera que sejam daqui a cinco anos”. Ele também observou que o Google poderia agregar os dados da pesquisa, o que tornaria os participantes anônimos. No entanto, de acordo com o contrato, “não há limite para quanto tempo ou de que maneira o Google pode reter, usar ou compartilhar os dados agregados”. O contrato acrescenta que o Google pode reter, usar ou compartilhar dados de identificação não pessoal ou agregar dados sem limitação para qualquer finalidade “.
O acordo que os sujeitos precisavam assinar para receber seus $5 cartão