Há algumas semanas, toda a Internet estava repleta de fotos estranhas e surpreendentemente artísticas geradas por Inteligência Artificial que cria imagens a partir de texto. Essa IA é nada mais nada menos que DALL-E (ou DALL-E Mini, sua versão gratuita) da empresa OpenAI, que acaba de emitir um comunicado para anunciar que agora é possível editar imagens com rostos humanos usando seu popular IA.
Este recurso foi proibido anteriormente por medo de uso indevido. No entanto, os da OpenAI melhoraram seus filtros para eliminar imagens com “conteúdo sexual, político e violento”. O mais interessante desta notícia é que Você pode pedir ao DALL-E para mudar o rosto de uma pessoa para fazê-la parecer outra pessoa ou para mudar sua expressão. A IA também permitirá que você troque a roupa ou o penteado de alguém.
DALL-E agora pode mudar rostos, penteados e roupas, o risco de deepfakes aumenta?
DALL-E 2 o gerador de imagens de IA agora pode fazer variações de pessoas/rostos. Isto é o que acontece quando eu carrego minha foto de Twitter #dalle2 pic.twitter.com/kIZpEBNOGS
-Allan Harding (@allanharding) 19 de setembro de 2022
Diante de notícias como essa, é inevitável pensar que alguém usará o DALL-E para criar deepfakes e comprometer outras pessoas. Caso você não saiba, deepfake é a técnica que permite mude o rosto de uma pessoa em uma imagem ou vídeo com resultados tão realistas que podem enganar qualquer um. Para dar um exemplo de uso indevido, os deepfakes podem ser usados para fazer seu parceiro acreditar que você está cometendo uma infidelidade, ao colocar seu rosto na imagem de outro casal. É assim que os deepfakes são perigosos!
A OpenAI está ciente dos riscos representados por este novo recurso do DALL-E, por isso esclareceu o seguinte:
“Com melhorias em nosso sistema de segurança, o DALL-E agora está pronto para oferecer suporte a esses casos de uso interessantes e importantes – ao mesmo tempo que minimiza o potencial de danos causados por deepfakes.”
Em outras palavras, DALL-E detectará tentativas de deepfake e as tornará menos realistas para que ninguém caia na armadilha. Na teoria isso parece ótimo, mas veremos como funciona na prática.
Não se esqueça que nos termos e condições de utilização do DALL-E É proibido fazer upload de imagens de pessoas sem o seu consentimento, embora realmente não exista nenhum filtro ou medida que o impeça de fazer isso. Portanto, esperemos que os usuários sigam a moralidade e não manipulem a IA para seus fins maliciosos. Em fim, Quer ver do que o DALL-E é capaz? Aqui explicamos como experimentar o DALL-E 2.
