Deepfake e as consequências sociais da mecanização da desconfiança

Resumo

O artigo tem origem em trabalhos anteriores que analisaram a crise de confiança na sociedade e como esta seria paradoxalmente impulsionada, em parte, por avanços como o blockchain, tecnologia de segurança baseada em algoritmos de Inteligência Artificial. Ao mecanizar a confiança, o blockchain paradoxalmente reduz sua importância ou até torna a mesma desnecessária como elemento dos laços entre duas partes humanas. Tal inovação contribui para mudar gradualmente a dinâmica do sistema social da confiança interpessoal para uma sociedade do controle, ao substituir a confiança entre indivíduos por tecnologias de segurança e concentração de dados nas mãos de poucos – em particular, as big techs e burocracias estatais. Já a deepfake é uma manipulação audiovisual que também se baseia na contemporânea tecnologia algorítmica do deep learning e do machine learning. No entanto, o objetivo da deepfake é criar representações e percepções alternativas – e propositadamente falsas – da realidade, efetivamente mecanizando a desconfiança entre seres humanos. Este texto procura avaliar, desde o trabalho anterior, as consequências do deepfake para as relações humanas e a sociedade no contexto da crise de confiança.