Deepfake e as consequências sociais da mecanização da desconfiança

Autores

  • Lucia Santaella Pontifícia Universidade Católica de São Paulo, Faculdade de Ciências Exatas e Tecnologia, Programa de Pós-Graduação em Tecnologias da Inteligência e Design Digital, São Paulo, São Paulo, Brasil.
  • Marcelo de Mattos Salgado Pontifícia Universidade Católica de São Paulo, Faculdade de Ciências Exatas e Tecnologia, Programa de Pós-Graduação em Tecnologias da Inteligência e Design Digital, São Paulo, São Paulo, Brasil.

DOI:

https://doi.org/10.23925/1984-3585.2021i23p90-103

Palavras-chave:

Deepfake, Inteligência Artificial, Confiança, Controle, Redes digitais

Resumo

O artigo tem origem em trabalhos anteriores que analisaram a crise de confiança na sociedade e como esta seria paradoxalmente impulsionada, em parte, por avanços como o blockchain, tecnologia de segurança baseada em algoritmos de Inteligência Artificial. Ao mecanizar a confiança, o blockchain paradoxalmente reduz sua importância ou até torna a mesma desnecessária como elemento dos laços entre duas partes humanas. Tal inovação contribui para mudar gradualmente a dinâmica do sistema social da confiança interpessoal para uma sociedade do controle, ao substituir a confiança entre indivíduos por tecnologias de segurança e concentração de dados nas mãos de poucos – em particular, as big techs e burocracias estatais. Já a deepfake é uma manipulação audiovisual que também se baseia na contemporânea tecnologia algorítmica do deep learning e do machine learning. No entanto, o objetivo da deepfake é criar representações e percepções alternativas – e propositadamente falsas – da realidade, efetivamente mecanizando a desconfiança entre seres humanos. Este texto procura avaliar, desde o trabalho anterior, as consequências do deepfake para as relações humanas e a sociedade no contexto da crise de confiança.

Biografia do Autor

Lucia Santaella, Pontifícia Universidade Católica de São Paulo, Faculdade de Ciências Exatas e Tecnologia, Programa de Pós-Graduação em Tecnologias da Inteligência e Design Digital, São Paulo, São Paulo, Brasil.

Lucia Santaella é pesquisadora 1A do CNPq, professora titular da PUC-SP. Publicou 51 livros e organizou 24, além da publicação de mais de 400 artigos no Brasil e no exterior. Recebeu os prêmios Jabuti (2002, 2009, 2011 e 2014), o prêmio Sergio Motta (2005) e o prêmio Luiz Beltrão (2010).

Marcelo de Mattos Salgado, Pontifícia Universidade Católica de São Paulo, Faculdade de Ciências Exatas e Tecnologia, Programa de Pós-Graduação em Tecnologias da Inteligência e Design Digital, São Paulo, São Paulo, Brasil.

Marcelo de Mattos Salgado é doutorando na PUC-SP (TIDD), jornalista e professor. Estuda o aumento da polarização nas redes digitais desde 2016.

Referências

BECKER, Lawrence. Trust as noncognitive security about motives. Ethics, Chicago, v. 107, p. 43-61, 1996.

BRENAN, Megan. Americans remain distrustful of mass media. Gallup. Politics, September 30, 2020. Disponível em: news.gallup.com/poll/321116/americans-remain-distrustful-mass-media.aspx. 2020. Acesso em: 29 abr. 2021.

D’CRUZ, Jason. Trust and distrust. In: SIMON, Judith (ed.). The Routledge handbook of trust and philosophy. London: Routledge, 2020, p. 41-51.

EDELMAN Trust Barometer 2021. Disponível em: edelman.com/ sites/g/files/aatuss191/files/2021-01/2021-edelman-trust-barometer.pdf. 2021. Acesso em: 29 abr. 2021.

HAN, Byung-Chul. A sociedade da transparência. Lisboa: Relógio D’Água, 2014.

HAN, Byung-Chul. No enxame. São Paulo: Vozes, 2018.

HARARI, Yuval. The world after coronavirus. Financial Times, March 20, 2020. Disponível em: ft.com/content/19d90308-6858-11ea-a3c9-1fe6fedcca75. Acesso em: 29 jun. 2021.

HAWLEY, Katherine. Trust, distrust and commitment. Noûs, Hoboken, NJ, v. 48, n. 1, 2014, p. 1–20. Disponível em: onlinelibrary.wiley.com/doi/epdf/10.1111/nous.12000. 2014. Acesso em: 29 jun. 2021.

KARNOUSKOS, Stamatis. Artificial Intelligence in digital media: the era of deepfakes. In: IEEE Transactions on Technology and Society, v. 1, n. 3, Sept. 2020, p. 138-147. Disponível em: researchgate.net/publication/ 342795647_Artificial_Intelligence_in_Digital_Media_The_Era_of_Deepfakes. 2020. Acesso em: 28 jun. 2021.

LIU, Xiao et al. Shaping the future of the Internet of bodies: new challenges of technology governance (Briefing Paper, World Economic Forum, July 2020). Disponível em: weforum.org/docs/WEF_IoB_briefing_paper_2020.pdf. 2020. Acesso em: 10 jul. 2021.

NEWMAN, Nic, et al. Reuters Institute Digital News Report 2019. Oxford. Disponível em: reutersinstitute.politics.ox.ac.uk/sites/default/files/2019-06/DNR_2019_FINAL_0.pdf. 2019. Acesso em: 9 jun. 2021.

NEWMAN, Nic, et al. Reuters Institute Digital News Report 2020. Oxford. Disponível em: reutersinstitute.politics.ox.ac.uk/risj-review/googleand-university-oxford-agree-extension-support-digital-news-projectaugust-2020. Acesso em: 9 jun. 2021.

NEWMAN, Nic, et al. Reuters Institute Digital News Report 2021. Oxford. Disponível em: reutersinstitute.politics.ox.ac.uk/digital-newsreport/2021. Acesso em: 12 jul. 2021.

NOBREGA, Ighor. PoderData mostra queda de confiança dos brasileiros na imprensa. Poder 360, 29 dez. 2020. Disponível em: poder360.com. br/poderdata/poderdata-mostra-queda-de-confianca-dos-brasileiros-naimprensa/. 2020. Acesso em: 8 jun. 2021.

PARIS, Britt; DONOVAN, Joan. Deepfakes and cheap fakes. Thousand Oaks: Sage (=Data & Society’s Media Manipulation research initiative). Disponível em: datasociety.net/wp-content/uploads/2019/09/DS_Deepfakes_Cheap_FakesFinal-1-1.pdf. 2019. Acesso em: 29 abr. 2021.

SALGADO, Marcelo. Blockchain e a crise de confiança na sociedade do controle. In: SANTAELLA, Lucia (org.). A expansão social do blockchain. São Paulo: EDUC, 2020. p. 25–39.

SANTAELLA, Lucia. Percepção: fenomenologia, ecologia, semiótica. São Paulo: Cengage Learning, 2012.

SANTAELLA, Lucia. Blockchain: de onde veio, onde está e para onde vai. In: SANTAELLA, Lucia (org.). A expansão social do blockchain. São Paulo: EDUC, 2020. p. 11–24.

SCHWAB, Klaus; MALLERET, Thierry. Covid-19: The great reset. La Vergne, TN: Lightning Source, 2020.

SMITH, Adam. The theory of moral sentiments. Indianapolis, IN: Liberty Fund, 1984.

STATCOUNTER GlobalStats. Browser market share worldwide, July 2020-July 2021. Disponível em: gs.statcounter.com/search-enginemarket-share. 2021. Acesso em: 8 jun. 2021.

TWENGE, Jean; CAMPBELL, W. Keith; CARTER, Nathan. Declines in trust in others and confidence in institutions among American adults and late adolescents, 1972–2012. Psychological Science, v. 25, n.10, p. 1914-1923, 2014. Acesso em: 28 jun. 2021.

WESTERLUND, Mika. The emergence of deepfake technology: a review. Technology Innovation Management Review, v. 9, n.11, p. 39-52, Nov. 2019. Acesso em: 29 abr. 2021.

WILLIAMS, Stephen. Blockchain: the next everything. New York, NY: Scribner, 2019.

Downloads

Publicado

2021-10-12

Edição

Seção

Artigos

Artigos mais lidos pelo mesmo(s) autor(es)

<< < 1 2