Deepfakes na perspectiva da semiótica

Autores

  • Carlos Eduardo de Souza Pontifícia Universidade Católica de São Paulo, Faculdade de Ciências Exatas e Tecnologia, Programa de Pós-Graduação em Tecnologias da Inteligência e Design Digital, São Paulo, São Paulo, Brasil.
  • Lucia Santaella Pontifícia Universidade Católica de São Paulo, Faculdade de Ciências Exatas e Tecnologia, Programa de Pós-Graduação em Tecnologias da Inteligência e Design Digital, São Paulo, São Paulo, Brasil.

DOI:

https://doi.org/10.23925/1984-3585.2021i23p26-44

Palavras-chave:

Deepfake, Fake News, Semiótica, Peirce, Redes Sociais

Resumo

As notícias falsas são uma arma de desinformação conhecida, capaz de ameaçar o estado democrático. Em um momento em que as mídias tradicionais são constantemente atacadas e acusadas de fazerem parte de uma grande conspiração para manter o poder das classes dominantes, as pessoas transformaram as redes sociais em sua fonte primária de informação, pois nelas existe menos controle sobre o que circula e, pretensamente, trazem menor risco de manipulação pelas mídias tradicionais. Na intersecção de fatores como a democratização na produção de conteúdo sem qualquer supervisão, a personalização das mensagens que não confrontam o usuário e o estímulo ao compartilhamento, as fake news encontram um campo para florescer e se propagar. Em 2017 elas evoluíram, com o nome de deepfake, deixaram de ser apenas mensagens no formato de texto, para contar com a manipulação de imagens, áudios e vídeos. Sua capacidade de forjar a realidade de maneira praticamente imperceptível, até mesmo para especialistas, chamou a atenção das mídias e da academia. Para discutir os efeitos e as ameaças dessa tecnologia, e como combatê-las, esse artigo, baseado na semiótica desenvolvida por Peirce, aponta para o esforço feito pelos produtores do vídeo In Event of Moon Disaster em criar um conteúdo educativo para alertar as pessoas sobre as consequências das deepfakes.

Biografia do Autor

Carlos Eduardo de Souza, Pontifícia Universidade Católica de São Paulo, Faculdade de Ciências Exatas e Tecnologia, Programa de Pós-Graduação em Tecnologias da Inteligência e Design Digital, São Paulo, São Paulo, Brasil.

Carlos Eduardo de Souza é bacharel em Administração pela Universidade Presbiteriana Mackenzie e mestrando em Tecnologias da Inteligência e Design Digital, PUC-SP.

Lucia Santaella, Pontifícia Universidade Católica de São Paulo, Faculdade de Ciências Exatas e Tecnologia, Programa de Pós-Graduação em Tecnologias da Inteligência e Design Digital, São Paulo, São Paulo, Brasil.

Lucia Santaella é pesquisadora 1A do CNPq, professora titular da PUC-SP. Publicou 51 livros e organizou 24, além da publicação de mais de 400 artigos no Brasil e no exterior. Recebeu os prêmios Jabuti (2002, 2009, 2011 e 2014), o prêmio Sergio Motta (2005) e o prêmio Luiz Beltrão (2010).

Referências

ALLCOTT, Hunt; GENTZKOW, Matthew. Social media and fake news in the 2016 election. Journal of Economic Perspectives, v. 31, n. 2, p. 211-236, 2017.

ASHISH, Jaiman. AI generated synthetic media, aka deepfakes. Towards Data Science, 9 ago., 2020. Disponível em: towardsdatascience.com/ai-generated-synthetic-media-aka-deepfakes-7c021dea40e1. Acesso em: 13 jul. 2021.

ASHISH, Jaiman. Positive use cases of deepfakes. Towards Data Science, 14 ago. 2020. Disponível em: towardsdatascience.com/positive-use-cases-ofdeepfakes-49f510056387. Acesso em: 13 jul. 2021.

BATTAGLIA, Rafael. Afinal, o que são deepfakes? Super Interessante, 29 out. 2020. Disponível em: super.abril.com.br/tecnologia/afinal-o-quesao-deepfakes. Acesso em: 15 jul. 2021.

BERDUYGINA, Oksana N.; VLADIMIROVA, Tatyana N.; CHERNYAEVA, Elena V. Trends in the spread of fake news in mass media. Media Watch, v. 10, n. 1, p. 122-132, 2019.

BIGGIO, Federico; BUSTAMANTE, Victoria Vanessa dos Santos. Elusive masks: A semiotic approach of contemporary acts of masking. Lexia: Revista de Semiótica, v. 37-38, p. 141-164, 2021.

BORGES, Priscila Monteiro; GAMBARATO, Renira Rampazzo. The role of beliefs and behavior on Facebook: A semiotic approach to algorithms, fake news, and transmedia journalism. International Journal of Communication, v. 13, p. 603-618, 2019.

BOTHA, Johnny; PIETERSE, Heloise. Fake news and deepfakes: A dangerous threat for 21st century information security. Anais ICCWS 2020 15th International Conference on Cyber Warfare and Security. Academic Conferences and publishing limited, 2020, p. 57.

BROWN, Mike. Why ‘fake news’ won Collins dictionary’s word of the year. Inverse, 11 fev. 2017. Disponível em: inverse.com/article/38041-donald-trump-fake-news-word-of-the-year. Acesso em: 15 jul. 2021.

CHESNEY, Bobby; CITRON, Danielle. Deep fakes: A looming challenge for privacy, democracy, and national security. California Law Review, v.107, n. 6, p. 1753-1820, 2019.

CITTON, Yves. Could deep fakes uncover the deeper truth of an ontology of the networked images? The Nordic Journal of Aesthetics, v.30, n. 61-62, p. 46-64, 2021.

DAVE, Johnson. What is a deepfake? Everything you need to know about the AI-powered fake media. Insider, 22 jan. 2021. Disponível em: businessinsider.com/what-is-deepfake. Acesso em: 13 jul. 2021.

FERRAREZI, Fernanda; BORGES, Priscila. O que é e o que parece ser: Imagens criadas por inteligência artificial como elementos atuantes na pós-verdade. Anais… 43o Congresso Brasileiro de Ciências da Comunicação Virtual. INTERCOM – Sociedade Brasileira de Estudos

Interdisciplinares da Comunicação e Universidade Federal da Bahia, 1-10 dez. 2020, p. 388-416.

FIGUEIRA, Álvaro; OLIVEIRA, Luciana. The current state of fake news: Challenges and opportunities. Procedia Computer Science, v. 121, p. 817-825, 2017.

FLETCHER, John. Deepfakes, artificial intelligence, and some kind of dystopia: The new faces of online post-fact performance. Theatre Journal, v. 70, n. 4, p. 455-471, 2018.

FLOOD, Alison. Fake news is ‘very real’ word of the year for 2017. The Guadian, 02 nov. 2017. Disponível em: theguardian.com/books/2017/nov/02/fake-news-is-very-real-word-of-the-year-for-2017. Acesso em: 15 jul. 2021.

GUARDA, Rebeka F.; OHLSON, Marcia P.; ROMANINI, Anderson V. Disinformation, dystopia and post-reality in social media: A semioticcognitive perspective. Education for Information, v. 34, n. 3, p. 185-197, 2018.

HAO, Karen. Inside the strange new world of being a deepfake actor. MIT Technology Review, 09 out. 2020. Disponível em: technologyreview.com/2020/10/09/1009850/ai-deepfake-acting/ Acesso em: 15 jul. 2021.

KORSHUNOV, Pavel; MARCEL, Sébastien. Deepfakes: A new threat to face recognition?Assessment and detection. Idiap (Istituto Dalle Molle di Intelligenza Artificiale Percettiva) Research Report 18-2018, Martigny, 2018. Disponível em: publications.idiap.ch/downloads/reports/2018/Korshunov_Idiap-RR-18-2018.pdf. Acesso em: 15 jul. 2021.

MIRSKY, Yisroel; LEE, Wenke. The creation and detection of deepfakes. ACM Computing Surveys, v. 54, n. 1, p.1-41, 2021.

MOONDISASTER. Resources. Disponível em: moondisaster.org/about. Acesso em: 15 jul. 2021.

NÖTH, Winfried. Reconstruções semióticas da realidade: Reflexões sobre a realidade puramente objetiva de John Deely. TECCOGS: Revista de Tecnologias Cognitivas, n. 13, p. 132-140, 2016.

PEIRCE, Charles S. Fraser’s “The Works of George Berkeley”. North American Review, v. 113, p. 449-472, out. 1871.

ROMANINI, Anderson Vinicius; OHLSON, Márcia Pinheiro. De elos bem fechados: O pragmatismo e a semiótica peirceana como fundamentos para a tecnologia blockchain utilizada no combate às fake news. Revista Communicare, São Paulo, v. 18, n. 2, p. 60-73, 2018.

SANTAELLA, Lucia. A pós-verdade é verdadeira ou falsa? (Coleção Interrogações). Barueri: Estação das Letras e Cores, 2018.

SANTAELLA, Lucia. A semiótica das fake news. Verbum – Cadernos de pósgraduação, v. 9, n. 2, p. 9-25, 2020.

WAAL, Cornelis de. Peirce: A Guide for the Perplexed. London: Bloomsbury, 2013.

WESTERLUND, Mika. The emergence of deepfake technology: A review. Technology Innovation Management Review, v. 9, n. 11, p. 39-52, 2019.

Downloads

Publicado

2021-10-12

Edição

Seção

Artigos