Audio deepfake
manipulation simulates real voice to portray someone saying something they did not say
DOI:
https://doi.org/10.23925/1984-3585.2021i23p45-68Keywords:
Deepfake, Audio deepfake, Artificial Intelligence, AlgorithmsAbstract
“Audio deepfake” is a part of the complex of deepfake, which is a form of the fake news (FN) produced with the purpose of deceiving the unwary. The study aims at understanding how audio deepfake spreads and exerts an ascendancy over the public,
distorting their way of thinking through unknown algorithms. The idea is to point out how the relationship between the (usurped) data and the analysis and monitoring of the media takes place to “better” direct those who receive the various kinds of misinformation. The main hypothesis is that the lack of protection of our personal data turns them into the raw material for the indiscriminate use of fraudulent information. The power of the resources of Artificial Intelligence techniques is examined, and a list of tools to manufacture and detect them is set up. In scrutinizing audio deepfakes inserted or not in video deepfakes and the damage they cause in their uncontrolled dissemination, the paper analyzes a malicious case of voice cloning and manipulation camouflaged as a risk report. The challenge to the ethics of information is discussed.
References
BOTS. The Media Manipulation Casebook. Disponível em: mediamanipulation.org/definitions/bots. Acesso em: 12 jul. 2021.
BUCCI, Eugênio. Existe democracia sem verdade factual? São Paulo: Estação das Letras e Cores, 2019.
DEEP LEARNING é tecnologia de aprendizado de máquina que mais cresce em todo o mundo. 2 out. 2017. Disponível em: unicamp.br/unicamp/noticias/2017/10/02/deep-learning-e-tecnologia-deaprendizado-de-maquina-que-mais-cresce-em-todo-o. Acesso em: 17 jul. 2021.
FRANCESCHI-BICCHIERAI, Lorenzo. 2020. Listen to This Deepfake Audio Impersonating a CEO in Brazen Fraud Attempt. 23 jul. 2020. Motherboard/Vice, 23 jul. 2020. Disponível em: vice.com/en/article/pkyqvb/deepfake-audio-impersonating-ceo-fraud-attempt. Acesso em 17jul. 2021.
GOGONI, Ronaldo. O que é deep fake e porque você deveria se preocupar com isso. Tecnoblog, 18 out. 2018. Disponível em: tecnoblog.net/264153/o-que-e-deep-fake-e-porque-voce-deveria-se-preocupar-comisso. Acesso em: 13 jul. 2021.
HAI – HUMAN-CENTERED ARTIFICIAL INTELLIGENCE, STANFORD UNIVERSITY. Artificial Intelligence Index Report 2021. Palo Alto, CA, 2021. Disponível em: aiindex.stanford.edu/wp-content/uploads/2021/03/2021-AI-Index-Report_Master.pdf. Acesso em: 15 jul. 2021.
HAMELEERS, Michael et al. A Picture Paints a Thousand Lies? The Effects and Mechanisms of Multimodal Disinformation and Rebuttals Disseminated. Social Media, Political Communication, v. 37, n. 2, p. 281-301, 2020.
HAO, Karen. How Facebook got addicted to spreading misinformation. MIT Technology Review, 11 mar. 2021. Disponível em: technologyreview. com/2021/03/11/1020600/facebook-responsible-ai-misinformation. Acesso em: 12 jul. 2021.
HARWELL, Drew. An artificial-intelligence first: Voice-mimicking software reportedly used in a major theft. The Washington Post, 4 set. 2019. Disponível em: washingtonpost.com/technology/2019/09/04/ an-artificial-intelligence-first-voice-mimicking-software-reportedly-usedmajor-theft. Acesso em: 14 jul. 2021.
JIN, Zeyu et al. Voco: text-based insertion and replacement in audio narration. ACM Transactions on Graphics, v. 36, n. 4, p. 1-13, jul. 2017.
JONES, M. Tim. Um guia para iniciantes sobre inteligência artificial, aprendizado de máquina e computação cognitiva. 1 jun. 2017. Disponível em: ibm.com/developerworks/br/library/guia-iniciantes-ia-maquinacomputacao-cognitiva/index.html. Acesso em: 12 jul. 2021.
LEADING Birmingham expert contributes to review on Artificial Intelligence. 13 fev. 2020. Disponível em: birmingham.ac.uk/university/colleges/eps/news/2020/2/leading-birmingham-expert-contributes-toreview-on-artificial-intelligence.aspx. Acesso em: 18 jul. 2021.
LEAL, Luziane de Figueiredo Simão; MORAES FILHO, José Filomeno de. Inteligência artificial e democracia: os algoritmos podem influenciar uma campanha eleitoral? Uma análise do julgamento sobre o impulsionamento de propaganda eleitoral na internet do Tribunal Superior Eleitoral. Direitos Fundamentais & Justiça, Belo Horizonte, ano 13, n. 41, p. 343-356, jul./dez. 2019.
LEE, Kai-Fu. AI Superpowers: China, Silicon Valley, and the New World Order. Boston, MA: Mariner Books, 2018.
LI, Yuezun; CHANG, Ming-Ching; LYU, Siwei. Ictu Oculi: Exposing AI Generated Fake Face Videos by Detecting Eye Blinking. ArXiv, vol. abs/1806.02877, 2018. Disponível em: arxiv.org/pdf/1806.02877.pdf. Acesso em: 04 ago. 2021.
MANOVICH, Lev. Can We Think Without Categories? Disponível em: manovich.net/content/04-projects/105-can-we-think-without-categories/manovich_can_we_think_without_categories_09_14_2018.pdf. Acesso em: 14 set. 2018.
MASOOD, Momina et al. Deepfakes Generation and Detection: State-ofthe-art, open challenges, countermeasures, and way forward. arXiv.org, 25 fev. 2021. Disponível em: arxiv.org/abs/2103.00484. Acesso em: 17 jul. 2021.
MESSARIS, P.; ABRAHAM, L. The role of images in framing news stories. In: REESE, Stephen D.; GANDY, Oscar H.; GRANT, August E. Grant (Eds.). Framing public life, Mahwah, NJ: Erlbaum, 2001, p. 215–226.
RECONTEXTUALIZED media. The Media Manipulation Casebook. Disponível em: mediamanipulation.org/definitions/recontextualizedmedia. Acesso em: 10 jul. 2021.
PRADO, Magaly. Inteligência artificial e algoritmos de enganação. In: SANTAELLA, Lucia (org.). Inteligência artificial & redes sociais. São Paulo: Educ, 2019. p. 57-72.
RAMONET, Ignácio. A opinião pública não quer a verdade, quer confirmar crenças. Entrevista a Cíntia Alves. GGN, 25 dez. 2018. Disponível em: jornalggn.com.br/midia/ignacio-ramonet-a-opiniaopublica-nao-quer-a-verdade-quer-informacoes-que-confirmam-suascrencas/amp. Acesso em: 17 jul. 2021.
SHNURENKO, Igor; MUROVANA, Tatiana; KUSHCHU, Ibrahim. Artificial Intelligence: Media and Information Literacy, Human Rights and Freedom of Expression. Moscow, Hove: UNESCO Institute for Information Technologies in Education, TheNextMinds, 2020.
SPENCER, Michael K. Deep Fake, a mais recente ameaça distópica. Outras Palavras, 30 maio 2019. Disponível em: outraspalavras.net/ tecnologiaemdisputa/deep-fake-a-ultima-distopia. Acesso em: 13 jul. 2021.
TANDOC, JR., Edson C.; WEI LIM, Zheng; LING, Richard. Defining “Fake News”: A typology of scholarly definitions. Digital Journalism, v. 6, n. 2, p. 137-153, 2017.
TRANSPARÊNCIA BRASIL. Recomendações de governança: uso de inteligência artificial pelo poder público. São Paulo, 2020. Disponível em: bit.ly/3xfOXY0. Acesso em: 17 jul. 2021.
UNITED KINGDOM. Centre for Data Ethics and Innovation. Online targeting: Final report and recommendations. London, 2020. Disponível em: gov.uk/government/publications/cdei-review-of-online-targeting/online-targeting-final-report-and-recommendations. Acesso em: 17 jul. 2021.
VERIFICATION Tools. Datajournalism.com. Disponível em: datajournalism.com/read/handbook/verification-1/verification-tools/10-verification-tools. Acesso em: 14 jul. 2021.
WARDLE, Claire. Fake news: It’s complicated. First Draft, 16 fev. 2017. Disponível em: firstdraftnews.org/articles/fake-news-complicated. Acesso em: 12 jul. 2021.
WARDLE, Claire. Information disorder: the essential glossary. 2018. Disponível em: firstdraftnews.org/wp- content/uploads/2018/07/infoDisorder_glossary.pdf. Acesso em: 12 jul. 2021.
Downloads
Published
Issue
Section
License
Copyright (c) 2021 Magaly Parreira do Prado
This work is licensed under a Creative Commons Attribution 4.0 International License.
Esta revista oferece acesso livre imediato ao seu conteúdo de acordo com a licença CC BY 4.0, em conformidade com a definição de acesso público do Directory of Open Access Journals (DOAJ).
Ao submeter um texto à TECCOGS, os autores asseguram que o material submetido à avaliação e eventual publicação não infringe de modo algum qualquer direito proprietário ou copyright de outros. Com a submissão, o autor transfere em efetivo os direitos de publicação do artigo para a TECCOGS. A transferência de copyright cobre os direitos exclusivos de publicação e distribuição do artigo, incluindo reimpressões ou quaisquer outras reproduções de natureza similar, além de traduções. Os autores mantém o direito de usar todo ou partes deste texto em trabalhos futuros de sua autoria e de conceder ou recusar a permissão a terceiros para republicar todo ou partes do texto ou de suas traduções. Para republicar números da revista na íntegra, qualquer interessado precisa obter permissão por escrito tanto dos autores como também dos editores da TECCOGS. A TECCOGS por si só pode conceder direitos relativos a emissões de periódicos como um todo.
Imagens com direitos autorais pertencentes a terceiros, que não foram concedidos ao autor do texto, devem ser utilizadas somente quando necessárias à análise e ao argumento da pesquisa, sempre indicando as respectivas fontes e autoria. A TECCOGS dispensa o uso de imagens meramente ilustrativas. Se desejar ilustrar um conceito, o autor deve indicar, em forma de URL ou referência bibliográfica, uma referência em que a ilustração esteja disponível.
---------------------------------------------------------------------------------
This journal offers free immediate access to its content under CC BY 4.0, in accordance with Directory of Open Access Journals' (DOAJ) definition of Open Acess.
When submitting a text to TECCOGS, authors ensure that the material submitted for evaluation and eventual publication does not infringe any proprietary right or copyright. Upon submission, authors effectively transfer the publication rights of the article to TECCOGS. The copyright transfer covers the exclusive rights of publication and distribution of the article, including reprints or any other reproduction of similar nature, in addition to translations. Authors retain the right to use all or parts of the text in future works of their own, as well as to grant or refuse permission to third parties to republish all or parts of the text or its translations. In order to fully republish issues of the magazine, anyone interested must obtain written permission from both the authors and the editors of TECCOGS. TECCOGS alone can grant rights relating to issues of journals as a whole.
Images whose copyright belongs to third parties that have not been granted to the author of the text should be used only when essential for the analysis and argument, always indicating theirs respective sources and authorship. TECCOGS dismisses any use of merely illustrative images. To illustrate a concept, the author must indicate, in the form of a URL or bibliographic reference, a source in which the illustration is available.
