Acta Universitatis Carolinae Iuridica (dále jen AUCI) je hlavním časopisem Právnické fakulty UK. Vychází od roku 1954, patří tak mezi tradiční právnické časopisy teoretického zaměření.
Jako obecný právnický časopis přináší delší studie i kratší články o jakýchkoli relevantních otázkách v právní teorii i mezinárodním, evropském a vnitrostátním právu. AUCI také publikuje materiály vztahující se k aktuálním otázkám legislativy. AUCI je recenzovaný časopis a přijímá příspěvky od českých i zahraničních autorů. Příspěvky zahraničních autorů jsou zveřejňovány v původním jazyku – slovenštině, angličtině, němčině, francouzštině.
AUCI je teoretický časopis pro otázky státu a práva. Jeho vydavatelem je Univerzita Karlova v Praze, Právnická fakulta, prostřednictvím nakladatelství Karolinum. Vychází čtyřikrát ročně, termíny vydání časopisu naleznete zde.
Články uveřejněné v časopise AUCI procházejí nezávislým recenzním řízením (peer review), které je oboustranně anonymní. Posuzovatelé z daného oboru vyjadřují své stanovisko k vědecké kvalitě příspěvku a vhodnosti publikace v časopisu. V případě připomínek je stanovisko zasíláno zpět autorovi s možností přepracování textu (blíže viz Pokyny pro autory – Průběh recenzního řízení).
Časopis AUCI (ISSN 0323-0619) je evidován v České národní bibliografii (vedena Národní knihovnou ČR) a v Index to Foreign Legal Periodicals (veden American Association of Law Libraries). AUCI má přiděleno evidenční číslo periodického tisku e. č. MK E 18585.
V r. 2021 byl jako první časopis Právnické fakulty Univerzity Karlovy zařazen do prestižní mezinárodní databáze Scopus. Tato databáze společnosti Elsevier je největší abstraktovou a citační databází recenzované literatury na světě. Od zařazení do elitní databáze Scopus si redakce časopisu slibuje nejen zvýšení čtenosti časopisu, ale také nárůst zájmu o publikaci příspěvků jak českých, tak zahraničních autorů.
AUCI je tzv. časopisem otevřeným a veškerý jeho obsah je zveřejňován jak na webu fakulty, tak na webových stránkách nakladatelství Karolinum. Přístup k němu je bezplatný. Domovská stránka časopisu AUCI je na webových stránkách Nakladatelství Karolinum.
Časopis AUCI využívá licenci Creative Commons: CC BY 4.0.
Dlouhodobou archivaci digitálního obsahu časopisu zajišťuje Portico.
AUC IURIDICA, Vol 71 No 2 (2025), 115–131
Právo versus deepfakes
[Law Versus Deepfakes]
Tina Mizerová
DOI: https://doi.org/10.14712/23366478.2025.394
zveřejněno: 29. 05. 2025
Abstract
The text focuses on deepfakes, which is audiovisual content created by artificial intelligence that depicts people, things or events and which the audience perceive as authentic or realistic. The proliferation of deepfakes in cyberspace entails a wide risk of their misuse. The aim of the text is to introduce and describe deepfakes, their misuse and analyse regulation which targets deepfakes and their dissemination. The regulation includes mainly the European regulation of digital space, i.e., the AI Act, Digital Services Act, GDPR and other related regulation. In addition to the analysis of concrete regulation, the text addresses the question of whether regulation can prevent the dangerous misuse of deepfakes and respond to the negative consequences of such proliferation.
klíčová slova: deepfake; artificial inteligence; Artificial Inteligence Act; Digital Services Act; authenticity; transparency
reference (64)
1. About AI-generated content. In: TikTok Help Center [online]. 2024 [cit. 2024-10-06]. Dostupné na: https://support.tiktok.com/en/using-tiktok/creating-videos/ai-generated-content.
2. AOUF, R. S. Museum creates deepfake Salvador Dalí to greet visitors. In: Dezeen [online]. 24. 5. 2019 [cit. 2024-05-20]. Dostupné na: https://www.dezeen.com/2019/05/24/salvador-dali-deepfake-dali-musuem-florida/.
3. ANTOGNINI, A. - WOODS, A. K. Shallow Fakes. Penn State Law Review. 2023, Vol. 128, No. 69, s. 69-126.
4. APPEL, M. - PRIETZEL, F. The detection of political deepfakes. Journal of Computer-Mediated Communication. 2022, Vol. 27, No. 4, s. 1-13. CrossRef
5. BAILENSON, J. N. - HANCOCK, J. T. The Social Impact of Deepfakes. Cyberpsychology, Behavior, and Social Networking. 2021, Vol. 24, No. 3, s. 149-153. CrossRef
6. BALLOVÁ, D. Falešné snímky Taylor Swift zaplavily internet. Ženy a děti jsou stále častěji obětí deepfake. In: Deník N [online]. 7. 2. 2024 [cit. 2024-05-22]. Dostupné na: https://denikn.cz/1346164/falesne-snimky-taylor-swift-zaplavily-internet-zeny-a-deti-jsou-stale-casteji-obeti-deepfake/.
7. BENÍŠKOVÁ, E. "Někdo hodil mou fotku do AI, aby mě svlékl." Tři české influencerky o své zkušenosti s novou formou sexuálního obtěžování. In: HEY FOMO [online]. 22. 10. 2023 [cit. 2024-05-06]. Dostupné na: https://heyfomo.cz/nekdo-hodil-mou-fotku-do-ai-aby-me-svlekl-tri-ceske-influencerky-o-sve-zkusenosti-s-novou-formou-sexualniho-obtezovani.
8. BREJČÁK, P. Deepfake v byznysu: Kolega volal s mou kopií čtvrt hodiny, říká šéf miliardového GymBeamu. In: CzechCrunch [online]. 16. 8. 2023 [cit. 2024-05-06]. Dostupné na: https://cc.cz/deepfake-v-byznysu-kolega-volal-s-mou-kopii-ctvrt-hodiny-rika-sef-miliardoveho-gymbeamu/.
9. BENGIO, Y. - HINTON, G. - LECUN, Y. Deep learning. Nature. 2015, Vol. 521, No. 7553, s. 436-444. CrossRef
10. BROOKS, T. a kol. The increasing threat of deepfake identitites. In: U.S. Department of Homeland Security [online]. 2019 [cit. 2024-05-06]. Dostupné na: https://www.dhs.gov/sites/default/files/publications/increasing_threats_of_deepfake_identities_0.pdf.
11. CITRON, D. K. - CHESNEY, R. Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security. California Law Review. 2019, Vol. 107, No. 1753, s. 1753-1882.
12. DELFINO, R. Deepfakes on Trial: A Call to Expand the Trial Judge'S Gatekeeping Role to Protect Legal Proceedings from Technological Fakery. Hastings Law Journal. 2022, Vol. 74, No. 2, s. 293-348. CrossRef
13. DHANESH, G. - DUTHLER, G. - LI, K. Social media engagement with organization-generated content: Role of visuals in enhancing public engagement with organizations on Facebook and Instagram. Public Relations Review. 2022, Vol. 48, No. 2, s. 1-10. CrossRef
14. Disclosing use of altered or synthetic content. In: YouTube Help [online]. 2024 [cit. 2024-10-06]. Dostupné na: https://support.google.com/youtube/answer/14328491#examples_as.
15. Doporučení pro využívání umělé inteligence na základních a středních školách. In: Národní pedagogický institut České republiky [online]. 2024 [cit. 2024-10-13]. Dostupné na: https://digitalizace.rvp.cz/files/ai-doporuceni-online-a4.pdf.
16. Facing reality?: Law enforcement and the challenge of deepfakes: An observatory report from the Europol innovation lab. In: European Union: Publications Office of the European Union [online]. 4. 3. 2024 [cit. 2024-10-06]. Dostupné na: https://data.europa.eu/doi/10.2813/158794.
17. FARID, H. Creating, Using, Misusing, and Detecting Deep Fakes. Journal of Online Trust and Safety. 2022, Vol. 1, No. 4, s. 1-33. CrossRef
18. FIRC, A. - HANÁČEK, P. - MALINKA, K. Deepfakes as a threat to a speaker and facial recognition: An overview of tools and attack vectors. Heliyon. 2023, Vol. 9, No. 4, s. 1-33. CrossRef
19. GEISE, S. Visual Framing. In: RÖSSLER, P. (ed.). The International Encyclopedia of Media Effects. Chichester: Wiley Blackwell, 2017, s. 2051-2062. CrossRef
20. Generative AI: The Data Protection Implications. In: Confederation of European Data Protection Organizations (CEDPO) [online]. 16. 10. 2023 [cit. 2024-10-13]. Dostupné na: https://cedpo.eu/wp-content/uploads/generative-ai-the-data-protection-implications-16-10-2023.pdf.
21. GOODFELLOW, I. a kol. Generative Adversarial Nets. In: GHAHRAMANI, Z. - WELLING, M. a kol. (eds.). Advances in Neural Information Processing Systems 27 (NIPS 2014). Montreal: Curran Associates, 2014, s. 1-9.
22. GRABER, D. A. Seeing Is Remembering: How Visuals Contribute to Learning from Television News. Journal of Communication. 1990, Vol. 40, No. 3, s. 134-156. CrossRef
23. GUY, J. Outcry in Spain as artificial intelligence used to create fake naked images of underage girls. In: CNN [online]. 20. 9. 2023 [cit. 2024-05-22]. Dostupné na: https://www.cnn.com/2023/09/20/europe/spain-deepfake-images-investigation-scli-intl/index.html.
24. HANG, L. - SHUPEI, J. "I know it's a deepfake": the role of AI disclaimers and comprehension in the processing of deepfake parodies. Journal of Communication. 2024, Vol. 74, No. 5, s. 1-15. CrossRef
25. HAO, K. The biggest threat of deepfakes isn't the deepfakes themselves. In: MIT Technology Review [online]. 10. 10. 2019 [cit. 2024-05-13]. Dostupné na: https://www.technologyreview.com/2019/10/10/132667/the-biggest-threat-of-deepfakes-isnt-the-deepfakes-themselves/.
26. CHADWICK, A. - VACCARI, C. Deepfakes and Disinformation: Exploring the Impact of Synthetic Political Video on Deception, Uncertainty, and Trust in News. Social Media + Society. 2020, Vol. 6, No. 1, s. 1-13. CrossRef
27. Imagery Vs Text. Which does the brain prefer? In: World of Learning [online]. 7. 9. 2015 [cit. 2024-07-06]. Dostupné na: https://www.learnevents.com//learning-insights/imagery-vs-text-which-does-the-brain-prefer/.
28. JUEFEI-XU, F. a kol. Countering Malicious DeepFakes: Survey, Battleground, and Horizon. arXiv. 2022, No. 2103.00218, s.1-49.
29. KIETZMANN, J. a kol. Deepfakes: Trick or treat? Business Horizons. 2020, Vol. 63, No. 2, s. 135-146. CrossRef
30. KISCHINHEVSKY, M. a kol. WhatsApp audios and the remediation of radio: Disinformation in Brazilian 2018 presidential election. Radio Journal: International Studies in Broadcast & Audio Media. 2020, Vol. 18, No. 2, s. 139-158. CrossRef
31. Kodex zásad boje proti dezinformacím. 2022.
32. KRANZBERG, M. Technology and History: "Kranzberg's Laws". Technology and Culture. 1986, Vol. 27, No. 3, s. 544-560. CrossRef
33. ŁABUZ, M. Regulating Deep Fakes in the Artificial Intelligence Act. Applied Cybersecurity & Internet Governance. 2023, Vol. 2, No. 1, s. 1-42. CrossRef
34. LAWSON, A. A Look at Global Deepfake Regulation Approaches. In: Responsible AI [online]. 24. 4. 2023 [cit. 2024-10-13]. Dostupné na: https://www.responsible.ai/a-look-at-global-deepfake-regulation-approaches/.
35. LI, Y. - XIE, Y. Is a Picture Worth a Thousand Words? An Empirical Study of Image Content and Social Media Engagement. Journal of Marketing Research. 2020, Vol. 57, No. 1, s. 1-19. CrossRef
36. Many AI researchers think fakes will become undetectable. In: The Economist [online]. 17. 1. 2024 [cit. 2024-10-20]. Dostupné na: https://www.economist.com/science-and-technology/2024/01/17/many-ai-researchers-think-fakes-will-become-undetectable.
37. MARTEL, C. - RAND, D. G. Misinformation warning labels are widely effective: A review of warning effects and their moderating features. Current Opinion in Psychology. 2023, Vol. 54. CrossRef
38. MESARČÍK, M. a kol. Stance on The Proposal for a Regulation Laying Down Harmonised Rules on Artificial Intelligence: Artificial Intelligence Act. In: ResearchGate [online]. 2022 [cit. 2024-10-20]. Dostupné na: https://www.researchgate.net/publication/359116983_Stance_on_The_Proposal_for_a_Regulation_Laying_Down_Harmonised_Rules_on_Artificial_Intelligence_-_Artificial_Intelligence_Act. CrossRef
39. MILLER, M. Deepfakes: Real Threat. In: KPMG [online]. 2023 [cit. 2024-05-28]. Dostupné na: https://kpmg.com/kpmg-us/content/dam/kpmg/pdf/2023/deepfakes-real-threat.pdf.
40. Nařízení Evropského parlamentu a Rady (EU) 2016/679 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů.
41. Nařízení Evropského parlamentu a Rady (EU) 2022/2065 ze dne 19. října 2022 o jednotném trhu digitálních služeb.
42. Nařízení Evropského parlamentu a Rady (EU) 2024/1689 ze dne 13. června 2024, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci.
43. NG, K. Telegram apologises for handling of deepfake porn material. In: BBC [online]. 4. 9. 2024 [cit. 2024-10-20]. Dostupné na: https://www.bbc.com/news/articles/cvg45kz47dno.
44. O'BRIAN, M. Illness took away her voice: AI created a replica she carries in her phone. In: AP News [online]. 13. 5. 2024 [cit. 2024-05-22]. Dostupné na: https://apnews.com/article/ai-recreating-lost-voice-illness-a6512c33481072c22182c116d2cbe419.
45. Our Approach to Labeling AI-Generated Content and Manipulated Media. In: Meta [online]. 5. 4. 2024 [cit. 2024-08-02]. Dostupné na: https://about.fb.com/news/2024/04/metas-approach-to-labeling-ai-generated-content-and-manipulated-media/.
46. PANCER, E. - POOLE, M. The popularity and virality of political social media: hashtags, mentions, and links predict likes and retweets of 2016 U.S. presidential nominees' tweets. Social Influence. 2016, Vol. 11, No. 4, s. 259-270. CrossRef
47. ROMERO MORENO, F. Generative AI and deepfakes: a human rights approach to tackling harmful content. International Review of Law, Computers & Technology. 2024, Vol. 38, No. 3, s. 297-326. CrossRef
48. Sdělení komise: Pokyny pro poskytovatele velmi velkých online platforem a velmi velkých internetových vyhledávačů ke zmírňování systémových rizik pro volební procesy podle čl. 35 odst. 3 nařízení (EU) 2022/2065.
49. Směrnice Evropského parlamentu A Rady (EU) 2024/1385 ze dne 14. května 2024 o potírání násilí na ženách a domácího násilí.
50. SMUHA, N. a kol. Etické pokyny pro zajištění důvěryhodnosti UI. In: Úřad pro publikace Evropské unie [online]. 2019 [cit. 2024-10-20]. Dostupné na: https://op.europa.eu/cs/publication-detail/-/publication/d3988569-0434-11ea-8c1f-01aa75ed71a1.
51. SOMMERS, M. Deepfakes, explained. In: MIT Sloan [online]. 2. 5. 2024 [cit. 2024-05-06]. Dostupné na: https://mitsloan.mit.edu/ideas-made-to-matter/deepfakes-explained.
52. VAN DER SLOOT, B. - WAGENSVELD, Y. Deepfakes: regulatory challenges for the synthetic society. Computer Law & Security Review. 2022, Vol. 46, s. 1-15. CrossRef
53. Stáhněte si manuál DEEPFAKE 2024: Obranná strategie pro české firmy. In: Česká asociace umělé inteligence [online]. 27. 12. 2023. [cit. 2024-05-31]. Dostupné na: https://asociace.ai/deepfake-2024/.
54. STARCEVIC, S. Italy's Giorgia Meloni called to testify in deepfake porn case. In: POLITICO [online]. 21. 3. 2024 [cit. 2024-05-22]. Dostupné na: https://www.politico.eu/article/italian-pm-giorgia-meloni-called-to-testify-in-deepfake-porn-case/.
55. SUKHANOVA, K. AI Image Generator Market Statistics - What Will 2024 Bring? In: The Tech Report [online]. 19. 1. 2024 [cit. 2024-07-01]. Dostupné na: https://techreport.com/statistics/software-web/ai-image-generator-market-statistics/.
56. SVOBODOVÁ, I. Jak snadno zmanipulovat volby. In: Týdeník Respekt [online]. 21. 10. 2023 [cit. 2024-05-22]. Dostupné na: https://www.respekt.cz/tydenik/2023/43/jak-snadno-zmanipulovat-volby.
57. ŠVIHEL, P. Přišli jsme o všechno a stydíme se. Pár uvěřil, že investice zaštiťuje Petr Pavel. In: Seznam Zprávy [online]. 25. 4. 2023 [cit. 2024-05-28]. Dostupné na: https://www.seznamzpravy.cz/clanek/domaci-zivot-v-cesku-podvodnici-se-zastitili-prezidentovym-jmenem-seniorsky-par-prisel-o-vsechno-229909.
58. TKÁČOVÁ, N. Dezinformace na Telegramu v České republice: organizační a finanční pozadí. In: Prague Security Studies Institute [online]. 23. 1. 2024 [cit. 2024-10-06]. Dostupné na: https://www.pssi.cz/download//docs/10993_dezinformace-na-telegramu-v-ceske-republice-organizacni-a-financni-pozadi.pdf.
59. TOPARLAK, R. T. The false promise of transparent deep fakes. In: Hertie School Centre for Digital Governance [online]. 9. 11. 2022 [cit. 2024-07-02]. Dostupné na: https://www.hertie-school.org/en/digital-governance/research/blog/detail/content/the-false-promise-of-transparent-deep-fakes-how-transparency-obligations-in-the-draft-ai-act-fail-to-deal-with-the-threat-of-disinformation-and-image-based-sexual-abuse.
60. VAN HUIJSTEE, M. a kol. Tackling deepfakes in European policy. In: Úřad pro publikace Evropské unie [online]. 3. 2. 2022 [cit. 2024-10-13]. Dostupné na: https://data.europa.eu/doi/10.2861/325063.
61. Většina české populace neví, co je "deepfake". In: CEDMO [online]. 14. 3. 2024 [cit. 2024-05-23]. Dostupné na: https://cedmohub.eu/cs/vetsina-ceske-populace-nevi-co-je-deepfake/.
62. VRLÁK, M. Pavel varuje před deepfake. In: ČT24 - Česká televize [online]. 6. 7. 2024 [cit. 2024-07-12]. Dostupné na: https://ct24.ceskatelevize.cz/clanek/domaci/pavel-varuje-pred-deepfake-nikdo-z-ustavnich-cinitelu-by-nedelal-reklamu-pochybne-komercni-350902.
63. YANG, Z. Deepfakes of your dead loved ones are a booming Chinese business. In: MIT Technology Review [online]. 7. 5. 2024. [cit. 2024-10-13]. Dostupné na: https://www.technologyreview.com/2024/05/07/1092116/deepfakes-dead-chinese-business-grief/.
64. Zákon, kterým se mění zákon č. 40/2009 Sb., trestní zákoník, ve znění pozdějších předpisů, zákon č. 141/1961 Sb., o trestním řízení soudním (trestní řád), ve znění pozdějších předpisů, a další související zákony. In: Portál informačního systému ODok Úřadu vlády České republiky [online]. 26. 3. 2024 [cit. 2024-07-02]. Dostupné na: https://www.odok.cz/portal/veklep/material/KORND3QJZZZ3/.
Právo versus deepfakes is licensed under a Creative Commons Attribution 4.0 International License.
230 x 157 mm
vychází: 4 x ročně
cena tištěného čísla: 65 Kč
ISSN: 0323-0619
E-ISSN: 2336-6478
