Generativní umělá inteligence pro syntézu obrazu

Tien Tran

Bachelor's thesis

Generative artificial intelligence for image synthesis

Abstract:

Tato bakalářská práce je věnována identifikaci a analýze potenciálních rizik, které přináší generativní umělá inteligence v oblasti syntézy obrazu. V rámci teoretické části bylo provedena literární rešerše, na základě které byly vymezeny klíčové pojmy spojené s generativní umělou inteligencí a jejími komponentami umožňujícími syntézu obrazu. Práce dále předkládá možná rizika a poskytuje uživatelům základní metodiku pro jejich mitigaci. V praktické části byl realizován kvantitativní výzkum prostřednictvím dotazníkového šetření s cílem odpovědět na výzkumné otázky. Dotazníku se účastnilo celkem 183 respondentů, kteří byli také testováni na schopnost rozlišovat syntetické obrázky od reálných fotografií. Výsledky výzkumu ukázaly, že téměř polovina respondentů má osobní zkušenosti s generativní umělou inteligencí pro syntézu obrazu a uvědomuje si s ní spojená rizika. Respondenti rovněž potvrdili, že je tato technologie zneužívána pro nekalé účely, včetně manipulace s veřejným míněním. Účastníci výzkumu byli schopni identifikovat v průměru přibližně polovinu syntetických obrázků. V budoucnu budou stále přesvědčivější výstupy generativní umělé inteligence představovat značnou výzvu. Proto je nezbytné vzdělávat širokou veřejnost a upozorňovat ji na možné hrozby.

Abstract:

This bachelor's thesis is devoted to the identification and analysis of potential risks brought by generative artificial intelligence in the field of image synthesis. As part of the theoretical part, a literature review was carried out, on the basis of which the key terms associated with generative artificial intelligence and its components enabling image synthesis were defined. The work also presents possible risks and provides users with a basic methodology for their mitigation. In the practical part, quantitative research was carried out through a questionnaire survey with the aim of answering the research questions. A total of 183 respondents took part in the questionnaire and were also tested on their ability to distinguish synthetic images from real photographs. The research results showed that almost half of the respondents have personal experience with generative artificial intelligence for image synthesis and are aware of the risks associated with it. Respondents also confirmed that this technology is being misused for malicious purposes, including manipulation of public opinion. On average, research participants were able to identify approximately half of the synthetic images. In the future, the increasingly convincing outputs of generative artificial intelligence will represent a considerable challenge. Therefore, it is necessary to educate the general public and alert them to possible threats

Keywords

bezpečnost, dezinformace, hluboké učení, deepfakes, umělá inteligence, strojové učení, generativní umělá inteligence, difuzní modely, syntéza obrazu, autorská práva, rizika

Keywords

disinformation, generative artificial intelligence, deepfakes, risks, image synthesis, copyright, diffusion models, artificial intelligence, machine learning, deep learning, security

Language used: Czech

Date on which the thesis was submitted / produced: 6. 5. 2024

Thesis defence

• Date of defence: 18. 6. 2024
• Supervisor: Ladislav Luc
• Reader: Richard Antonín Novák

Vysoká škola ekonomická v Praze

Bachelor programme:
Aplikovaná informatika