Etické aspekty vývoje a užití umělé inteligence

Vojtěch Růžička

Diplomová práce

Ethical aspects of the development and use of artificial intelligence

Anotace:

Technologie umělé inteligence (AI) zaznamenala v posledních letech novou vlnu popularity. Posun v oblasti generativní AI a velkých jazykových modelů (LLM) přináší nové možnosti, zvyšuje lidskou efektivitu a mění celá odvětví. AI rychle proniká do všech aspektů našeho života a posouvá propojení člověka a stroje na novou úroveň. Její rychlý vzestup, ale přináší také nové technické, ekonomické, a především etické výzvy, díky jejímu širokému vlivu na jednotlivce a celou společnost. AI vyvolává obavy z pohledu soukromí, diskriminace, předsudků, bezpečnosti, transparentnosti nebo odpovědnosti. Hlavním cílem této diplomové práce je identifikace, analýza a diskurz týkající se klíčových etických otázek a dilemat spojených s AI a jejím využitím s cílem přispět k širšímu porozumění a uvědomění si potřeby etické reflexe v této oblasti. Teoretická část práce je věnována rozboru historického a technologického kontextu, vztahu AI a etiky, a podrobné diskusi stěžejních etických dilemat spjatých s adopcí AI. Na základě získaných poznatků je sestaven set kritických otázek s cílem otestovat reakce generativní AI v rozličných situacích, které mohou přinášet obavy z pohledu etiky. Celkově je testu podrobeno 10 předních LLM. Diskuse výsledků ukázala, že některé odpovědi vzbuzují obavy z pohledu morální vyspělosti, generalizace nebo zcela chybných výsledků. Testování potvrdilo neustálou potřebu lidského úsudku, důležitost kritického myšlení a nepostradatelnost pokračujícího výzkumu.

Abstract:

Artificial intelligence (AI) technology has seen a new wave of popularity in recent years. The advancement in generative AI and large-scale language models (LLM) is bringing new opportunities, increasing human efficiency, and changing entire industries. AI is rapidly infiltrating all aspects of our lives and taking the human-machine connection to a new level. But its rapid rise also brings new technical, economic, and above all ethical challenges, due to its wide impact on individuals and society. AI raises concerns in terms of privacy, discrimination, prejudice, security, transparency, or accountability. The main aim of this thesis is to identify, analyse and discuss key ethical issues and dilemmas related to AI and its use to contribute to a broader understanding and awareness of the need for ethical reflection in this field. The theoretical part of the thesis is devoted to an analysis of the historical and technological context, the relationship between AI and ethics, and a detailed discussion of the key ethical dilemmas associated with the adoption of AI. Based on the findings, a set of critical questions is constructed to test the responses of generative AI in different situations that may raise ethical concerns. In total, 10 leading LLMs are put to the test. Discussion of the results showed that some responses raise concerns from the perspective of moral maturity, generalization, or completely flawed results. The testing thus confirmed the constant need for human judgement, the importance of critical thinking and the indispensability of ongoing research.

Klíčová slova

etika, generativní umělá inteligence, umělá inteligence, velké jazykové modely

Keywords

generative artificial intelligence, ethics, artificial intelligence, large language models

Jazyk práce: čeština

Datum vytvoření / odevzdání či podání práce: 26. 6. 2024

Obhajoba závěrečné práce

• Obhajoba proběhla 2024
• Vedoucí: Jan Černý
• Oponent: Zdeněk Molnár

Vysoká škola ekonomická v Praze

Magisterský studijní program / obor:
Informační systémy a technologie / Business analýza