Analýza chování konverzační textové umělé inteligence zaměřená na nežádoucí chování

Alena Jansová

Bakalářská práce

Analysis of Conversational Text-Based Artificial Intelligence Behavior Focused on Undesirable Behavior

Anotace:

Konverzační textová umělá inteligence se stává stále běžnější a přináší s sebou různé výhody a nevýhody. Tato práce se zaměřuje na chování konverzační textové umělé inteligence ChatGPT 3.5 od společnosti OpenAI z hlediska argumentačních faulů, kognitivních zkreslení a fenoménů behaviorální ekonomie. Identifikuje nežádoucí chování a potenciální rizika spojená s tímto AI, a to prostřednictvím analýzy a testování. Výsledky naznačují možnost manipulace s AI pomocí argumentačních faulů a potvrzují, že AI může reprodukovat lidská zkreslení. Dále ukazují, že nežádoucí chování AI může mít vážné dopady na společnost a to i v oblasti byznysu.

Abstract:

Conversational text-based artificial intelligence is becoming increasingly prevalent, presenting various benefits and drawbacks. This thesis focuses on the behavior of the conversational text-based artificial intelligence ChatGPT 3.5 from OpenAI in terms of logical fallacies, cognitive biases, and phenomena of behavioral economics. It identifies undesirable behaviors and potential risks associated with this AI through analysis and testing. The results suggest the possibility of manipulating AI using logical fallacies and confirm that AI can replicate hu- man biases. Furthermore, they indicate that the undesirable behavior of AI can have serious societal implications even in the realm of business.

Klíčová slova

chování umělé inteligence, kognitivní zkreslení, konverzační textová umělá inteligence, argumentační faul, behaviorální analýza, ChatGPT

Keywords

behavioral analysis, ChatGPT, artificial intelligence behaviour, cognitive bias, conversational text-based artificial intelligence, argumentation fallacy

Jazyk práce: čeština

Datum vytvoření / odevzdání či podání práce: 5. 5. 2024

Obhajoba závěrečné práce

• Obhajoba proběhla 2024
• Vedoucí: Tomáš Bruckner
• Oponent: Filip Vencovský

Vysoká škola ekonomická v Praze

Bakalářský studijní program:
Aplikovaná informatika