​Generování škodlivého obsahu: ChatGPT Plus, Gemini a kyberbezpečnost

Duc Trung Tran

Bachelor's thesis

Harmful Content Generation: ChatGPT-4, Gemini, and Cybersecurity

Abstract:

Tato bakalářská práce se zaměřuje na problematiku využívání nástrojů ChatGPT-4 a Gemini ke generování škodlivých obsahů s potenciálním rizikem pro kybernetickou bezpečnost. Nabízí teoretické základy ohledně oblasti kybernetické bezpečnosti, LLM modelů, jejich nástrojů a problémů těchto technologií pro kybernetickou bezpečnost v současnosti. Mimo jiné, praktická část demonstruje schopnost zkoumaných nástrojů generovat malware, ransomware, phishingové e-maily, keylogger a SQL injection. Pomocí těchto nástrojů také došlo k úspěšné tvorbě jednoduchého škodlivého programu na základě předem stanoveného scénáře. Praktická analýza odhalila, že oba nástroje mohou generovat různorodé obsahy, které mohou být potenciálním rizikem pro kyberbezpečnost. Bylo zjištěno, že dokonce i uživatel bez pokročilých znalostí může tyto nástroje využít k vytváření škodlivého obsahu, přičemž klíčem k úspěchu je vhodná formulace a jazyk příkazů. Toto zjištění zdůrazňuje potřebu dalšího výzkumu v oblasti prompt inženýrství a zkoumání, jak různé jazykové varianty mají vliv na výstupy z LLM nástrojů či modelů.

Abstract:

This bachelor thesis focuses on the issue of using ChatGPT-4 and Gemini tools for generating malicious content with potential risks to cybersecurity. It provides theoretical foundations regarding cybersecurity, LLM models, their tools, and the problems these technologies pose to cybersecurity today. Moreover, the practical part demonstrates the ability of the examined tools to generate malware, ransomware, phishing emails, keyloggers, and SQL injections. Using these tools, a simple malicious program was also successfully created based on a predetermined scenario. The practical analysis revealed that both tools can generate a wide range of contents that could be a potential risk to cybersecurity. It was found that even users without advanced knowledge can use these tools to create malicious content, with the key to success being the correct formulation and language of commands. This finding emphasizes the need for further research around prompt engineering and examining how different language variants affect the outputs from LLM tools or models.

Keywords

Kyberbezpečnost, kybernetická bezpečnost, ChatGPT-4, LLM, Velké jazykové modely, Gemini

Keywords

Cybersecurity, cyber security, LLM, Large language models, ChatGPT-4, Gemini

Language used: Czech

Date on which the thesis was submitted / produced: 30. 4. 2024

Thesis defence

• Date of defence: 14. 6. 2024
• Supervisor: Marie Kovářová
• Reader: Miloš Maryška

Vysoká škola ekonomická v Praze

Bachelor programme:
Aplikovaná informatika