Přizpůsobení velkých jazykových modelů pro specifickou doménu

Ing. Martin Mlýnek

Diplomová práce

Customization of LLM for specific usages

Anotace:

Diplomová práce se zabývá studiem velkých jazykových modelů a cílem bylo vytvořit aplikaci NewsInsight, která zodpovídá na otázku ohledně aktuálních zpráv. Zvolený problém byl vyřešen pomocí metodiky Retrieval Augmented Generation a vytvoření prompt šablony. Při implementaci byla použita JavaScriptová knihovna React a pro komunikaci s velkým jazykovým modelem GPT-4 se využívá aplikačního rámce LangChain. V rámci testování je otestována funkčnost aplikace na aktuální zprávy. Závěrem je porovnána nemodifikovaná verze GPT-4 s modifikovanou verzí RAG.

Abstract:

The thesis focuses on the study of large language models and the goal was to create an application called NewsInsight, which answers questions about current news. The chosen problem was solved using the Retrieval Augmented Generation methodology and the creation of a prompt template. The implementation used the JavaScript library React, and for communication with the large language model GPT-4, the LangChain application framework was utilized. The functionality of the application on current news is tested as part of the testing. In conclusion, the unmodified version of GPT-4 is compared with the modified RAG version.

Klíčová slova

LLM, jazykový model, velký jazykový model, RAG, RAG aplikace, noviny, zpracování článků, prompt, NLP

Jazyk práce: čeština

Datum vytvoření / odevzdání či podání práce: 21. 5. 2024

Obhajoba závěrečné práce

• Obhajoba proběhla 17. 6. 2024
• Vedoucí: Mgr. Marek Grác, Ph.D.
• Oponent: RNDr. Adam Rambousek, Ph.D.

Masarykova univerzita

Fakulta informatiky

Magisterský studijní program / obor:
Softwarové inženýrství / Návrh a vývoj softwarových systémů