Bc. Vojtěch BARTIČKA
Master's thesis
Atribuční metody pro Transformer modely
Attribution methods for explaining Transformers
Abstract:
In this thesis, we evaluate multiple attribution methods applicable to Transformer models using the SST and CTDC datasets. We extend the CTDC dataset by adding ground-truth annotations based on keywords and pointwise mutual information, creating a ground-truth evaluation benchmark for the Czech language. We fine-tune seven models of various sizes and architectures with five instances each, allowing …moreAbstract:
Tato práce zkoumá atrubuční metody aplikovatelné na Transformer modely pomocí datových sad SST a CTDC. Do datové sady CTDC přidáváme anotace založené na klíčových slovech a bodové vzájemné informaci, čímž umožňujeme evaluaci atribučních metod na české datové sadě. Používáme sedm modelů různých velikostí a architektur, každý s pěti instancemi, což nám umožňuje měřit vliv náhodné inicializace a velikosti …more
Language used: English
Date on which the thesis was submitted / produced: 18. 5. 2023
Accessible from:: 31. 12. 2999
Thesis defence
- Supervisor: Ing. Ondřej Pražák
Citation record
The right form of listing the thesis as a source quoted
BARTIČKA, Vojtěch. Atribuční metody pro Transformer modely. Plzeň, 2023. diplomová práce (Ing.). ZÁPADOČESKÁ UNIVERZITA V PLZNI. Fakulta aplikovaných věd
Full text of thesis
Accessibility: Autor si nepřeje zpřístupnění práce veřejnosti
Contents of on-line thesis archive
Published in Theses:- Soubory jsou nedostupné.
Other ways of accessing the text
Institution archiving the thesis and making it accessible: ZÁPADOČESKÁ UNIVERZITA V PLZNI, Fakulta aplikovaných vědVázaný výtisk práce naleznete v Univerzitní knihovně ZČU, více na http://www.knihovna.zcu.cz/kvalifikacni-prace/
University of West Bohemia
Faculty of Applied SciencesMaster programme / field:
Computer Science and Engineering / Software Engineering
Theses on a related topic
-
Vysvětlitelná umělá inteligence
František KOLEŇÁK -
Zpracování přirozeného jazyka: analýza mluveného jazyka studentů oboru informační technologie
Aleksandar Stanković -
Zpracování přirozeného jazyka ve videohrách: Případová studie AI Dungeon
Viktor Porokh -
Zpracování nových gramatických fenoménů v logické analýze přirozeného jazyka
Renáta Pivodová -
Geocoding služba s využitím zpracování přirozeného jazyka
Tomáš Večeřa -
Implementace uživatelského rozhraní webové aplikace pro řešení úloh v oblasti zpracování přirozeného jazyka
Zdeněk Illek -
Neuronové sítě pro zpracování přirozeného jazyka
Jan ČEDÍK -
Možnosti využití umělé inteligence a zpracování přirozeného jazyka ve vzdělávání
Jana ZEMANOVÁ