Generátor efektivního kódu fúzovaných CUDA kernelů

Bc. Bedřich Lakomý

Master's thesis

The generator of efficient CUDA code of fused kernels

Anotácia:

KAS je source-to-source kompilátor pro tvorbu CUDA C kernelů z elementárních funkcí. Tato práce optimalizuje kód generovaný KASem pomocí následujících úprav KASu: snížení náročnosti přepočtu koordinát vláken v případě volání funkcí s rozdílnou velikostí bloku, vynechávání některých redundantních synchronizací, využití registrů pro mezivýsledky (dosud jen sdílená paměť), zavedení přístupových vzorů pro elementární funkce a úprava modelu výkonu pro zohlednění využití registrů a jejich vlivu na výkon. Je změřen a diskutován vliv těchto optimalizací na výkon.

Abstract:

KAS is a source-to-source compiler for fusing CUDA C kernels from elementary functions. This thesis presents some optimizations for KAS that make it output code with higher performance. The performed optimizations are as follows: omiting some redundant synchronizations, using registers for intermediate results storage (was only shared memory sofar), adding access patterns for elementary functions and modifying the performance model to accomodate the use of registers and their impact on performance. Performance results of these optimizations are presented and discussed.

Kľúčové slová

optimalizace, kompilátor, fúze, CUDA, mapování funkcí, kernel, vzor přístupu

Jazyk práce: Czech

Datum vytvoření / odevzdání či podání práce: 28. 5. 2012

Obhajoba závěrečné práce

• Obhajoba proběhla 25. 6. 2012
• Vedúci: RNDr. Jiří Filipovič, Ph.D.
• Oponent: Mgr. Aleš Křenek, Ph.D.

Masaryk University

Faculty of Informatics

Master programme / odbor:
Applied Informatics / Service Science, Management and Engineering