Závěrečná práce: Peter Novák: Zlepšení metody predikce výkonu fúzovaných CUDA kernelů
Bakalářská práce
Zlepšení metody predikce výkonu fúzovaných CUDA kernelů
Improvement of the fused CUDA kernels performance prediction
Anotace
V rámci této práce byl vytvořen nástroj pro analýzu a zlepšení predikce výkonu kompilátoru mapovaných fúzovaných funkcí vytvořeném na Fakultě Informatiky. Tento nástroj integruje modifikaci původního kompilátoru tak, aby generoval statická data o fúzním kódu s nástrojem pro získávání dynamických dat. Takto získaná data byla analyzována pomocí statistického prostředí R a na základě výsledků analýzy byly navrženy modifikace predikční funkce.
Abstract
In this thesis a tool for improving the performance prediction of a source-to-source compiler of mapped functions developed on the Faculty of Informatics is presented. This tool integrates the modification of the original compiler and static and dynamic data gathering to provide as much data about the fusions as possible in order to analyze them. These data were then analyzed using the R statistic environment and the analysis results and suggestions for prediction improvements are presented.
Zadání práce
Aritmetický výkon dnešních GPU výrazně převyšuje jejich paměťovou propustnost, díky čemuž je rychlost běhu mnoha kernelů omezena rychlostí globální paměti. Je-li spuštěna sekvence kernelů, které spolu sdílí část vstupů či výstupů, je často možné snížit množství dat přenášených z/do globální paměti pomocí fúze kernelů (sdílená data tak mohou být uložena v rychlejších lokálních pamětech). Problematika fúzí kernelů je již nějakou dobu na FI studována a vznikl zde experimentální překladač optimalizující CUDA kód za pomoci fúzí.
Úkolem bakalářské práce je analýza přesnosti predikce výkonu implementované v překladači a návrh úprav vedoucích ke zvýšení přesnosti predikce. Student upraví překladač tak, aby generoval kód ke každé zvažované implementaci fúzovaného kernelu a publikoval informace o jeho vlastnostech (redukce paralelismu, přepočty koordinát vláken, celkové množství spotřebovaných lokálních zdrojů, množství synchronizací aj.). Upraveným překladačem přeloží několik demonstračních příkladů a pomocí vhodného nástroje na analýzu závislosti dat zjistí, pro které vlastnosti fúzovaných kernelů (či jejich kombinace) roste odchylka predikovaného a skutečného výkonu. Na základě této analýzy student navrhne možná rozšíření metody predikce výkonu.
9. 1. 2014 19:49, doc. RNDr. Jiří Filipovič, Ph.D., učo 72898
- Zadáno/změněno 7. 2. 2014 16:35, Helena Kryštofová
- Záznam založen 11. 4. 2013 13:34, Alena Dvořáková
- Zveřejnit od 3. 1. 2014 11:03, Alena Dvořáková
- Práce převzata 3. 1. 2014 11:03, Alena Dvořáková
Konzultant
Literatura
- FILIPOVIČ, Jiří; Igor PETERLÍK a Jan FOUSEK. GPU Acceleration of Equations Assembly in Finite Elements Method -- Preliminary Results. In Symposium on Application Accelerators in High Performance Computing 2009. 2009.
- FOUSEK, Jan; Jiří FILIPOVIČ a Matúš MADZIN. Automatic Fusions of CUDA-GPU Kernels for Parallel Map. In Hideharu Amano and Wayne Luk. Second International workshop on highly-efficient accelerators and reconfigurable technologies (HEART). London (UK), 2011, s. 42-47.
Práce na příbuzné téma
Seznam prací, které mají shodná klíčová slova.
-
Akcelerace procesu verifikace pomocí grafické karty
Mgr. Tomáš Lamr, učo 140423 -
Stavba SBVH na grafickém hardware
Mgr. Radek Stibora -
Akcelerace inter-frame predikce standard H.265 na masivně paralelních GPU architekturách
Mgr. Vojtěch David -
Dynamic autotuning of SpMV kernel in CUSP library
Mgr. František Bráblík, učo 469074 -
Návrh a implementace aritmetického kodéru pro platformu CUDA
RNDr. Vít Rusňák, Ph.D., učo 172757 -
Akcelerace bilaterálního filtru na GPU
Mgr. Zoey Wraith -
Evolution of Nvidia GPU from microarchitectures Pascal to Ampere
Mgr. Marek Toma, učo 485275 -
Source-to-source compilation of mapped functions sequences in CUDA
Mgr. Matúš Madzin, učo 207505




