Bakalářská práce

Zlepšení metody predikce výkonu fúzovaných CUDA kernelů

Improvement of the fused CUDA kernels performance prediction

Peter Novák
Anotace

V rámci této práce byl vytvořen nástroj pro analýzu a zlepšení predikce výkonu kompilátoru mapovaných fúzovaných funkcí vytvořeném na Fakultě Informatiky. Tento nástroj integruje modifikaci původního kompilátoru tak, aby generoval statická data o fúzním kódu s nástrojem pro získávání dynamických dat. Takto získaná data byla analyzována pomocí statistického prostředí R a na základě výsledků analýzy byly navrženy modifikace predikční funkce.

Abstract

In this thesis a tool for improving the performance prediction of a source-to-source compiler of mapped functions developed on the Faculty of Informatics is presented. This tool integrates the modification of the original compiler and static and dynamic data gathering to provide as much data about the fusions as possible in order to analyze them. These data were then analyzed using the R statistic environment and the analysis results and suggestions for prediction improvements are presented.

Zadání práce

Aritmetický výkon dnešních GPU výrazně převyšuje jejich paměťovou propustnost, díky čemuž je rychlost běhu mnoha kernelů omezena rychlostí globální paměti. Je-li spuštěna sekvence kernelů, které spolu sdílí část vstupů či výstupů, je často možné snížit množství dat přenášených z/do globální paměti pomocí fúze kernelů (sdílená data tak mohou být uložena v rychlejších lokálních pamětech). Problematika fúzí kernelů je již nějakou dobu na FI studována a vznikl zde experimentální překladač optimalizující CUDA kód za pomoci fúzí.

Úkolem bakalářské práce je analýza přesnosti predikce výkonu implementované v překladači a návrh úprav vedoucích ke zvýšení přesnosti predikce. Student upraví překladač tak, aby generoval kód ke každé zvažované implementaci fúzovaného kernelu a publikoval informace o jeho vlastnostech (redukce paralelismu, přepočty koordinát vláken, celkové množství spotřebovaných lokálních zdrojů, množství synchronizací aj.). Upraveným překladačem přeloží několik demonstračních příkladů a pomocí vhodného nástroje na analýzu závislosti dat zjistí, pro které vlastnosti fúzovaných kernelů (či jejich kombinace) roste odchylka predikovaného a skutečného výkonu. Na základě této analýzy student navrhne možná rozšíření metody predikce výkonu.

Práce zkontrolována:
9. 1. 2014 19:49, doc. RNDr. Jiří Filipovič, Ph.D., učo 72898
Plný text práce
669,6 KB / soubor PDF
Jazyk práce
angličtina angličtina
Termín obhajoby
7. 2. 2014
Práce byla úspěšně obhájena

Vedoucí

doc. RNDr. Jiří Filipovič, Ph.D., učo 72898
VCP ÚVT MU

Oponent

doc. RNDr. Petr Holub, Ph.D., učo 3248
BioMedAI CERIT-SC ÚVT MU

Konzultant

RNDr. Jan Fousek, Ph.D., učo 172693
NEU5 CN CEITEC MU

Literatura

  • FILIPOVIČ, Jiří; Igor PETERLÍK a Jan FOUSEK. GPU Acceleration of Equations Assembly in Finite Elements Method -- Preliminary Results. In Symposium on Application Accelerators in High Performance Computing 2009. 2009.
  • FOUSEK, Jan; Jiří FILIPOVIČ a Matúš MADZIN. Automatic Fusions of CUDA-GPU Kernels for Parallel Map. In Hideharu Amano and Wayne Luk. Second International workshop on highly-efficient accelerators and reconfigurable technologies (HEART). London (UK), 2011, s. 42-47.

Masarykova univerzita Fakulta informatiky
Studijní program
Informatika
 
Název
Vložil
Vloženo
Práva
  • Přidání souboru

    Soubor nebo složku lze nahrát pomocí tlačítka Přidat.
  • Další operace se soubory

    Podrobnosti lze zjistit označením příslušného řádku.
  • Pohled pro experty

    Pro častou práci je možné zvolit režim Více možností.
  • Vyhledávání souborů

    Vyhledávaný výraz můžete zadat přímo do adresního řádku.
  • Rychlý přístup k souborům

    Pomocí funkce Nedávné je možné se rychle vrátit k právě prohlíženým souborům. Oblíbené soubory je také možné označit Hvězdičkou.