STŘELÁK, David and Jiří FILIPOVIČ. Performance analysis and autotuning setup of the cuFFT library. Online. In ACM International Conference Proceeding Series. Limassol, Cyprus: ACM, 2018, p. nestránkováno, 6 pp. ISBN 978-1-4503-6591-8. Available from: https://dx.doi.org/10.1145/3295816.3295817.
Other formats:   BibTeX LaTeX RIS
Basic information
Original name Performance analysis and autotuning setup of the cuFFT library
Name in Czech Analýza výkonu a autotuning nastavení knihovny cuFFT
Authors STŘELÁK, David (203 Czech Republic, belonging to the institution) and Jiří FILIPOVIČ (203 Czech Republic, guarantor, belonging to the institution).
Edition Limassol, Cyprus, ACM International Conference Proceeding Series, p. nestránkováno, 6 pp. 2018.
Publisher ACM
Other information
Original language English
Type of outcome Proceedings paper
Field of Study 10201 Computer sciences, information science, bioinformatics
Country of publisher United States of America
Confidentiality degree is not subject to a state or trade secret
Publication form electronic version available online
WWW URL
RIV identification code RIV/00216224:14610/18:00106596
Organization unit Institute of Computer Science
ISBN 978-1-4503-6591-8
Doi http://dx.doi.org/10.1145/3295816.3295817
UT WoS 000471021400001
Keywords (in Czech) cuFFT; GPU; autotuning; analýza výkonu; cuFFTAdvisor
Keywords in English cuFFT; GPU; autotuning; performance analysis; cuFFTAdvisor
Tags rivok
Tags International impact, Reviewed
Changed by Changed by: Mgr. Michal Petr, učo 65024. Changed: 27/4/2020 22:59.
Abstract
Fast Fourier transform (FFT) has many applications. It is often one of the most computationally demanding kernels, so a lot of attention has been invested into tuning its performance on various hardware devices. However, FFT libraries have usually many possible settings and it is not always easy to deduce which settings should be used for optimal performance. In practice, we can often slightly modify the FFT settings, for example, we can pad or crop input data. Surprisingly, a majority of state-of-the-art papers focus to answer the question how to implement FFT under given settings but do not pay much attention to the question which settings result in the fastest computation. In this paper, we target a popular implementation of FFT for GPU accelerators, the cuFFT library. We analyze the behavior and the performance of the cuFFT library with respect to input sizes and plan settings. We also present a new tool, cuFFTAdvisor, which proposes and by means of autotuning finds the best configuration of the library for given constraints of input size and plan settings. We experimentally show that our tool is able to propose different settings of the transformation, resulting in an average 6x speedup using fast heuristics and 6.9x speedup using autotuning.
Abstract (in Czech)
Rychlá Fourierova transformace (FFT) má mnoho aplikací. Často je jedním z výpočetně nejnáročnějších kernelů, proto bylo investováno mnoho úsilí do tuningu jejího výkonu na mnoha hardwareových zařízeních. FFT knihovny mají nicméně mnoho možných nastavení a není vždy jasné, jaké z nich použít pro optimální výkon. V praxi můžeme nastavení FFT knihovny často měnit, například můžeme doplnit či oříznout vstupní data. Většina současných prací se překvapivě zaměřuje na otázku jak implementovat rychlou FFT s daným nastavením, ale nevěnuje pozornost otázce jaké nastavení umožní nejrychlejší výpočet. V tomto článku se zaměřujeme na populární knihovnu pro FFT na GPU akcelerátorech -- cuFFT. Analyzujeme chování a výkon cuFFT knihovny s ohledem na velikost vstupu a nastavení plánu. Představujeme také nový nástroj, cuFFTAdvisor, který navrhuje a pomocí autotuningu vyhledává nejlepší nastavení knihovny s danými omezeními na velikost vstupu a nastavení plánu. Experimentálně dokazujeme, že náš nástroj je schopen nabídnout odlišné nastavení transformace, které vede v průměru k 6x zrychlení při použití rychlé heuristiky a 6.9x zrychlení při použití autotuningu.
Links
EF16_013/0001802, research and development projectName: CERIT Scientific Cloud
PrintDisplayed: 25/7/2024 21:42