D 2018

Performance analysis and autotuning setup of the cuFFT library

STŘELÁK, David and Jiří FILIPOVIČ

Basic information

Original name

Performance analysis and autotuning setup of the cuFFT library

Name in Czech

Analýza výkonu a autotuning nastavení knihovny cuFFT

Authors

STŘELÁK, David (203 Czech Republic, belonging to the institution) and Jiří FILIPOVIČ (203 Czech Republic, guarantor, belonging to the institution)

Edition

Limassol, Cyprus, ACM International Conference Proceeding Series, p. nestránkováno, 6 pp. 2018

Publisher

ACM

Other information

Language

English

Type of outcome

Stať ve sborníku

Field of Study

10201 Computer sciences, information science, bioinformatics

Country of publisher

United States of America

Confidentiality degree

není předmětem státního či obchodního tajemství

Publication form

electronic version available online

References:

RIV identification code

RIV/00216224:14610/18:00106596

Organization unit

Institute of Computer Science

ISBN

978-1-4503-6591-8

DOI

UT WoS

000471021400001

Keywords (in Czech)

cuFFT; GPU; autotuning; analýza výkonu; cuFFTAdvisor

Keywords in English

cuFFT; GPU; autotuning; performance analysis; cuFFTAdvisor

Tags

Tags

International impact, Reviewed
Změněno: 27/4/2020 22:59, Mgr. Michal Petr

Abstract

ORIG CZ

V originále

Fast Fourier transform (FFT) has many applications. It is often one of the most computationally demanding kernels, so a lot of attention has been invested into tuning its performance on various hardware devices. However, FFT libraries have usually many possible settings and it is not always easy to deduce which settings should be used for optimal performance. In practice, we can often slightly modify the FFT settings, for example, we can pad or crop input data. Surprisingly, a majority of state-of-the-art papers focus to answer the question how to implement FFT under given settings but do not pay much attention to the question which settings result in the fastest computation. In this paper, we target a popular implementation of FFT for GPU accelerators, the cuFFT library. We analyze the behavior and the performance of the cuFFT library with respect to input sizes and plan settings. We also present a new tool, cuFFTAdvisor, which proposes and by means of autotuning finds the best configuration of the library for given constraints of input size and plan settings. We experimentally show that our tool is able to propose different settings of the transformation, resulting in an average 6x speedup using fast heuristics and 6.9x speedup using autotuning.

In Czech

Rychlá Fourierova transformace (FFT) má mnoho aplikací. Často je jedním z výpočetně nejnáročnějších kernelů, proto bylo investováno mnoho úsilí do tuningu jejího výkonu na mnoha hardwareových zařízeních. FFT knihovny mají nicméně mnoho možných nastavení a není vždy jasné, jaké z nich použít pro optimální výkon. V praxi můžeme nastavení FFT knihovny často měnit, například můžeme doplnit či oříznout vstupní data. Většina současných prací se překvapivě zaměřuje na otázku jak implementovat rychlou FFT s daným nastavením, ale nevěnuje pozornost otázce jaké nastavení umožní nejrychlejší výpočet. V tomto článku se zaměřujeme na populární knihovnu pro FFT na GPU akcelerátorech -- cuFFT. Analyzujeme chování a výkon cuFFT knihovny s ohledem na velikost vstupu a nastavení plánu. Představujeme také nový nástroj, cuFFTAdvisor, který navrhuje a pomocí autotuningu vyhledává nejlepší nastavení knihovny s danými omezeními na velikost vstupu a nastavení plánu. Experimentálně dokazujeme, že náš nástroj je schopen nabídnout odlišné nastavení transformace, které vede v průměru k 6x zrychlení při použití rychlé heuristiky a 6.9x zrychlení při použití autotuningu.

Links

EF16_013/0001802, research and development project
Name: CERIT Scientific Cloud