Main goal of this lecture is to provide information about supercomputing
architectures and basic programming methods for vector and parallel
computers. First part focuses to the hardware, during the second part
general optimization methods and programming methodology for parallel
computer is discussed. The last part of the lecture is aimed to
distributed systems.
Syllabus
High performance vector and superscalar processors.
Uniprocesor computers, computers with small number of processors,
massively parallel computers; distributed systems.
Performance measurements, LINPACK test, TOP 500 list.
High performance uniprocessor systems, programming languages, methodology
of efficient program writting, basis optimization methods for vector and
superscalar computers.
Distributed systems, data and task decomposition, coarse grain
parallelism, programming systems (PVM, LINDA, ...).
Multiprocessor systems with shared memory, programming languages,
decompozition of algorithms, basis optimization methods for small number
of processors.
Massively parallel systems, parallel algorithms, fine grain parallelism.
Shared, distributed, and distributed shared memory; other alternatives.
Sdílená, distribuovaná a distribuovaná sdílená paměť.
Scalability of computers and tasks.
Literature
WILSON, Gregory V. Practical parallel programming. Cambridge: MIT Press, 1995. viii, 564. ISBN 0-262-23186-7. info
FOSDICK, Lloyd D. An introduction to high-performance scientific computing. Cambridge: MIT Press, 1996. ix, 760 s. ISBN 0-262-06181-3. info
WOLFE, Michael Joseph. High performance compilers for parallel computing. Redwood City: Addison-Wesley Publishing Company, 1996. xiii, 570. ISBN 0-8053-2730-4. info
DOWD, Kevin. High performance computing. Sebastopol: O'Reilly & Associates, 1993. xxv, 371 s. ISBN 1-56592-032-5. info
PROTIC, Jelica, Milo TOMASEVIC and Veljko MILUTINOVIC. Distributed shared memory. Los Alamitos: IEEE Computer Society, 1998. x, 365 s. ISBN 0-8186-7737-6. info
Assessment methods (in Czech)
Klasická přednáška. V případě malého počtu zapsaných studentů (do 15) bude předmět veden formou semináře, tj. včetně samostatné průpběžné práce student; (příprava krátké přednášky). Předmět bude v takovém případě zakončen ústní zkouškou. V případě většího počtu zapsaných studentů nebudou v průběhu semestru žádná cvičení nebo domácí práce a předmět bude zakončen písemnou zkouškou (cca 10 příkladů za 100--150 bodů).