PA039 Supercomputer Architecture and Intensive Computations

Fakulta informatiky
jaro 2025
Rozsah
2/0/0. 2 kr. (plus ukončení). Ukončení: zk.
Vyučováno kontaktně
Vyučující
prof. RNDr. Luděk Matyska, CSc. (přednášející)
doc. RNDr. Jiří Filipovič, Ph.D. (pomocník)
Garance
prof. RNDr. Luděk Matyska, CSc.
Katedra počítačových systémů a komunikací – Fakulta informatiky
Kontaktní osoba: prof. RNDr. Luděk Matyska, CSc.
Dodavatelské pracoviště: Katedra počítačových systémů a komunikací – Fakulta informatiky
Předpoklady
At least elementary knowledge of programming languages FORTRAN, C and eventually C++ is expected.
Omezení zápisu do předmětu
Předmět je nabízen i studentům mimo mateřské obory.
Mateřské obory/plány
Cíle předmětu
The main goal of this lecture is to provide information about architectures of high-performance computing systems and basic programming methods for vector and parallel computers. The first part focuses on the hardware, during the second part general optimization methods and programming methodology for parallel computers is discussed. The last part of the lecture is aimed at the programming of distributed systems.
Výstupy z učení
The graduate will be able to understand and explain properties of modern processors.
The graduate will be also able to analyze the program code and propose optimizations for a particular processor.
The graduate will be able to design and implement a simple parallel program to solve a particular problem.
The graduate will be able to design and realize benchmarks of computer systems or applications.
Osnova
  • High-performance vector and superscalar processors.
  • Uniprocessor computers, computers with a small number of processors, massively parallel computers; distributed systems.
  • Performance measurements, LINPACK test, TOP 500 list.
  • High-performance uniprocessor systems, programming languages, the methodology of efficient program writing, basis optimization methods for vector and superscalar computers.
  • Distributed systems, data and task decomposition, coarse grain parallelism, programming systems (PVM, LINDA, ...). Multiprocessor systems with shared memory, programming languages, decomposition of algorithms, basic optimization methods for a small number of processors.
  • Massively parallel systems, parallel algorithms, fine grain parallelism.
  • Shared, distributed, and distributed shared memory; other alternatives. Sdílená, distribuovaná a distribuovaná sdílená paměť.
  • Scalability of computers and tasks.
Literatura
  • PROTIC, Jelica, Milo TOMASEVIC a Veljko MILUTINOVIC. Distributed shared memory. Los Alamitos: IEEE Computer Society, 1998, x, 365 s. ISBN 0-8186-7737-6. info
  • FOSDICK, Lloyd D. An introduction to high-performance scientific computing. Cambridge: MIT Press, 1996, ix, 760. ISBN 0262061813. info
  • WOLFE, Michael Joseph. High performance compilers for parallel computing. Redwood City: Addison-Wesley Publishing Company, 1996, xiii, 570. ISBN 0-8053-2730-4. info
  • WILSON, Greg. Practical parallel programming. Cambridge: MIT Press, 1995, viii, 564. ISBN 0262231867. info
  • DOWD, Kevin. High performance computing. Sebastopol: O'Reilly & Associates, 1993, xxv, 371 s. ISBN 1-56592-032-5. info
Výukové metody
Standard lecture, no drills nor homework
Metody hodnocení
No continuous evaluation during the semester, Only final exam in a written form (9 questions/subjects explicitly answered or discussed, total 100 points).
Vyučovací jazyk
Angličtina
Další komentáře
Předmět je vyučován každoročně.
Výuka probíhá každý týden.
Předmět byl dříve vypisován pod kódem IA039.
Předmět je zařazen také v obdobích jaro 2014, jaro 2015, jaro 2016, jaro 2017, jaro 2018, jaro 2019, jaro 2020, jaro 2021, jaro 2022, jaro 2023, jaro 2024.