Fakulta informačních technologií VUT v Brně

Detail předmětu

Aplikace paralelních počítačů

PDD Ak. rok 2013/2014 zimní semestr

Předmět podává přehled existujících použitelných paralelních platforem a modelů programování, zejména programování se sdílenou pamětí (OpenMP), zasíláním zpráv (MPI) a datově-paralelní programování (CUDA, OpenCL). Metodika paralelizace programů je doplněna studiem výkonnosti a aplikována na určitý konkrétní problém. Důraz je na praktických aspektech a implementaci.

Garant předmětu

Jazyk výuky

česky

Zakončení

zkouška (kombinovaná)

Rozsah

39 hod. přednášky

Bodové hodnocení

100 zkouška

Zajišťuje ústav

Získané dovednosti, znalosti a kompetence z předmětu

Naučit se paralelizovat různé třídy úloh a predikovat jejich výkonnost. Umět využívat paralelismu a komunikace na úrovni vláken a procesů. Seznámit se s moderními standardními rozhraními, rozšířením jazyků a dalšími nástroji pro paralelní programování. Napsat a odladit paralelní program pro vybranou úlohu.

Dovednosti, znalosti a kompetence obecné

Paralelní architektury s distribuovanou a sdílenou pamětí, programování v C/C++ s MPI a OpenMP, GPGPU, paralelizace základních numerických metod.

Cíle předmětu

Vysvětlit možnosti paralelního programování na vícejádrových procesorech, na svazcích počítačů a na GP GPU. Získat přehled o technikách synchronizace a komunikace. Seznámit se s metodikou paralelizace a predikcí výkonnosti vybraných reálných aplikací, tvorbě správných programů a užití paralelních výpočtů v praxi.  

Okruhy otázek k SDZ:
1. Ukazatelé paralelního zpracování. Funkce konstantní účinnosti, definice škálovatelnosti.
2. Vzory paralelních algoritmů, podpůrné struktury programů a datové. 
3. Násobení matic se sdílenou pamětí, predikce výkonnosti.
4. Násobení matic se zasíláním zpráv, predikce výkonnosti.
5. Techniky zasílání zpráv mezi 2 partnery a kolektivní.
6. Paralelizace částicových systémů, predikce výkonnosti u zasílání zpráv..
7. Synchronizace u sdílené paměti.
8. Paralelizace výpočtů na mřížkách.
9. Částicové systémy na GPGPU, predikce výkonnosti.
10. Zásady paralelního programování orientovaného na výkonnost.

Prerekvizity

Požadované prerekvizitní znalosti a dovednosti

Typy paralelních počítačů, programování v C/C++, základní numerické metody

Literatura studijní

Literatura referenční

  • Pacecho, P.: Introduction to Parallel Programming. Morgan Kaufman Publishers, 2011, 392 s., ISBN: 9780123742605   
  • Kirk, D., and Hwu, W.: Programming Massively Parallel Processors: A Hands-on Approach, Elsevier, 2010, s. 256, ISBN: 978-0-12-381472-2

Osnova přednášek

  • Architektury paralelních počítačů, ukazatele výkonnosti a predikce výkonnosti. 
  • Vzory paralelního programování 
  • Techniky synchronizace a komunikace.  
  • Programování se sdílenými proměnnými v OpenMP
  • Programování zasíláním zpráv v MPI
  • Datově paralelní programování v CUDA/OpenCL
  • Příklady paralelizace úloh a paralelních aplikací 

 

Kontrolovaná výuka

Obhajoba projektu, programového díla využívajícího některou variantu paralelního programování.
Zkouška probíhá jako obhajoba malého projektu, nejlépe z oblasti, na kterou se doktorand chce zaměřit v disertační práci. Projekt by měl demonstrovat potřebné zvýšení výkonnosti při řešení konkrétního problému použitím clusteru, vícejádrového procesoru nebo GPU. Podle toho je třeba zvolit programování v OpenMPI, OpenMP nebo CUDA/OpenCL, popřípadě v nějakém dalším specializovaném jazyce.

Zařazení předmětu ve studijních plánech

  • Program VTI-DR-4, obor DVI4, libovolný ročník, volitelný
Nahoru