151-0107-20L  High Performance Computing for Science and Engineering (HPCSE) I

SemesterHerbstsemester 2020
DozierendeP. Koumoutsakos, S. M. Martin
Periodizitätjährlich wiederkehrende Veranstaltung
LehrspracheEnglisch



Lehrveranstaltungen

NummerTitelUmfangDozierende
151-0107-20 GHigh Performance Computing for Science and Engineering (HPCSE) I
Lecture: 10-12h
Exercises: 8-10h

The lecture begins on Friday at 10-12 in the first week but the exercises begin on Friday at 8-10 in the second week of the Semester.
The lecturers will communicate the exact lesson times of ONLINE courses.
4 Std.
Fr08:15-10:00HG E 26.1 »
08:15-10:00HG E 26.3 »
08:15-10:00HG E 27 »
08:15-10:00ML H 44 »
10:00-12:00ON LI NE »
P. Koumoutsakos, S. M. Martin

Katalogdaten

KurzbeschreibungThis course gives an introduction into algorithms and numerical methods for parallel computing on shared and distributed memory architectures. The algorithms and methods are supported with problems that appear frequently in science and engineering.
LernzielWith manufacturing processes reaching its limits in terms of transistor density on today’s computing architectures, efficient utilization of computing resources must include parallel execution to maintain scaling. The use of computers in academia, industry and society is a fundamental tool for problem solving today while the “think parallel” mind-set of developers is still lagging behind.

The aim of the course is to introduce the student to the fundamentals of parallel programming using shared and distributed memory programming models. The goal is on learning to apply these techniques with the help of examples frequently found in science and engineering and to deploy them on large scale high performance computing (HPC) architectures.
Inhalt1. Hardware and Architecture: Moore’s Law, Instruction set architectures (MIPS, RISC, CISC), Instruction pipelines, Caches, Flynn’s taxonomy, Vector instructions (for Intel x86)

2. Shared memory parallelism: Threads, Memory models, Cache coherency, Mutual exclusion, Uniform and Non-Uniform memory access, Open Multi-Processing (OpenMP)

3. Distributed memory parallelism: Message Passing Interface (MPI), Point-to-Point and collective communication, Blocking and non-blocking methods, Parallel file I/O, Hybrid programming models

4. Performance and parallel efficiency analysis: Performance analysis of algorithms, Roofline model, Amdahl’s Law, Strong and weak scaling analysis

5. Applications: HPC Math libraries, Linear Algebra and matrix/vector operations, Singular value decomposition, Neural Networks and linear autoencoders, Solving partial differential equations (PDEs) using grid-based and particle methods
SkriptLink
Class notes, handouts
Literatur• An Introduction to Parallel Programming, P. Pacheco, Morgan Kaufmann
• Introduction to High Performance Computing for Scientists and Engineers, G. Hager and G. Wellein, CRC Press
• Computer Organization and Design, D.H. Patterson and J.L. Hennessy, Morgan Kaufmann
• Vortex Methods, G.H. Cottet and P. Koumoutsakos, Cambridge University Press
• Lecture notes
Voraussetzungen / BesonderesStudents should be familiar with a compiled programming language (C, C++ or Fortran). Exercises and exams will be designed using C++. The course will not teach basics of programming. Some familiarity using the command line is assumed. Students should also have a basic understanding of diffusion and advection processes, as well as their underlying partial differential equations.

Leistungskontrolle

Information zur Leistungskontrolle (gültig bis die Lerneinheit neu gelesen wird)
Leistungskontrolle als Jahreskurs mit 151-0116-00L High Performance Computing for Science and Engineering (HPCSE) for CSE (nächstes Semester)
Für Reglement
(Prüfungsblock)
Bachelor-Studiengang Rechnergestützte Wissenschaften 2012; Ausgabe 13.12.2016 (Prüfungsblock Kernfächer)
Bachelor-Studiengang Rechnergestützte Wissenschaften 2016; Ausgabe 27.03.2018 (Prüfungsblock Kernfächer)
ECTS Kreditpunkte11 KP
Leistungskontrolle als Semesterkurs (übrige Studiengänge)
ECTS Kreditpunkte4 KP
PrüfendeP. Koumoutsakos, S. M. Martin
FormSessionsprüfung
PrüfungsspracheEnglisch
RepetitionDie Leistungskontrolle wird in jeder Session angeboten. Die Repetition ist ohne erneute Belegung der Lerneinheit möglich.
Prüfungsmodusschriftlich 180 Minuten
Zusatzinformation zum PrüfungsmodusComputer based examination involving theoretical questions and coding problems. Parts of the lecture documents and other materials will be made available online during the examination.
Hilfsmittel schriftlichYou are allowed to bring a HANDWRITTEN summary of 4 A4 sheets, written on the front and back pages (8 pages total). Photocopies are not allowed.
Online-PrüfungDie Prüfung kann am Computer stattfinden.
Falls die Lerneinheit innerhalb eines Prüfungsblockes geprüft wird, werden die Kreditpunkte für den gesamten bestandenen Block erteilt.
Diese Angaben können noch zu Semesterbeginn aktualisiert werden; verbindlich sind die Angaben auf dem Prüfungsplan.

Lernmaterialien

 
HauptlinkCourse Webpage for HPCSEI Fall 2020
Es werden nur die öffentlichen Lernmaterialien aufgeführt.

Gruppen

Keine Informationen zu Gruppen vorhanden.

Einschränkungen

Keine zusätzlichen Belegungseinschränkungen vorhanden.

Angeboten in

StudiengangBereichTyp
Doktorat Departement Maschinenbau und VerfahrenstechnikLehrangebot Doktorat und PostdoktoratWInformation
Informatik BachelorWahlfächerWInformation
Maschineningenieurwissenschaften MasterEnergy, Flows and ProcessesWInformation
Maschineningenieurwissenschaften MasterMechanics, Materials, StructuresWInformation
Maschineningenieurwissenschaften MasterRobotics, Systems and ControlWInformation
Maschineningenieurwissenschaften MasterMicro & NanosystemsWInformation
Maschineningenieurwissenschaften MasterBioengineeringWInformation
Mikro- und Nanosysteme MasterModelling and SimulationWInformation
Physik MasterAllgemeine WahlfächerWInformation
Rechnergestützte Wissenschaften BachelorModul AWInformation
Rechnergestützte Wissenschaften BachelorKernfächerOInformation
Robotics, Systems and Control MasterKernfächerWInformation
Verfahrenstechnik MasterKernfächerWInformation