227-0434-10L  Mathematics of Information

SemesterFrühjahrssemester 2022
DozierendeH. Bölcskei
Periodizitätjährlich wiederkehrende Veranstaltung
LehrspracheEnglisch



Lehrveranstaltungen

NummerTitelUmfangDozierende
227-0434-10 VMathematics of Information
Hybride Veranstaltung, die Veranstaltung kann in Präsenz oder online verfolgt werden.
3 Std.
Do09:15-12:00ML F 36 »
H. Bölcskei
227-0434-10 UMathematics of Information
Hybride Veranstaltung, die Veranstaltung kann in Präsenz oder online verfolgt werden.
2 Std.
Mo14:15-16:00ML E 12 »
H. Bölcskei
227-0434-10 AMathematics of Information2 Std.H. Bölcskei

Katalogdaten

KurzbeschreibungThe class focuses on mathematical aspects of

1. Information science: Sampling theorems, frame theory, compressed sensing, sparsity, super-resolution, spectrum-blind sampling, subspace algorithms, dimensionality reduction

2. Learning theory: Approximation theory, greedy algorithms, uniform laws of large numbers, Rademacher complexity, Vapnik-Chervonenkis dimension
LernzielThe aim of the class is to familiarize the students with the most commonly used mathematical theories in data science, high-dimensional data analysis, and learning theory. The class consists of the lecture and exercise sessions with homework problems.
InhaltMathematics of Information

1. Signal representations: Frame theory, wavelets, Gabor expansions, sampling theorems, density theorems

2. Sparsity and compressed sensing: Sparse linear models, uncertainty relations in sparse signal recovery, super-resolution, spectrum-blind sampling, subspace algorithms (ESPRIT), estimation in the high-dimensional noisy case, Lasso

3. Dimensionality reduction: Random projections, the Johnson-Lindenstrauss Lemma

Mathematics of Learning

4. Approximation theory: Nonlinear approximation theory, best M-term approximation, greedy algorithms, fundamental limits on compressibility of signal classes, Kolmogorov-Tikhomirov epsilon-entropy of signal classes, optimal compression of signal classes

5. Uniform laws of large numbers: Rademacher complexity, Vapnik-Chervonenkis dimension, classes with polynomial discrimination
SkriptDetailed lecture notes will be provided at the beginning of the semester.
Voraussetzungen / BesonderesThis course is aimed at students with a background in basic linear algebra, analysis, statistics, and probability.

We encourage students who are interested in mathematical data science to take both this course and "401-4944-20L Mathematics of Data Science" by Prof. A. Bandeira. The two courses are designed to be complementary.

H. Bölcskei and A. Bandeira

Leistungskontrolle

Information zur Leistungskontrolle (gültig bis die Lerneinheit neu gelesen wird)
Leistungskontrolle als Semesterkurs
ECTS Kreditpunkte8 KP
PrüfendeH. Bölcskei
FormSessionsprüfung
PrüfungsspracheEnglisch
RepetitionDie Leistungskontrolle wird nur in der Session nach der Lerneinheit angeboten. Die Repetition ist nur nach erneuter Belegung möglich.
Prüfungsmodusschriftlich 180 Minuten
Hilfsmittel schriftlich10 handwritten or printed A4 pages summary (or 5 A4 pages on both sides). Electronic devices (laptops, calculators, cellphones, etc...) are not allowed.
Diese Angaben können noch zu Semesterbeginn aktualisiert werden; verbindlich sind die Angaben auf dem Prüfungsplan.

Lernmaterialien

 
HauptlinkCourse Website
Es werden nur die öffentlichen Lernmaterialien aufgeführt.

Gruppen

Keine Informationen zu Gruppen vorhanden.

Einschränkungen

Keine zusätzlichen Belegungseinschränkungen vorhanden.

Angeboten in

StudiengangBereichTyp
Cyber Security MasterWahlfächerWInformation
Data Science MasterInformation and LearningWInformation
Doktorat Informationstechnologie und ElektrotechnikVertiefung FachwissenWInformation
Elektrotechnik und Informationstechnologie MasterKernfächerWInformation
Elektrotechnik und Informationstechnologie MasterVertiefungsfächerWInformation
Elektrotechnik und Informationstechnologie MasterEmpfohlene FächerWInformation
Elektrotechnik und Informationstechnologie MasterAdvanced Core CoursesWInformation
Informatik MasterWahlfächerWInformation
Mathematik MasterAuswahl: Weitere GebieteWInformation
Physik MasterAllgemeine WahlfächerWInformation
Quantum Engineering MasterWahlfächerWInformation
Rechnergestützte Wissenschaften MasterWahlfächerWInformation
Statistik MasterStatistische und mathematische FächerWInformation
Statistik MasterFachbezogene WahlfächerWInformation