In dieser Vorlesung werden Inhalte der menschlichen und maschinellen Sprachverarbeitung behandelt. Das Themenspektrum reicht dabei von technischen Lösungen zur Erkennung oder Kompression von Sprachsignalen bis zu neurophysiologischen Themen, z.B. die kortikale Repräsentation von Sprache.

Unter anderem werden folgende Fragen untersucht:

• Wie funktioniert die menschliche Spracherzeugung?
• Welche Methoden sind zur automatischen Sprachverarbeitung wichtig?
• Wie kann man effektiv Sprachsignale darstellen (z.B. zur effektiven Übermittlung nötig)?
• Was wissen über Sprachwahrnehmung beim Menschen, insbesondere mit Hinblick auf Neurophysiologie?

Es handelt sich um eine integrierte Veranstaltung, in der sich Vorlesungs- und Übungselemente abwechseln. Teilnehmer sollen optimalerweise einen Rechner dabei haben, um das Erlernte nachzuvollziehen, Algorithmen selbst anzuwenden und teilweise selbst zu implementieren.

Die Studierenden erlernen, wie statistische Eigenschaften von Signalen zur Lösung von Problemen der Angewandten Physik, insbesondere der Klassifikation, parametrischen Modellierung und Übertragung von Signalen genutzt werden können. Theoretische Lernziele beinhalten damit eine Wiederholung und Festigung statistischer Grundlagen und eine Verständnis von deren Nutzung für Algorithmen unterschiedlicher Zielsetzung und Komplexität. Im praktischen Teil werden Eigenschaften der behandelten Methoden selbständig erarbeitet sowie Algorithmen auf dem Rechner implementiert und auf reale Daten angewendet, so daß der Umgang mit theoretischen Konzepten und ihre praktische Umsetzung erlernt werden.

Inhalte:
Grundfragen der Informationsverarbeitung (Klassifikation, Regression, Clustering), Lösungsmethoden basierend auf Dichteschätzung und diskriminativen Ansätzen (z.B. Bayes Schätzung, k-nearest neighbour, Hauptkomponentenanalyse, support-vector-machines, Hidden-Markov- Modelle), Grundlagen der Informationstheorie, Methoden der analogen und digitalen Nachrichtenübertragung, Prinzipien der Kanalcodierung und Kompression

Schwingungen und Wellen, physikalische Grundlagen der Akustik, Erzeugung und Ausbreitung von Schall, Messung und Bewertung von Schall, Verarbeitung und Analyse akustischer Signale, Akustik von Stimme und Sprache, Sprachpathologie, Schalldämmung und –dämpfung, Raum- und Bauakustik, Elektroakustik, Stoßwellen, Photoakustischer Effekt; ausgesuchte Kapitel der Akustik, der Vibrationen und des Ultraschalls.

Course topics:

• Information processing in the brain, neurons, receptive fields
• Simple classification models, the perceptron, linear discriminant analysis, regression approach to classification
• Generative approaches, k-nearest neighbour classification, Bayes equation
• Model selection and cross-validation
• Logistic regression, binary cross-entropy loss function, gradient descent
• Gradient descent optimization and regularization, multi-layer perceptron and error backpropagation
• Convolutional networks, deep neural networks, receptive fields in deep netoworks
• Reinforcement learning
• Sequence modeling, speech recognition, markov chains, hidden markov model (HMMs)
• Transformer deep networks, large language models (LLMs), from HMMs to LLMs
• Information theory, measuring information, entropy
• Information theory continued, entropy bound for coding, compression

The course language is English or German, with English used by default and German used in case of only German native language speakers taking the course.