Videokurs

Moderne Embedding-Methoden und Transfer Learning

Lerne, wie du Erkenntnisse von einem Anwendungsfall auf einen anderen ähnlichen Anwendungsfall überträgst

LERNZIELE

Du arbeitest mit semantischen Ähnlichkeiten und kannst Ähnlichkeiten zwischen Wörtern berechnen
Du nutzt vortrainierte Sprachmodelle und passt sie an
Du nutzt Transfer Learning und lässt Algorithmen Fragen zu Texten beantworten

INHALT

In diesem Kurs lernst du, mit dem Training von Word Embeddings, Ähnlichkeiten zwischen Wörtern zu berechnen. Du findest Ähnlichkeiten zwischen Wörtern, syntaktische, aber auch semantische Ähnlichkeiten. Für das Training der Word Embeddings gibt es unterschiedliche Verfahren, die wir uns im Detail anschauen, um für deinen Anwendungszweck das optimale Verfahren zu finden.

Du wirst Sprachmodelle nutzen, die mit vielen Millionen Parametern und erheblichem Rechenaufwand trainiert sind und bestimmte Features der Sprache bereits eingefangen haben. Durch einen Feintuning-Prozess kannst du das auf deine eigenen Anforderungen anpassen und damit bessere Ergebnisse erzielen.
Du lernst außerdem das Question-Answering-Modell in der Praxis kennen und erfährst, wie du damit Fragen zu deinen Texten automatisiert beantworten lassen kannst.

Dieser Kurs gehört zu einer Reihe mit folgenden Titeln:

Python und Jupyter als Plattform für Natural Language Processing
Datenbeschaffung und -transformation für Natural Language Processing
Statistik und Vektorisierung für NLP-Projekte
Klassische Machine-Learning-Verfahren zur Textanalyse
Moderne Embedding-Methoden und Transfer Learning

ALLE LEKTIONEN IM ÜBERBLICK

Word Embeddings

Intro
Embeddings und Ähnlichkeitsmaß für Wörter
Word Embeddings: word2vec
Alternativen: fastText und gloVe
Unterschiede der Verfahren anhand der Ergebnisse erklären
Nutzung vortrainierter Modelle
Semantische Transformation und doc2vec
Quiz: Word Embeddings

Transfer Learning und Question Answering

Intro
Einführung Transfer-Learning-Modelle
Berechnung von Embeddings und Klassifikation
Klassifikationsproblem aus vorherigem Kapitel mit BERT
Klassifikationsproblem aus vorherigem Kapitel mit BERT Teil 2
Vergleich Qualität und Rechenzeit mit SVM
Andere Sprachmodelle (dbmz)
Question Answering mit Heise und Wikipedia
Kaskadiertes Modell (Information Retrieval + Question Answering)
Textgenerierung
Quiz: Transfer Learning und Question Answering

SO LERNST DU MIT DIESEM KURS

In den Videokursen der heise academy lernst du IT-Themen anschaulich und verständlich. Du siehst den Experten bei der praktischen Arbeit zu und lässt dir dabei alles genau erklären. Das Wissen ist in kompakte Lerneinheiten unterteilt, sodass du den Kurs Schritt für Schritt durcharbeiten oder gezielt zu Lektionen springen kannst, die dich interessieren. Die persönliche Lernumgebung der heise academy hält viele Funktionen für dich bereit, die dich beim Lernen unterstützen:

Flexibler Videoplayer mit vielen Steuerungsmöglichkeiten
Wissensquiz zur Lernkontrolle
Lernhistorie und Lernfortschritt
Lesezeichen und Notizen
Volltextsuche in den Videos
Übungsmaterial zum Mitmachen
Responsive Web-App und Videostreaming für alle Endgeräte

TECHNISCHE VORAUSSETZUNGEN

Für diesen Videokurs wird lediglich ein aktueller Browser (mit eingeschalteter JavaScript-Funktionalität) und eine Internetverbindung benötigt.

DEIN EXPERTE

Prof. Dr. Christian Winkler

Gründer von datanizing und Professor für User Experience | datanizing GmbH

Prof. Dr. Christian Winkler ist Co-Gründer der datanizing GmbH und beschäftigt sich seit 20 Jahren mit künstlicher Intelligenz, speziell mit der automatisierten Analyse natürlich-sprachiger Texte (Natural Language Processing). Er forscht und publiziert zu diesem Thema und ist regelmäßig Sprecher auf Machine-Learning-Konferenzen. Als Professor an der TH Nürnberg konzentriert er sich bei seiner Forschung auf die Optimierung von User Experience mithilfe moderner Verfahren.