KI in der Cybersecurity – Angriff und Verteidigung im Zeitalter von LLMs und Deepfakes

• Du durchschaust die Methoden der Angreifer und führst KI-unterstützt selbst bestimmte Angriffsschritte durch, bevor es Kriminelle tun.

• Du nutzt generative KI, um die Verteidigung deiner Organisation zu automatisieren.

• Du integrierst KI-Funktionen sicher in dein Unternehmen, kennst dabei die Grenzen und Schwachstellen der Technik und stoppst riskante Schatten-KI.

Künstliche Intelligenz verändert die Spielregeln der IT-Sicherheit. Dieser Classroom blickt auf die Schnittmenge von Security und generativer KI. Du erfährst, was Sprachmodelle wirklich leisten und warum ein sicheres Modell noch lange kein sicheres System darstellt.

Du lernst den gesamten Lebenszyklus vertrauenswürdiger KI kennen und erfährst, wie du Modelle auswählst. Du verstehst, wie du mit RAG (Retrieval Augmented Generation) und dem Model Context Protocol (MCP) eine Infrastruktur aufbaust, die den Datenschutz achtet. Ein Schwerpunkt des Classrooms liegt auf der Janusköpfigkeit der Technik: Angreifer finden mit "Vibe Hacking" Schwachstellen so schnell und einfach wie noch nie, gleichzeitig können aber auch Verteidiger massiv aufrüsten.

Statt blind auf Vollautomatisierung zu setzen, erfährst du, wie KI-Assistenten deine Arbeit unterstützen (Augmentierung). Du lernst, mit Coding-Agenten bestehende Tools zu verbinden und eigene Sicherheitswerkzeuge zu bauen, deine Angriffsfläche per OSINT zu verringern und dein Patch-Management zu beschleunigen. In späteren Sessions lernst du deine LLM-Systeme gegen Prompt Injections zu härten und errichtest wirksame Leitplanken zu ihrem Schutz (Guardrails).

Mit einer Mischung aus theoretischem Fundament und Demos aktueller Open-Source-Werkzeuge macht dich dieser Classroom fit für das Zeitalter der KI-gestützten Sicherheit.

Zielgruppe

Administratoren und IT-Sicherheitsverantwortliche, die verstehen wollen, wie generative KI die Bedrohungslage verändert. Personen die, LLM-Systeme sicher bereitstellen und durch KI-Werkzeuge Zeit gewinnen wollen.

Voraussetzungen

Grundlegendes Verständnis von IT-Sicherheit, Netzwerken, Webtechnologien sowie der Arbeit auf der Kommandozeile werden vorausgesetzt. Vorerfahrungen mit ChatGPT oder Cloud-Umgebungen erleichtern den Einstieg, sind aber nicht notwendig.

Agenda

• Technische Grundlagen: Vom Transformer-Modell zum autonomen KI-Agenten und warum Sprachmodelle schlecht im Rechnen sind

• Offensive KI: Wie "Vibe Coding" und Agenten die Bedrohungslage durch skalierbare Angriffe vergrößern

• Defensive KI: So schreibst du maßgeschneiderte Werkzeuge selbst und verbindest bestehende Lösungen

• Vertrauenswürdige Infrastruktur: Lokale Modelle, Retrieval Augmented Generation (RAG) und Model Context Protocol (MCP)

• KI-Härtung: Prompt Injection, Jailbreaks und Strategien für Sicherheit außerhalb des Modells (Guardrails)

• Werkzeugkasten: Open-Source-Tools für Implementierung, Angriff und Verteidigung