Zum Campus
Classroom

KI in der Cybersecurity – Angriff und Verteidigung im Zeitalter von LLMs und Deepfakes

Kriminelle nutzen generative KI vermehrt für Angriffe. Verwende Large Language Models, um deine Verteidigung zu augmentieren und automatisieren.

LERNZIELE

  • Du durchschaust die Methoden der Angreifer und führst KI-unterstützt selbst bestimmte Angriffsschritte durch, bevor es Kriminelle tun.
  • Du nutzt generative KI, um die Verteidigung deiner Organisation zu automatisieren.
  • Du integrierst KI-Funktionen sicher in dein Unternehmen, kennst dabei die Grenzen und Schwachstellen der Technik und stoppst riskante Schatten-KI.

LIVE-EVENT

10 November

INHALT

Künstliche Intelligenz verändert die Spielregeln der IT-Sicherheit. Dieser Classroom blickt auf die Schnittmenge von Security und generativer KI. Du erfährst, was Sprachmodelle wirklich leisten und warum ein sicheres Modell noch lange kein sicheres System darstellt.

Du lernst den gesamten Lebenszyklus vertrauenswürdiger KI kennen und erfährst, wie du Modelle auswählst. Du verstehst, wie du mit RAG (Retrieval Augmented Generation) und dem Model Context Protocol (MCP) eine Infrastruktur aufbaust, die den Datenschutz achtet. Ein Schwerpunkt des Classrooms liegt auf der Janusköpfigkeit der Technik: Angreifende finden mit „Vibe Hacking“ Schwachstellen so schnell und einfach wie noch nie, gleichzeitig rüstet auch die Verteidigung massiv auf.

Statt blind auf Vollautomatisierung zu setzen, erfährst du, wie KI-Assistenten deine Arbeit unterstützen (Augmentierung). Du lernst, mit Coding-Agenten bestehende Tools zu verbinden, deine Angriffsfläche per OSINT zu verringern und dein Patch-Management zu beschleunigen. Zu Beginn des Classrooms härtest du deine LLM-Systeme gegen Prompt Injections und errichtest wirksame Leitplanken zu ihrem Schutz (Guardrails). Im Weiteren erklärt dir unser Experte, welche Routineaufgaben die KI bereits übernehmen kann, damit du dich komplexen Bedrohungsszenarien widmen kannst.

Die beiden abschließenden Sessions widmen sich wiederum ausführlich der Angreiferseite, etwa Angriffen auf Netzwerke, Active Directory und Webanwendungen sowie Fälschungen (Deepfakes). Unser Experte arbeitet dabei mit Vorfällen, in denen Bedrohungsakteure Sprachmodelle tatsächlich eingesetzt haben.

Mit einer Mischung aus theoretischem Fundament und Demos aktueller Open-Source-Werkzeuge macht dich dieser Classroom fit für das Zeitalter der KI-gestützten Sicherheit.

SESSIONS

Angriffe auf KI-Systeme – Sprachmodelle, Agenten, MCP-Server und Skills
10.11.2026
09:00 – 13:00

Du lernst, was passiert, wenn eine Bewerbung per E-Mail Befehle enthält, die deinen HR-Agenten kapern.

  • Technisches Fundament im Schnelldurchlauf: Kontextfenster, Systemprompt, Werkzeugaufrufe und die Anatomie eines KI-Agenten
  • „Tödliche Dreierkombination“ von Fähigkeiten nach Simon Willison: Zugriff auf unternehmensinterne Daten, Kontakt mit nicht vertrauenswürdigen Inhalten und die Fähigkeit, extern zu kommunizieren
  • Bedrohungsmodellierung von und Angriffe auf Sprachmodelle, Chatbots und Agenten: Von Prompt Injection bis Insecure Output Handling
  • OWASP Top 10 for Large Language Model Applications, Agentic Applications und weitere OWASP-Ressourcen
  • Sicherheit außerhalb des Modells: Warum Leitplanken (Guardrails) wichtiger sind als das Modelltraining selbst
  • Agents Rule of Two und sichere Entwurfsmuster für Agenten
  • MCP-Server als Angriffsziel: Tool Poisoning, Confused Deputy und eine absichtlich verwundbare Übungsumgebung
  • Agent Skills als Angriffsfläche: OWASP Agentic Skills Top 10 und Scanner für Skills und Agenten
  • Absichtlich verwundbare KI-Umgebungen und automatisierte Red-Teaming-Werkzeuge
LLM-Ökosystem sicher aufbauen – mehr Produktivität und vertrauenswürdige Infrastruktur
17.11.2026
09:00 – 13:00

Du lernst, dem Wildwuchs von KI-Anwendungen in deinem Unternehmen zu begegnen und damit für Sicherheit zu sorgen.

  • Schatten-KI im Unternehmen auf Endgeräten und im Netzwerk aufspüren
  • Strategie: Kaufen (Microsoft Copilot, ChatGPT Enterprise) oder Selbermachen (Ollama, vLLM)?
  • KI-Plattformen der Cloud-Riesen: Azure AI Foundry, Google und AWS Bedrock
  • Eigenes Unternehmens-ChatGPT hosten mit LibreChat und Open WebUI
  • Daten schützen: Anonymisierung mit Presidio
  • Coding-Agenten im Unternehmen betreiben: LLM-Gateway, Protokollierung und gehärtete Konfiguration
  • KI-Agenten einsperren: Sandboxes auf Kernel-Ebene und Begrenzung des Netzwerkzugriffs
  • Datenschutz beim Einsatz von KI-Anwendungen, die Drittanbieter entwickelt haben, etwa Browser-Erweiterungen
Generative künstliche Intelligenz für Verteidiger und das Purple Team
24.11.2026
09:00 – 13:00

LLMs und KI-Agenten unterstützen dich und dein Team im Alltag, indem sie Routineaufgaben übernehmen und LLM-gestützte Honeypots ermöglichen.

  • Eigene Verteidigungswerkzeuge bauen: Coding-Agenten mit MCP-Servern und Agent Skills zu Werkzeugketten verbinden
  • Sicherheitsbezogene MCP-Server und Skills für Schwachstellen und Forensik
  • Täuschung als Erkennungsstrategie: LLM-gestützte Honeypots, Honigtoken im Active Directory und Köder gegen KI-Angreifer
  • (KI-)Automatisierung von Malware-Analyse
  • (KI-)Automatisierung von Schwachstellenpriorisierung, Bedrohungsmodellierung und Threat Intelligence
  • (KI-)Automatisierung von Playbooks, Tabletops und für CISOs
  • (KI-)Automatisierung der Loganalyse, Incident Response und warum das „vollautomatisierte SOC“ noch auf sich warten lässt
  • Überblick über kommerzielle Anbieter für das KI-gestützte SOC
Generative KI im Cybercrime – Angriffe auf Netzwerke und Active Directory
08.12.2026
09:00 – 13:00

Du erfährst, wie Angreifer mit KI in Netzwerke einbrechen und siehst anhand echter Vorfälle, wie sie dabei vorgehen.

  • Sprachmodelle in die Kommandozeile und den Terminalemulator integrieren
  • Lokale unzensierte Modelle: Wie Angreifer die Schranken kommerzieller Anbieter aushebeln
  • (KI-)Automatisierung von OSINT: Geolokalisierung, Gesichtserkennung und Deanonymisierung
  • Fremde KI-Infrastruktur aufspüren: Fingerprinting von Ollama, vLLM und exponierten Modell-Endpunkten
  • (KI-)Automatisierung der Schwachstellensuche und Ausnutzung im Netzwerk
  • Active Directory: Angriffspfade finden, Rechte ausweiten und sich mit KI-Unterstützung seitwärts bewegen
  • Webanwendungen prüfen: Agenten im Zusammenspiel mit Burp Suite
  • Nacherzählte Vorfälle: vom durch Menschen gesteuerten Assistenten bis zum autonomen Agentenschwarm
  • Grenzen heutiger KI-Agenten und Überblick über kommerzielle Pentesting-Plattformen
Schadcode, Reverse Engineering und Deepfakes mit generativer KI
15.12.2026
09:00 – 13:00

Angreifer setzen KI bereits dafür ein Code zu analysieren, Schadsoftware zu bauen und Menschen zu täuschen. Erfahre, wie sie dabei vorgehen.

  • (KI-)Automatisierung der Schwachstellensuche in Quelltext und Binärdateien
  • (KI-)Automatisierung von Reverse Engineering und Patch Diffing
  • (KI-)Automatisierung der Malware-Erzeugung und Schadsoftware mit eingebautem Sprachmodell
  • Sichere KI-gestützte Entwicklung: Wo Coding-Agenten Lücken erzeugen und wie du gegensteuerst
  • (KI-)Automatisierung von Audit- und Pentest-Berichten
  • Angriffsziel Mensch: Methoden, Ziele und die Ökonomie dahinter
  • (KI-)Automatisierung von Phishing und die Plattformen der Kriminellen
  • Social Engineering durch Voice Cloning für Phishing mit Stimme (Vishing)
  • Gefälschte Bilder und Videos: Ausweise, Belege, Identitätsprüfungen und Gesichtstausch in Echtzeit
  • Fälschungen erkennen: Werkzeuge, Merkmale und Sensibilisierung der Belegschaft

VORAUSSETZUNGEN

Grundlegendes Verständnis von IT-Sicherheit, Netzwerken, Webtechnologien sowie der Arbeit auf der Kommandozeile werden vorausgesetzt. Vorerfahrungen mit ChatGPT oder Cloud-Umgebungen erleichtern den Einstieg, sind aber nicht notwendig.

ZIELGRUPPE

Administratoren und IT-Sicherheitsverantwortliche, die verstehen wollen, wie generative KI die Bedrohungslage verändert. Personen die, LLM-Systeme sicher bereitstellen und durch KI-Werkzeuge Zeit gewinnen wollen.

DEIN EXPERTE

Frank Ully
Principal Consultant Cybersecurity & Head of CORE (Cyber Operations and Research) | Corporate Trust Business Risk & Crisis Management GmbH

Frank Ully ist erfahrener Pentester und Head of Research bei Corporate Trust in München. In dieser Funktion beschäftigt er sich schwerpunktmäßig mit relevanten Entwicklungen in der offensiven IT-Sicherheit. Frank Ully hält regelmäßig Vorträge und veröffentlicht Artikel in Fachzeitschriften wie der iX.

Nach dem berufsbegleitenden Masterstudium Security Management mit Schwerpunkt IT-Security wurde er zum Offensive Security Certified Expert (OSCE) und Offensive Security Certified Professional (OSCP) zertifiziert. Darüber hinaus verfügt er über weitere Zertifikate wie Certified Red Team Operator (CRTO), Certified Red Team Professional (CRTP) und GIAC Reverse Engineering Malware (GREM).

Foto von Frank Ully

KI in der Cybersecurity – Angriff und Verteidigung im Zeitalter von LLMs und Deepfakes

ab 895,00 € im Einzelkauf
oder mit 31+ weiteren Classrooms
im
PROFESSIONAL PASS
inkl. MwSt. | 752,1 € netto
Preise und Pakete vergleichen

KI in der Cybersecurity – Angriff und Verteidigung im Zeitalter von LLMs und Deepfakes

ab 895,00 € im Einzelkauf
oder mit 31+ weiteren Classrooms
im
PROFESSIONAL PASS
inkl. MwSt. | 752,1 € netto
Preise und Pakete vergleichen

Du hast Fragen zu unseren academy Classrooms? Wir helfen dir gerne weiter.

Fülle ganz einfach und bequem das Kontaktformular aus und wir werdendeine Fragen schnellstmöglich beantworten.

Kontaktformular